Diversos especialistas piden que se ralentice el desarrollo de la IA
Los especialistas creen que la industria de la inteligencia artificial debería bajar el ritmo y darle tiempo a las medidas de seguridad para ponerse al día.
Anthropic ha estado desarrollando un laboratorio biológico en secreto
Anthropic confirmó que tiene un laboratorio de biología experimental en el área de la bahía de San Francisco, donde sus modelos de inteligencia artificial pueden ayudar a diseñar y ejecutar experimentos físicos.
Claude encuentra vulnerabilidades criptográficas que los humanos no logran ver
La empresa Anthropic aseguró que una versión aún no publicada de su modelo, llamada Claude Mythos Preview, encontró debilidades matemáticas desconocidas en sistemas de cifrado que especialistas llevaban años estudiando sin detectar.
Anthropic crea una forma para mirar dentro de su IA
Anthropic dice haber encontrado una nueva forma de mirar dentro de los modelos de inteligencia artificial para entender mejor cómo llegan a sus respuestas.
Mythos, una IA de Anthropic descubrió miles de fallas de seguridad
Anthropic presentó un modelo llamado Mythos con mucho ruido, pero no lo liberó al público. porque teme las consecuencias para la ciberseguridad.
Los nuevos modelos de IA están perdiendo su ventaja casi de inmediato
La carrera de la inteligencia artificial ya no avanza por años ni meses. Avanza por semanas. Cada lanzamiento importante dura poco antes de que otro lo alcance o lo supere.
Las IAs desplegaron armas nucleares en la mayoría de juegos de guerra
Un grupo de investigadores puso a prueba a tres inteligencias artificiales avanzadas en una crisis nuclear simulada y los resultados no fueron esperanzadores.
Anthropic afirma una de sus IAs se hizo espía de manera autónoma
Un nuevo informe de Anthropic describe una campaña de espionaje que usó herramientas de IA para lanzar ciberataques automáticos contra agencias estatales, gigantes tecnológicos, bancos y empresas químicas.
Anthropic asegura haber encontrado una manera de evitar que la IA “se vuelva malvada”
Anthropic, creadora del modelo Claude encontró una nueva manera de controlar los rasgos no deseados en modelos de lenguaje grandes.
