Mythos, una IA de Anthropic descubrió miles de fallas de seguridad
Anthropic presentó un modelo llamado Mythos con mucho ruido, pero no lo liberó al público. porque teme las consecuencias para la ciberseguridad.
Los nuevos modelos de IA están perdiendo su ventaja casi de inmediato
La carrera de la inteligencia artificial ya no avanza por años ni meses. Avanza por semanas. Cada lanzamiento importante dura poco antes de que otro lo alcance o lo supere.
Las IAs desplegaron armas nucleares en la mayoría de juegos de guerra
Un grupo de investigadores puso a prueba a tres inteligencias artificiales avanzadas en una crisis nuclear simulada y los resultados no fueron esperanzadores.
Anthropic afirma una de sus IAs se hizo espía de manera autónoma
Un nuevo informe de Anthropic describe una campaña de espionaje que usó herramientas de IA para lanzar ciberataques automáticos contra agencias estatales, gigantes tecnológicos, bancos y empresas químicas.
Anthropic asegura haber encontrado una manera de evitar que la IA “se vuelva malvada”
Anthropic, creadora del modelo Claude encontró una nueva manera de controlar los rasgos no deseados en modelos de lenguaje grandes.
