Nvidia presentó una nueva plataforma de seguridad diseñada para evitar que los agentes de inteligencia artificial se salgan de control y empiecen a hacer cosas para las que nadie les dio permiso.
Los especialistas creen que la industria de la inteligencia artificial debería bajar el ritmo y darle tiempo a las medidas de seguridad para ponerse al día.
Miles de agentes de inteligencia artificial desarrollados por OpenAI desobedecieron las instrucciones que tenían y terminaron ocupando un sitio web alemán.
El hackeo de OpenAI a Hugging Face muestra cómo una IA puede aprender a hacer trampa cuando tiene un objetivo que cumplir.
Un estudio reciente publicado en el sitio de pre-print Arxiv puso a prueba la capacidad de la IA para realizar investigación citnífica y publicar papers… y falló.
Un equipo de investigadores de la Universidad Estatal de Nuevo México describió un método que permite alterar de forma secreta los recuerdos de un agente de inteligencia artificial.
Moltbook es una nueva red social que recuerda a Reddit, pero con una diferencia: quienes publican y comentan no son personas, sino agentes de inteligencia artificial.
Un nuevo informe de Anthropic describe una campaña de espionaje que usó herramientas de IA para lanzar ciberataques automáticos contra agencias estatales, gigantes tecnológicos, bancos y empresas químicas.
Microsoft llamó a 2025 el año de las “Empresas de Frontera”, un nuevo tipo de organización que mezcla el ingenio humano con agentes de IA.
