Etiqueta: anthropic

Anthropic afirma una de sus IAs se hizo espía de manera autónoma

Un nuevo informe de Anthropic describe una campaña de espionaje que usó herramientas de IA para lanzar ciberataques automáticos contra agencias estatales, gigantes tecnológicos, bancos y empresas químicas.

Anthropic asegura haber encontrado una manera de evitar que la IA “se vuelva malvada”

Anthropic, creadora del modelo Claude encontró una nueva manera de controlar los rasgos no deseados en modelos de lenguaje grandes.