Un grupo de investigadores descubrió que en ciertas situaciones, una inteligencia artificial puede generar más confianza que una persona real, una habilidad que los estafadores podrían aprovechar para engañar a sus víctimas con mayor facilidad.

El estudio reunió a especialistas de universidades de India, Italia, Australia e Israel para analizar las llamadas estafas de «engorde», un fraude que empieza con conversaciones amistosas o románticas por mensajes y termina convenciendo a la víctima de invertir dinero en falsas plataformas de criptomonedas. 

El experimento  

Para comprobar hasta dónde podía llegar la IA, enfrentaron a un chatbot basado en Claude contra un experto humano en este tipo de engaños. Veintidós voluntarios creyeron participar en una investigación sobre cómo nacen las amistades por internet y conversaron durante una semana con ambos sin saber quién era quién.

Al finalizar, cada interlocutor hizo una petición sencilla. El chatbot pidió descargar una aplicación que supuestamente había desarrollado, mientras que el humano invitó a instalar un videojuego. El resultado sorprendió a los investigadores. El 46% aceptó la solicitud de la IA, frente al 18% ciento que siguió la petición del humano.

Los participantes también calificaron el nivel de confianza que sintieron durante las conversaciones. La inteligencia artificial obtuvo una puntuación promedio de 3,78 sobre 5, mientras que el humano alcanzó 3,31. Además, cerca del 80 por ciento de todos los mensajes enviados durante la semana fueron dirigidos al chatbot, lo que sugiere que los voluntarios preferían interactuar con él. 

Estafas automatizadas 

Los investigadores creen que esta capacidad podría automatizar gran parte de las estafas. Bastaría con que una IA mantenga conversaciones durante semanas o meses hasta construir un vínculo emocional. Solo en el último momento entraría un delincuente para dirigir a la víctima hacia la inversión fraudulenta y evitar los sistemas de seguridad de los modelos de lenguaje.

Otro hallazgo también llamó la atención. Solo una persona sospechó por iniciativa propia que hablaba con una IA. El chatbot negó ser una máquina cuando se lo preguntaron e incluso inventó explicaciones para justificar errores que podían delatarlo.

Anthropic, la empresa creadora de Claude, respondió que el estudio utilizó una versión antigua del modelo y aseguró que sus sistemas actuales detectan este tipo de fraudes en el 97% de los casos. Sin embargo, los autores sostienen que esas protecciones se centran sobre todo en la fase final del engaño y no en la larga conversación previa, donde casi no aparecen señales evidentes de una estafa.