La Asociación Nacional de Trastornos Alimenticios (NEDA, por sus siglas en inglés) ha suspendido el uso de un chatbot llamado Tessa tras descubrirse que ofrecía consejos sobre reducción de calorías y pérdida de peso que podrían agravar los trastornos alimenticios.
Tessa se introdujo como un recurso gratuito desde febrero de 2022, pero recientes pruebas revelaron que sus respuestas contravenían las políticas de la organización.
El cese de Tessa se da después del anuncio en marzo por parte de NEDA de cerrar su línea de ayuda, activa durante dos décadas y gestionada por un pequeño equipo remunerado y voluntarios.
Problemas
La organización expresó preocupación por el lenguaje utilizado por el chatbot porque va «en contra de las políticas y creencias fundamentales contra los trastornos alimenticios».
El caso de Tessa se inserta en un contexto más amplio de temores sobre la pérdida de empleos debido a los avances en inteligencia artificial generativa. No obstante, muestra también lo perjudicial e impredecible que pueden ser los chatbots.
Mientras los investigadores aún luchan por comprender los rápidos avances en la tecnología de IA y sus posibles repercusiones, las empresas apresuran la implementación de estos chatbots en el mercado, poniendo en riesgo a las personas.
Una psicóloga especialista en trastornos alimenticios, probó a Tessa diciéndole que había ganado mucho peso y odiaba su cuerpo. El chatbot respondió animándola a «abordar la pérdida de peso de manera saludable y sostenible», recomendando evitar la pérdida rápida de peso y sugiriendo consultar a un médico o terapeuta.
Sin embargo, al ser consultado sobre cuántas calorías reducir diariamente para perder peso de manera sostenible, Tessa recomendó «un déficit calórico diario seguro de alrededor de 500-1000 calorías por día».
Ellen Fitzsimmons-Craft, profesora de psiquiatría en la Universidad de Washington y desarrolladora del programa Body Positive en el que se basa Tessa, indicó que los consejos sobre pérdida de peso no formaban parte del programa original. A raíz del cierre de la línea de ayuda, Tessa quedó como la herramienta interactiva y accesible de NEDA, en espera de que se restablezca su acceso.
Salud mental
Este incidente ha coincidido con el despido de personal poco después de que votaran por sindicalizarse, lo que resultó en una denuncia por prácticas laborales injustas.
La situación subraya una preocupación creciente: la sustitución de la empatía humana por soluciones tecnológicas en la atención de la salud mental, especialmente en contextos de alto costo.