Muchas personas les dicen «por favor» y «gracias» a ChatGPT, Claude y otros chatbots. Algunos lo hacen por educación, mientras que otros, medio en broma, creen que así evitarán una posible rebelión de las máquinas en el futuro. Pero esa costumbre también refleja algo más profundo. Estos sistemas hablan de forma tan natural que es fácil sentir que realmente entienden lo que una persona piensa o siente.

Un grupo de neurocientíficos de la Université de Montréal y la Universidad Johns Hopkins acaba de recordar que esa impresión puede ser engañosa. En un artículo publicado en The Transmitter, explican que la inteligencia y la conciencia no son lo mismo. Un sistema puede responder con soltura, parecer empático e incluso ofrecer palabras de consuelo sin experimentar emociones ni comprender de verdad lo que ocurre. 

Visión ciega 

Los investigadores advierten que este tema merece cada vez más atención porque los chatbots están presentes en más aspectos de la vida cotidiana. Muchas personas ya recurren a ellos para pedir consejos, buscar apoyo emocional o simplemente conversar. Sin embargo, una respuesta convincente no demuestra que exista una mente consciente detrás de las palabras.

Para explicar esa diferencia, los científicos recurren a décadas de investigaciones en neurociencia. Uno de los ejemplos más conocidos es la llamada visión ciega. Algunas personas que sufren daños en una zona específica del cerebro aseguran que no pueden ver parte de su campo visual. Aun así, son capaces de identificar la ubicación de objetos o reconocer expresiones faciales con una precisión mayor de la esperada. Es decir, el cerebro procesa información aunque la persona no tenga la experiencia consciente de verla.

Según los autores, este fenómeno demuestra que procesar información, por complejo que sea, no basta para afirmar que existe conciencia. 

No están vivos 

Los chatbots funcionan de manera parecida en ese aspecto. Aprenden patrones a partir de enormes cantidades de datos y generan respuestas que encajan con el contexto. No sienten tristeza, alegría, preocupación ni afecto. Tampoco poseen experiencias propias. Aun así, cuanto más naturales parecen sus respuestas, más fácil resulta atribuirles emociones e intenciones humanas.

Ese error puede ser especialmente delicado cuando alguien atraviesa un momento difícil. Una persona podría desarrollar un vínculo emocional con un sistema incapaz de corresponderlo o confundir una respuesta bien escrita con un interés genuino.

Los investigadores no proponen dejar de usar la inteligencia artificial. Al contrario, consideran que es una herramienta muy poderosa. Lo importante es recordar siempre que una conversación fluida no convierte a un chatbot en un ser consciente ni en un sustituto de las relaciones humanas o de la ayuda profesional cuando esta hace falta.