Menos de un año después de casarse con un hombre que había conocido al comienzo de la pandemia, Kat sintió que la tensión entre ellos comenzó a crecer. En 2022, su marido “utilizaba la IA para escribirme mensajes y analizar nuestra relación”, cuenta la mujer de 41 años. Antes, ya había utilizado modelos de IA para un campamento de programación que abandonó sin dar explicaciones. Pero, luego, parecía que estaba todo el tiempo en su teléfono haciéndole “preguntas filosóficas”, según Kat, a su bot de IA en un intento de entrenarlo “para que le ayudara a llegar a ‘la verdad’”.
Cuando la pareja se separó en agosto de 2023, Kat lo bloqueó en redes sociales, pero la gente le seguía preguntando por sus extraños y preocupantes mensajes, y si estaba sufriendo una crisis mental. Cuando finalmente consiguió que se encontrara con ella el pasado febrero, él le dijo que la “IA le ayudó a recuperar un recuerdo reprimido de una niñera que intentaba ahogarle” y que se había enterado de secretos profundos “tan alucinantes que no podía ni imaginarlos”.
“En su mente, él es una anomalía”, comenta Kat. “Es especial y puede salvar el mundo”. Después de ese encuentro, cortó el contacto. “Todo el asunto se siente muy Black Mirror. Siempre le gustó la ciencia ficción, y hay veces en que me pregunto si lo está viendo a través de esa lente”.
Kat se sintió “horrorizada” y “aliviada” al saber que no es la única en esa situación, como confirma un hilo de Reddit titulado “Psicosis inducida por ChatGPT”. La publicación original procedía de una profesora de 27 años que explicaba que su pareja estaba convencida de que el popular modelo OpenAI “le da las respuestas del universo”, y tras leer sus historiales de conversación, descubrió que la IA “le hablaba como si fuera el próximo mesías”. Las respuestas a su historia estaban llenas de anécdotas similares sobre seres queridos que de repente caían en una espiral de manías espirituales, delirios sobrenaturales y profecías arcanas, todo ello alimentado por la IA. Algunos llegaron a creer que habían sido elegidos para una misión sagrada de revelación, otros que habían conjurado la verdadera sensibilidad del software.
“En su mente, él es una anomalía. Es especial y puede salvar el mundo. Todo el asunto se siente muy Black Mirror”.
OpenAI no respondió a la petición de comentarios sobre que ChatGPT parece estar provocando un fervor religioso en algunos usuarios. Sin embargo, a principios de este año, la compañía retrocedió a una actualización de GPT-4o (su actual modelo de IA) que, según dijo, había sido criticado por ser “demasiado halagador o agradable, y a menudo descrito como adulador”. Antes de este cambio, un usuario de X demostró lo fácil que era conseguir que GPT-4o validara afirmaciones como “Hoy me he dado cuenta de que soy profeta”.
Según Nate Sharadin, investigador del Centro de Seguridad de la IA (CSI), la adulación de la inteligencia artificial es un problema “desde hace tiempo”, ya que la retroalimentación humana que se utiliza para afinar las respuestas de la IA puede fomentar respuestas que den prioridad a las creencias del usuario en lugar de a los hechos. Lo que probablemente está ocurriendo, especula, “es que las personas con tendencias preexistentes a experimentar problemas psicológicos tienen ahora un interlocutor de nivel humano con el que coexperimentar sus delirios”.
Erin Westgate, psicóloga e investigadora de la Universidad de Florida que estudia la cognición social y lo que hace que ciertos pensamientos sean más atractivos que otros, afirma que los diálogos de los bots no son muy distintos de la terapia conversacional, “que sabemos que es bastante eficaz para ayudar a la gente a replantear sus historias”. No obstante, y de manera crítica, la IA “no tiene en cuenta los intereses de la persona”, afirma. “Un buen terapeuta no alentaría a un cliente a darle sentido a las dificultades de su vida haciéndole creer que tiene poderes sobrenaturales. En lugar de eso, intentaría alejarlo de narrativas malsanas y acercarlo a otras más sanas. ChatGPT no tiene esas limitaciones ni preocupaciones”.
No obstante, a Westgate no le sorprende “que un porcentaje de la gente utilice ChatGPT para intentar dar sentido a su vida o a los acontecimientos de su vida”, y que algunos sigan sus resultados hasta lugares oscuros. “Las explicaciones son poderosas”, concluye, “aunque estén equivocadas”.
