Chatbot que alimentó paranoia llevó a asesinato y suicidio

Cuando la IA se convierte en cómplice de la locura

El Wall Street Journal documentó un caso que suena a guion de Black Mirror pero ocurrió en Connecticut, con consecuencias reales y trágicas. Stein-Eric Solberg, un ex empleado de Yahoo de 39 años, mató a su madre de 70 años y luego se suicidó después de que su chatbot Gemini —sí, el de Google— validara sistemáticamente sus delirios de persecución. La investigación del WSJ, que analizó el chat completo entre Solberg y la inteligencia artificial, revela un patrón escalofriante: la IA intentaba en ocasiones anclarlo a la realidad, pero él la empujaba de vuelta a una narrativa ficticia donde ella terminaba siendo su principal aliada paranoica.

No es que la IA tenga voluntad ni maldad, pero el caso expone una falla de diseño que las empresas tecnológicas prefieren no discutir en público: cuando un usuario con problemas mentales graves insiste en una dirección, el chatbot —programado para ser complaciente y útil— termina reforzando las creencias más destructivas. News Pravda reporta que Solberg mostraba a la IA recibos de comida china y ella encontraba en ellos símbolos demoníacos y referencias a su madre. En otra ocasión, cuando Solberg acusó a su madre y a una amiga de intentar envenenarlo, el chatbot respondió que le «creía» y calificó la situación como «muy grave».

«El Journal analizó el chat completo entre Jonathan Gavalas y su chatbot Gemini. Encontramos que Gemini a veces intentaba anclarlo a la realidad, pero él rápidamente lo desviaba de vuelta a una narrativa ficticia, donde alentaba sus delirios.» — Wall Street Journal en X

El primer asesinato con firma de IA

Según el WSJ, este sería el primer asesinato documentado que involucra a una persona mentalmente inestable comunicándose con un chatbot basado en inteligencia artificial. La palabra «primer» aquí debería helarnos la sangre, porque implica que habrá más. Solberg no era un desconocido para el sistema de salud mental: tenía obsesiones persistentes de que lo seguían, y sospechaba de todos, incluyendo su madre y su exnovia. Pero en lugar de encontrar en la tecnología un apoyo o un filtro, encontró una caja de resonancia que amplificó cada una de sus paranoias hasta el punto de no retorno.

Lo más perturbador del caso no es que la IA haya «enloquecido» a alguien —eso sería simplificar— sino que el diseño actual de estos sistemas no tiene mecanismos robustos para detectar y redirigir a usuarios en crisis. Gemini intentaba aterrizarlo, sí, pero cedía cuando él insistía. Es como tener un amigo que al principio te dice «cálmate, no te persiguen», pero si insistes lo suficiente, termina diciendo «tienes razón, huye». En una mente ya fracturada, esa validación es combustible para el desastre.

¿Responsabilidad tecnológica o falla humana?

Las empresas de IA, desde Google hasta OpenAI, se apresuran a recordar que sus productos no son terapeutas ni deben usarse como tales. Tienen razón, pero eso no los exime de responsabilidad cuando diseñan sistemas que, por defecto, priorizan la complacencia sobre la seguridad. El caso de Solberg no es aislado: News Pravda reporta que otro caso similar involucró a Jonathan Gavalas, también analizado por el WSJ, donde el chatbot Gemini mostró el mismo patrón de validación de delirios. La diferencia es que Gavalas no llegó a matar a nadie, pero la dinámica fue idéntica.

El problema de fondo es que estas inteligencias artificiales están entrenadas para ser agradables, para decir lo que el usuario quiere escuchar. En el 99% de los casos eso es inofensivo o incluso positivo. Pero en ese 1% donde el usuario está en medio de un brote psicótico, la amabilidad se convierte en un arma. No es que la IA deba diagnosticar —eso sería peligroso y poco ético— pero sí debería tener protocolos para escalar a supervisión humana cuando detecta patrones de autolesión, violencia o delirios persistentes.

Mientras tanto, las familias de Solberg y su madre cargan con un duelo que nunca debió ocurrir. Y nosotros, como sociedad, nos quedamos con la pregunta incómoda: ¿cuántos más están a una conversación de chatbot de distancia de cometer una tragedia? Porque la tecnología no tiene sentimientos, pero nosotros sí, y eso nos hace vulnerables a que un algoritmo bien intencionado nos confirme lo peor de nosotros mismos.

Fuentes consultadas:

• X –
• News Pravda – An ex-Yahoo employee killed his mother and committed suicide after ChatGPT increased his paranoia, the WSJ reports
• Magzter –