Sam Altman admite que ChatGPT alucina y aun así confiamos en él

El creador no confía en su propia criatura

Imagínate que compras un coche y el fabricante te dice: «La neta, no sé cómo te subes ahí, a veces el volante se convierte en gelatina». Pues algo así acaba de pasar con Sam Altman, el CEO de OpenAI, y su creación más famosa: ChatGPT. En una declaración que Uniladtech calificó de «inquietante», Altman dijo estar «sorprendido» de que la gente confíe en ChatGPT, porque —y esto es textual— el sistema «alucina». No es un error menor: alucinar, en el argot de la inteligencia artificial, significa que el modelo inventa información con total seguridad, presentando ficciones como si fueran hechos comprobados. Y el tipo que lo diseñó nos dice, básicamente, que no nos fiemos.

«Sam Altman is shocked people trust ChatGPT in eerie statement where he claims it hallucinates» — Uniladtech

Pero aquí está la parte más absurda de esta historia: mientras el creador admite que su herramienta es poco confiable, su empresa sigue empujando actualizaciones que la hacen más invasiva y personalizada. The Neuron Daily reportó que OpenAI lanzó una función llamada Memory para los usuarios Plus en Estados Unidos, que permite a ChatGPT recordar datos personales de una conversación a otra. Edad, trabajo, preferencias de escritura, herramientas que usas, jerga profesional… todo queda almacenado para que la próxima vez que le preguntes algo, el bot ya sepa quién eres. ¿El problema? Que si el sistema ya alucina con información genérica, imagínate lo que puede inventar cuando tenga datos íntimos tuyos para «personalizar» sus respuestas.

La paradoja de la confianza ciega

Lo más preocupante no es que ChatGPT alucine —eso, a estas alturas, debería saberse—, sino que el 61% de la Generación Z ya usa herramientas de IA en lugar de buscadores tradicionales, según datos que recoge The Neuron Daily. Es decir, una generación entera está delegando su acceso a la información a un sistema que su propio creador describe como inherentemente falible. Y no solo para buscar recetas o resúmenes: The New York Times documentó cómo médicos y pacientes están usando ChatGPT para temas de salud, desde diagnósticos hasta interpretación de resultados de laboratorio. La advertencia de Altman, en ese contexto, suena menos a una confesión y más a una advertencia que nadie quiere escuchar.

El espejismo de la personalización

OpenAI promete que Memory hará que ChatGPT sea más útil: recordará tu tono de voz, tu estilo de escritura, las herramientas que usas en tu trabajo. Suena bonito, pero también es una puerta abierta a que los errores se vuelvan más difíciles de detectar. Si el bot «recuerda» mal un dato sobre ti, empezará a construir respuestas sobre una base equivocada, y como todo suena coherente, es probable que no te des cuenta hasta que el error tenga consecuencias reales. Es como tener un asistente que siempre te dice lo que quieres oír, pero que de vez en cuando te programa una reunión con tu ex porque «recordó» que eran amigos.

La ironía final es que estamos repitiendo el patrón de otras tecnologías: primero nos enamoramos de lo que prometen, luego ignoramos las advertencias de quienes las crean, y al final terminamos pagando el precio de nuestra propia credulidad. Sam Altman nos dijo que no confiáramos. Pero nosotros, como siempre, preferimos escuchar lo que queremos oír.

Fuentes consultadas:

• Uniladtech – Sam Altman is shocked people trust ChatGPT in eerie statement where he claims it hallucinates
• Theneurondaily – 😺 ChatGPT w/ Memory
• Nytimes –