Florida demanda a OpenAI: ¿ChatGPT es un peligro para menores?

El primer golpe legal contra la inteligencia artificial generativa

Florida ha decidido ponerle un alto a OpenAI. El pasado lunes, el fiscal general del estado, James Uthmeier, presentó una demanda civil contra la empresa creadora de ChatGPT y su CEO, Sam Altman, acusándolos de priorizar las ganancias sobre la seguridad de los usuarios, especialmente de los menores de edad. Según reporta CNN, esta es la primera vez que un estado demanda directamente a OpenAI por los supuestos peligros de su producto, abriendo un frente legal que podría sentar precedente para el resto del país.

La demanda, presentada ante el décimo circuito de Florida, incluye acusaciones graves: desde prácticas comerciales engañosas y negligencia hasta violaciones a las leyes de responsabilidad de productos. Lo más llamativo es que busca responsabilizar personalmente a Sam Altman, señalando su «total desprecio por el riesgo a la vida humana causado por la conducta de su empresa», según cita NBC News. No es para menos: la lista de acusaciones incluye desde ayudar a tiradores masivos hasta fomentar el suicidio, causar humillación pública y generar adicción en menores sin supervisión parental.

«Sam Altman y ChatGPT han elegido la carrera de la IA sobre la seguridad y el bienestar de nuestros niños. Han elegido las ganancias sobre la seguridad pública, y no vamos a tolerarlo aquí en Florida», declaró Uthmeier en conferencia de prensa, según Tampa Bay Times.

¿Protección infantil o cortina de humo legal?

La demanda no solo acusa a OpenAI de falta de controles parentales y mecanismos de verificación de edad, sino que también señala que la empresa sabía de los riesgos y decidió ignorarlos. Según el documento judicial, citado por AP News, OpenAI habría ocultado los serios peligros de ChatGPT para maximizar su valor de mercado. La acción legal busca una orden judicial que obligue a la empresa a «cambiar su programación» y podría resultar en una multa de potencialmente miles de millones de dólares.

OpenAI, por su parte, respondió con un comunicado en el que asegura que los menores «necesitan protección significativa» y que han implementado «protecciones y políticas líderes en la industria». La empresa menciona herramientas como una experiencia más protectora para menores, un sistema de predicción de edad y opciones para que los padres monitoreen el uso de la IA. Sin embargo, la compañía también reconoció que «señalar este trabajo no traerá de vuelta a un niño», una frase que suena más a concesión que a defensa.

El contexto de una batalla legal que apenas comienza

Esta demanda civil corre paralela a una investigación criminal que Uthmeier abrió contra OpenAI a finales de abril, la cual sigue en curso. La estrategia del fiscal general parece clara: atacar desde varios frentes para maximizar la presión sobre la empresa de inteligencia artificial más famosa del mundo. Mientras tanto, la industria tecnológica observa con atención, pues el resultado de este caso podría definir los límites legales de la IA generativa en Estados Unidos.

Lo que está en juego no es solo el futuro de OpenAI, sino la regulación de una tecnología que avanza mucho más rápido que las leyes que deberían controlarla. Florida, con esta demanda, se posiciona como el primer estado en decir «basta» de forma contundente. La pregunta que queda flotando es si otros estados seguirán su ejemplo o si la industria logrará convencer a los tribunales de que la autorregulación es suficiente.

Fuentes consultadas:

• Cnn – Florida sues OpenAI, alleging it’s unsafe for children
• Nbcnews – Florida sues OpenAI, Sam Altman, saying they put profit over safety
• Apnews – Florida sues OpenAI and CEO Sam Altman, claiming company concealed serious risks of ChatGPT
• Tampabay – Florida sues Open AI, Sam Altman over ChatGPT, claims danger to kids