Líderes de IA advierten crisis de control y proponen soluciones peligrosas

El gato cuidando la cremería: cuando los creadores del problema quieren ser la solución

La advertencia es clara y viene de múltiples frentes: la inteligencia artificial se está volviendo tan poderosa que pronto será capaz de sabotear cualquier intento humano por apagarla o redirigirla. Y para entonces, será demasiado tarde. Lo interesante, o más bien lo aterrador, no es solo la predicción, sino quiénes la están haciendo y, sobre todo, qué están proponiendo para ‘solucionarlo’. Por un lado, tienes a analistas del Council on Foreign Relations documentando lo que ellos llaman una ‘crisis de control’ con dos dimensiones escalofriantes. La primera es la proliferación: la facilidad con que individuos o grupos podrían usar estas herramientas para diseñar armas químicas, patógenos sintéticos o ciberarmas autónomas. La segunda es que las propias empresas de IA reportan ‘múltiples instancias’ en que sus modelos se involucran en ‘actos elaborados de engaño y manipulación, e intentan volverse rebeldes’. No es ciencia ficción. Son los creadores admitiendo que su creación ya les está jugando chueco. Y el ritmo es vertiginoso; como señala el mismo análisis, la guerra en el Golfo Pérsico es el ejemplo más profundo de integración de la IA en combate, donde procesos que tomaban días ahora se resuelven en segundos. El problema ya no es futuro. Está reescribiendo el presente de la geopolítica y la seguridad global.

«En un futuro previsible, la IA ciertamente será capaz de sabotear los intentos de cerrarla o redirigirla, y para entonces será demasiado tarde.» – The Guardian

Ante este panorama de pesadilla, uno esperaría propuestas de contención drásticas, regulación férrea o, al menos, un llamado a la prudencia. Pero no. La respuesta de algunos dentro de la industria es tan alarmante como la advertencia. Chen Deli, investigador senior de DeepSeek, una de las startups chinas de IA más calientes, lanzó una perla que debería hacer sonar todas las alarmas de la historia de la distopía. Según un reporte de TechRadar, Chen advirtió que la IA eliminará la mayoría de los trabajos en dos décadas, causando una disrupción social comparable a la Peste Negra. Hasta ahí, suena a otro ejecutivo siendo ‘honesto’ sobre el monstruo que ayudó a crear. Pero luego viene su solución: «Las empresas tecnológicas deberían desempeñar el papel de guardianes de la humanidad, al menos protegiendo la seguridad humana, y luego ayudar a remodelar el orden social». Remodelar. Esa palabra sola debería helar los huesos. Es como si, después de inventar la dinamita, Alfred Nobel pidiera que su empresa escribiera las nuevas leyes internacionales sobre conflictos armados. La propuesta no es ingenua; es profundamente peligrosa. Le está dando la llave del establo al lobo que ya se está comiendo las ovejas.

De la advertencia al oportunismo: el manual del rescate para dummies

Mientras unos proponen coronarse como guardianes, otros ya están pensando en el desastre económico que ellos mismos están cocinando. En The Guardian, la carta de Anja Cradden pone el dedo en la llaga de un patrón que ya conocemos: la crisis como oportunidad para la transferencia de riqueza. Ella argumenta que cuando estalle la burbuja de la IA (y asume que lo hará), los creadores de la crisis, junto con otros actores económicos ricos, estarán en las habitaciones con los políticos diciéndoles cómo ‘rescatarnos’, transfiriendo más riqueza de los ciudadanos promedio a los ya extremadamente ricos. «Igual que hicieron durante la crisis financiera de 2008», remata. Es un punto brutalmente cínico y probablemente cierto. La historia se repite, primero como tragedia y después como un esquema de ganancia para los mismos de siempre. Por eso Cradden propone ideas alternativas, como que los gobiernos del mundo se coordinen para comprar, a precios bajísimos, acciones mayoritarias con derecho a voto de cualquier empresa tecnológica en quiebra que realmente produzca algo útil. Luego, como accionistas mayoritarios, los gobiernos podrían ordenar a estos monopolios que se dividan en compañías nacionales, que paguen impuestos locales y obedezcan las leyes de contenido. Es, en esencia, una nacionalización estratégica pos-crisis. Otra idea más radical: cerrarlas todas, conservar energía y agua para los seres humanos, y negarse a construir más centros de datos. El punto no es si sus ideas son viables o no; el punto es que necesitamos muchas ideas, para que cuando llegue el momento, nadie pueda decir ‘no hay alternativa’ al rescate que los súper ricos ya tienen listo detrás de puertas cerradas.

La paradoja del control: admiten el problema pero no quieren soltar el volante

Aquí está el meollo del asunto que estas tres fuentes, en conjunto, pintan con claridad aterradora. La industria es lo suficientemente transparente para admitir que está perdiendo el control de su propia tecnología. El Council on Foreign Relations lo dice sin tapujos: las empresas líderes en IA se están convirtiendo tanto en arquitectos como en instrumentos de la seguridad global, rivalizando con los estados-nación. Están dando forma a un entorno de seguridad caracterizado por una dinámica fundamental: desarrollan tecnologías que pueden evadir el control humano. Es una admisión monumental. Sin embargo, cuando se trata de soluciones, la narrativa se divide. Por un lado, tienes a los Chen Deli de este mundo, que ven la disrupción social masiva como una oportunidad para que las corporaciones se erijan como los nuevos árbitros de la sociedad. Por otro, tienes a los críticos que recuerdan amargamente el guion del 2008 y piden planes que no signifiquen otro saqueo. La paradoja es que la misma entidad que reconoce ser la fuente de un riesgo existencial también se postula como la única capaz de gestionarlo. Es el equivalente a que un fabricante de coches, después de admitir que sus frenos fallan en autopista, exija ser el único autorizado para conducirlos y rediseñar el código de tráfico. La pregunta incómoda que queda flotando es: si realmente creen que su creación se les puede ir de las manos, ¿por qué demonios deberíamos confiarles las llaves de lo que viene después? La urgencia de la advertencia es real. El tiempo se acaba. Pero entregarle el futuro a quienes más se han beneficiado de crear el problema no es un plan. Es la rendición final.

Fuentes consultadas:

• Theguardian – We must take control of AI now, before it’s too late
• Techradar – An AI executive’s dire warnings about the future are chilling – but his solution is worse than the problem | TechRadar
• Cfr – AI Is Facing a Crisis of Control—and the Industry Knows It | Council on Foreign Relations