YouTube abre su detector de deepfakes a políticos y periodistas

El nuevo sheriff digital: YouTube con la estrella

Imagina que un día te despiertas y hay un video falso tuyo en internet, uno tan convincente que hasta tu mamá te llama para preguntarte por qué estás vendiendo criptomonedas estafa en un directo. Ahora imagina que eso le pasa a un político en plena campaña o a un periodista cubriendo una guerra. El caos sería instantáneo. Pues ese es el mundo que la inteligencia artificial ya nos entregó, sin envoltura de regalo. Y ahora, YouTube se presenta como el héroe que viene a poner orden en el desmadre que, hay que decirlo, su propio ecosistema y el apetito insaciable por contenido viral ayudaron a crear. La plataforma anunció la expansión de su herramienta de «detección de parecido» (likeness detection), que ya estaba disponible para millones de creadores, a un grupo piloto de políticos, funcionarios gubernamentales y periodistas. La narrativa es de protección, de salvaguardar la integridad del discurso público. Pero, como en toda buena película de Hollywood, la trama tiene más capas de las que aparenta.

La herramienta: ¿Content ID para tu cara?

El mecanismo, según detallan The Verge y NBC News, es sencillo en teoría: los participantes deben enviar un video de sí mismos y una identificación oficial. YouTube usa esos datos para escanear su plataforma en busca de contenido generado por IA que se parezca a ellos. Cuando encuentra un match, les notifica. Luego, ellos pueden solicitar la remoción del video. Suena a un sistema infalible, ¿no? El detalle está en la letra chiquita. La remoción no es automática. YouTube evalúa cada solicitud bajo sus políticas de privacidad, que tienen excepciones claras para parodia, sátira y crítica política. En otras palabras, un deepfake burdo de un líder mundial haciendo el baile del perreo podría quedarse arriba si se considera una sátira clara. Aquí es donde la cosa se pone interesante: ¿quién define qué es sátira legítima y qué es desinformación malintencionada? La respuesta es un algoritmo y un equipo de moderación de YouTube, un árbitro que, históricamente, ha tenido problemas de consistencia monumentales.

«YouTube has a long history of protecting free expression, and that includes parody, satire, and political critique. If a video of a world leader is clear parody, it’s likely to stay up,» dijo Leslie Miller, vicepresidenta de asuntos gubernamentales de YouTube, en una declaración recogida por The Verge.

Esta cinta de doble cara es el núcleo del asunto. Por un lado, YouTube se viste de paladín de la verdad, ofreciendo una herramienta proactiva. Por el otro, se reserva el derecho de ser el juez final sobre lo que constituye un abuso y lo que es expresión protegida. Amjad Hanif, vicepresidente de productos para creadores de YouTube, admitió a la prensa que el volumen de contenido que los creadores solicitan remover bajo esta política es «realmente muy pequeño«. Esto sugiere dos cosas: o la ola de deepfakes maliciosos no es tan apabullante como pensamos, o los creadores están encontrando valor en simplemente monitorear cómo se usa su imagen, incluso en contextos de parodia. La expansión a políticos y periodistas, anunciada inicialmente por The Hollywood Reporter, cambia el juego porque el riesgo ya no es solo económico o de reputación personal, sino de seguridad nacional y estabilidad democrática.

La paradoja de los datos: el combustible del monstruo

Hay una ironía que duele. Para protegerse del monstruo de los deepfakes, los usuarios deben alimentarlo con más datos biométricos. Tienes que darle a YouTube un video claro de tu rostro y una copia de tu identificación oficial. La promesa, reportada por NBC News, es que esta información solo se usará para «impulsar» la herramienta de detección y no para entrenar los modelos de IA de Google. Pero en un mundo donde The Hollywood Reporter ya documentó que el generador de video de Google se entrena con videos subidos a YouTube, la confianza es un bien escaso. ¿Dónde se almacenan estos videos de verificación? ¿Quién tiene acceso a ellos? ¿Qué pasaría con esa base de datos en caso de una filtración? Son preguntas incómodas que la narrativa de «herramienta gratuita y benévola» busca opacar. Jason Newman, de la firma Untitled Entertainment, lo llamó un acto de «bondad» por parte de YouTube. Pero en la economía de la atención digital, la bondad suele ser una estrategia de negocio disfrazada.

Hollywood, el campo de pruebas perfecto

No es casualidad que el rollout inicial, cubierto en exclusiva por Article Wn y otros, haya sido para las estrellas de Hollywood. La industria del entretenimiento es el canario en la mina de carbón para este problema. Su producto principal es la imagen, la fama, el parecido. Mary Ellen Coe, directora de negocios de YouTube, dijo que la herramienta es una «capa fundamental de responsabilidad». Pero para Hollywood, esto es pura gestión de riesgo patrimonial. Un deepfake de un actor en una película porno falsa o respaldando un producto que no usa puede costar millones en contratos y demandas. Extenderlo a políticos y periodistas es el siguiente paso lógico, pero infinitamente más complejo. Porque mientras que la falsificación de un actor puede dañar una marca, la falsificación de un candidato presidencial puede alterar una elección. YouTube dice que el objetivo es proteger «la integridad de la conversación pública». Un objetivo loable, sin duda. Pero la historia reciente de las plataformas sociales nos enseña que las soluciones tecnológicas a problemas sociopolíticos suelen venir con efectos secundarios imprevistos, como la censura overreach o la centralización del poder para decidir qué es verdad.

Al final, el anuncio de YouTube es un reconocimiento tácito de que el genio de la IA realista ya salió de la lámpara. La plataforma más grande de video del mundo está tratando de construir un protocolo de contención sobre la marcha. Ofrece un martillo digital (la herramienta de detección) pero deja que sus propias y a veces opacas reglas sean el yunque que decide qué se aplasta y qué sobrevive. Es un paso, quizás necesario, en la batalla contra la desinformación sintética. Pero también es un recordatorio de que hemos construido un mundo digital donde nuestra identidad más básica –nuestro rostro– puede ser pirateada, y ahora dependemos de la buena voluntad y el criterio de un gigante tecnológico para defenderla. La pregunta que queda flotando, más incómoda que todas, es: ¿y para el ciudadano común, para el que no es famoso, político o periodista? ¿Qué herramienta tiene cuando su imagen sea robada y usada para arruinar su vida? Esa respuesta, por ahora, YouTube no la tiene.

Fuentes consultadas:

• Hollywoodreporter – YouTube Opens Up AI Deepfake Detection Tool to All of Hollywood
• Article Wn – YouTube Opens Up AI Deepfake Detection Tool to All of Hollywood (Exclusive)
• Hollywoodreporter – YouTube Adds Politicians and Journalists to Deepfake Detection Tool
• Theverge – YouTube is expanding its AI deepfake detection tool to politicians and journalists
• Nbcnews – YouTube opens deepfake detection tool to politicians and journalists