La marca española de cervezas Cruzcampo sacó en enero de 2021 una campaña publicitaria para reivindicar las raíces. Podría haber pasado desapercibida, pero contaba con la participación de la cantante española Lola Flores. Pero Flores falleció en 1995. Casi veintiséis años después, y con el consentimiento de sus hijas, se ha usado su voz y su imagen, generadas por inteligencia artificial (IA), para narrar el anuncio.
Como otras revoluciones tecnológicas, se pudo resucitar a Lola Flores gracias a la pornografía. Los primeros deepfakes, popularizados en la red social Reddit en 2017, eran vídeos pornográficos manipulados para hacer aparecer en ellos a actrices como Gal Gadot o Scarlett Johanson. Estos montajes hechos con inteligencia artificial inauguraron una nueva era de creatividad audiovisual. Otros vídeos falsos, como el de Obama llamando “inepto” a Trump, mostraron su capacidad para incidir en la opinión pública. En Reddit también surgió el nombre del fenómeno: deepfake es la unión en inglés de deep, ‘profundo’, y fake, ‘falso’. Deep es por deep learning, o ‘aprendizaje profundo’, una técnica del mundo de la IA.
La MIT Technology Review ha llamado al 2020 “el año en que los deepfakes se han popularizado”. Poder imitar casi a la percepción a personajes famosos, resucitar a aquellos que ya no están o sintetizar humanos gracias a la IA abre un mundo de posibilidades para el arte o el entretenimiento. James Dean volverá a actuar en una película más de medio siglo después de su muerte, por ejemplo. Pero también crea riesgos, como nuevas maneras de suplantar la identidad y campañas de desinformación mucho más precisas y difíciles de descubrir.
La receta de un deepfake: un ordenador y saber dónde buscar
En uno de los capítulos de la serie distópica Years & Years (2019), un movimiento populista ganaba las elecciones en el Reino Unido gracias a una agresiva campaña en la que se explotaban brechas sociales como la inmigración o las desigualdades. Durante la campaña salían a la luz deepfakes en los que otros candidatos hacían comentarios racistas. “Son vídeos falsos —decía la candidata populista, Vivianne Rook—, pero ellos dijeron eso de verdad”, sembrando así la duda respecto a sus adversarios políticos.
Cualquiera con un ordenador puede crear estos vídeos falsos hiperrealistas. Aplicaciones como FaceSwap son gratuitas para usuarios de Linux o Windows. La sofisticación de las campañas de desinformación y la creciente agresividad política en un mundo cada vez más polarizado hacen de los deepfakes una herramienta más para el engaño.
Para sintetizar un deepfake se necesitan cientos de imágenes que entrenen a las redes neuronales de la inteligencia artificial. Las redes neuronales analizan las imágenes con minuciosidad, tomando puntos de referencia como la distancia entre los ojos, o entre la boca y la nariz, la posición de la cara o la iluminación de la fotografía. Después de este entrenamiento, la IA es capaz de reconstruir la imagen de manera muy parecida a las originales. Tanto, que a veces al ojo humano le es difícil diferenciarlas. La IA también podrá crear humanos desde cero, con caras hiperrealistas imposibles de distinguir de personas reales.
Otras herramientas que han mejorado gracias a la IA son las de creación de texto o sintetizadores de voz automáticos. Programas como GPT-2 son capaces de escribir, por ejemplo, un artículo de periódico imitando el estilo del autor a partir de dos líneas de texto. Estudiantes e investigadores han utilizado esta herramienta para escribir nuevos poemas al estilo de escritores como Edgar Allan Poe. El acceso a la versión más reciente, GPT-3, ha tenido que restringirse al público por sus posibles aplicaciones maliciosas, y de momento solo existe una versión beta con lista de espera.
La GPT-3, desarrollada por OpenAI —una empresa de Elon Musk, el fundador de Tesla—, puede programar a nivel básico o tener conversaciones sobre temas más profundos que la versión anterior. Ha sido entrenada con Wikipedia, todos los libros de libre acceso de internet y miles de artículos, y su capacidad de simular el lenguaje humano la hace una herramienta muy útil para generar desinformación.
Así, una cuenta falsa en redes sociales con acceso a herramientas como GPT-2 y que produzca texto automáticamente también podría mantener conversaciones aparentemente humanas con usuarios reales. Eso dificulta el trabajo de los algoritmos de las plataformas que verifican la identidad de los usuarios. Y alguien capaz de generar imágenes de un humano que no ha existido lo tendrá más fácil para abrir perfiles falsos en redes sociales y saltarse controles de verificación de identidad.
El cerebro humano está programado para creer lo que le dicen los cinco sentidos. Por eso casi nadie es capaz de distinguir el sonido de beicon friéndose en una sartén del sonido del agua caer cuando ve una escena de lluvia. Haz la prueba. Los deepfakes son efectivos porque alimentan el sesgo de confirmación: las personas toman como verdadera aquella información que ayuda a confirmar sus prejuicios. De esta manera, un vídeo manipulado de un personaje público o una llamada telefónica con la voz falsa de un político pueden hacer daño a los sistemas democráticos. Como en Years & Years, será difícil eliminar el recuerdo aunque se demuestre su falsedad. El daño estará hecho.
No obstante, al ser un fenómeno reciente y costosos de producir, los deepfakes aún no son tan comunes en las campañas de desinformación. Para sintetizar un deepfake se necesita tiempo, así que de momento el protagonismo lo acaparan los montajes fotográficos, las noticias falsas, los mensajes difundidos por Whatsapp o los llamados cheapfakes, ‘falsos baratos’: vídeos ralentizados o descontextualizados que surten un efecto similar.
Pornografía falsa y una regulación insuficiente
Un cineasta estadounidense utilizó deepfakes para rodar en 2020 un documental sobre hombres gais internados en campos de concentración en Chechenia, Rusia. Los productores utilizaron las caras de activistas que donaron su imagen para después insertársela digitalmente a las personas que participaban en el documental. El objetivo era mostrar una realidad cruda sin comprometer la seguridad de aquellos que participaron.
El ejemplo de Welcome to Chechnya demuestra que no hay que juzgar la tecnología solo por sus malos usos. Sin embargo, el fácil acceso a herramientas para generar deepfakes y la falta de preparación de los sistemas normativos y de las plataformas que ayudan a su propagación lo dificultan. Esta tecnología puede resultar en la vulneración de los derechos sobre la imagen de las personas y tienen un impacto desproporcionado en ciertos grupos, como las mujeres.
Tras analizar más de 14.600 vídeos manipulados, un estudio de 2019 concluyó que el 96% de los deepfakes eran pornográficos y sobre mujeres. Esta tecnología también ha servido para desnudar a las mujeres, como las apps para desnudarlas virtualmente por la calle. Otro ejemplo es la aplicación DeepNude, que reemplazaba la ropa de una mujer en una foto por una simulación de su cuerpo desnudo, y que fue retirada de las tiendas de aplicaciones móviles en 2019. Ya sea por fantasía sexual o venganza, las mujeres son la diana principal de estos montajes, que también afectan a menores de edad.
Los deepfakes actúan sin permiso y se propagan con gran rapidez por internet. Vulneran el derecho a la imagen, a la intimidad y al honor de la persona retratada. Más allá de la caricatura, el programador puede ejercer un control total sobre la imagen proyectada de la persona, lo que de paso puede llevar a más casos de violencia machista o suicidios. El mismo estudio de 2019 señalaba que los vídeos porno investigados sumaban más de 134 millones de visitas.
Por su parte, Facebook publicó a finales de 2020 una base de datos de más de 100.000 deepfakes propios destinados a entrenar a sus propias IA para detectarlos. La empresa también celebró en verano una competición con más de 35.000 grupos de investigadores para desarrollar nuevas herramientas, pero el modelo ganador tuvo una precisión poco mayor del 65%. Más allá de las iniciativas privadas, tampoco existen leyes específicas para este tipo de contenidos, salvo una reciente en el estado de Nueva York, pero que podría vulnerar la Primera Enmienda de la Constitución de Estados Unidos sobre la libertad de expresión.
Lo que vemos ya no siempre es verdad
Los deepfakes significan el fin de la realidad sensible: la capacidad de conocer lo que pasa alrededor a través de la información obtenida por medio de los sentidos. Con la irrupción de herramientas tecnológicas que comprometen la veracidad de lo que se ve o se escucha, se agrava la sensación de confusión generalizada precisamente cuando el ciudadano está aprendiendo a distinguir la información veraz de la desinformación.
Estas herramientas tendrán mayor difusión en los próximos años. Si bien el panorama legislativo no parece alentador, el camino pasa por limitar el acceso a esta tecnología para evitar inundar internet con deepfakes y perseguir el uso de la imagen sin el consentimiento de las personas. Mientras tanto, y ante la duda, al usuario responsable también le corresponde verificar los vídeos de internet antes de compartirlos.