Los vídeos deepfake de Gareth Southgate insultando a la selección de Inglaterra se vuelven virales | Deepfake

No es el Gareth Southgate tranquilo y reflexivo al que la nación está acostumbrada y, en el duro y rápido mundo del humor en Internet, probablemente ese sea el punto.

A pocas horas de que Inglaterra abandonara el campo tras ganar la semifinal contra Holanda, aparecieron en las redes sociales deepfakes del entrenador del equipo que ofrecían una opinión posterior al partido llena de improperios y muy poco característica del entrenador de Inglaterra.

“Parece como si los hubiera metido hoy en un Rizla enorme”, dice un falso Southgate en un vídeo publicado en tiktok Después de la dramática victoria de Inglaterra en semifinales sobre Holanda, los vídeos utilizan herramientas de inteligencia artificial para replicar la voz de Southgate y manipular la mitad inferior de su rostro en un intento amateur de hacer playback. Sin duda, habrá más después de la final del domingo, sea cual sea el resultado.

El seleccionador inglés es considerado un emblema de la nación, pero en este caso es el emblema de una tendencia en Internet: el meme deepfake.

Al igual que la edición de imágenes antes que ella, los videoclips de parodia generados por IA (deepfakes) se han convertido en una herramienta clave en la caja de herramientas de los bromistas de Internet.

“Los deepfakes se están convirtiendo en el nuevo contenido retocado con Photoshop”, afirma Bahareh Heravi, profesora del Instituto de IA centrada en las personas de la Universidad de Surrey. “Ahora las personas pueden usar diferentes herramientas basadas en IA para crear contenido similar al que hacían antes con Photoshop y herramientas de edición de video. Pero ahora se ha mejorado con capacidades de generación de video y audio mucho mayores”.

En términos simples, las aplicaciones de intercambio de caras permiten que cualquiera pueda sustituir una cara por otra en un videoclip, lo que convierte un gran logro técnico en 2018 en una cuestión de simplemente presionar un botón. Algunos ejemplos recientes incluyen Rishi Sunak y Keir Starmer como Del Boy y Rodney Trotter y Noel Gallagher como una variedad de irlandeses incluido Roy Keane en un aparente guiño a las referencias de la estrella de rock a su herencia irlandesa en las entrevistas.

Si se combinan con herramientas de clonación de voz como las de ElevenLabs, es posible ir un paso más allá y escribir un guion completo para que lo lea en voz alta la celebridad que acabas de fingir. Si has visto imágenes de políticos británicos elegidos para ser streamers de Minecraft en Twitch, sabrás que las creaciones resultantes pueden estar repletas de chistes y referencias, y que solo algún extraño sonido robótico o una boca torcida te saquen de quicio.

Los expertos de Faculty AI, una empresa con sede en el Reino Unido que tiene contratos comerciales y del gobierno del Reino Unido para detectar deepfakes, dicen que el clip de Southgate tiene indicios obvios, como movimientos de la boca que no se corresponden con las palabras y pausas y ritmos poco naturales en su discurso. La señal más obvia, por supuesto, es que los fanáticos de Inglaterra saben que Southgate nunca hablaría de sus jugadores (Harry Kane, Phil Foden y Jack Grealish se encuentran entre los jugadores destrozados por su falso jefe) de esa manera.

La facultad dijo que los deepfakes de videos de IA probablemente alcanzaron un punto de inflexión el año pasado con un video que reinventó un Pasarela de Balenciaga con estrellas de Harry Pottery agregó que el fraude basado en inteligencia artificial probablemente representa una “mayor amenaza para la sociedad”. Deepfake Neighbour Wars de ITV, que presenta simulaciones de estrellas como Idris Elba y Kim Kardashian, también mostró que el concepto ingresa al público general.

Sin embargo, la Facultad dijo que la IA generativa (el término para sistemas como ChatGPT o Midjourney que producen texto, audio e imágenes convincentes a partir de indicaciones simples) está mejorando a tal ritmo que “la detección manual por sí sola pronto será insuficiente para prevenir la propagación de contenido realmente dañino”.

La FA dijo: “Como hacemos con todo contenido dañino, tomaremos medidas para que se eliminen los videos ofensivos”.

La intención de estos bromistas rara vez es engañar directamente, pero eso no significa que los chistes no puedan confundir. En Internet, no hay parodia que no pueda confundirse con un ejemplo de aquello de lo que se burla, un hecho tan común que se denominó “ley de Poe” hace casi dos décadas, en honor al comentarista que señaló la dificultad de satirizar puntos de vista extremos. Al igual que con los artículos de The Onion o las imágenes producidas para el sitio web de humor B3ta, es bastante común ver deepfakes virales compartidos con comentarios cada vez más incrédulos que preguntan si el clip es real o no. Algunos de los clips de Southgate están etiquetados como hechos por IA.

Los vídeos de Southgate han sido muy vistos en las redes sociales. En YouTube, donde hay muchos vídeos falsos de Southgate, un deepfake publicado después del partido de Eslovaquia ha tenido 390.000 visitas, mientras que ocho vídeos en una cuenta de TikTok dedicada a las falsificaciones de Southgate han tenido un total de más de un millón de visitas. La cuenta de TikTok enlaza con una página de eBay que vende mensajes personalizados de inteligencia artificial de Southgate, y añade: “si quieres algunas palabrotas, háznoslo saber”.

Las pautas de TikTok requieren el etiquetado de contenido de IA de apariencia realista y permiten la imagen de una figura pública “en ciertos entornos artísticos o humorísticos”. YouTube ha cambiado su políticas de moderación para permitir que las personas soliciten la eliminación de deepfakes, aunque ha dicho que considerará si el video es una parodia o una sátira antes de decidir retirarlo.

“Para las figuras públicas, las cosas están fuera de su control, ya que se les puede atribuir cualquier cosa falsamente”, dice Heravi, y agrega que está particularmente preocupada por el audio porque no hay pistas visuales para detectar voces deepfake. “Sin embargo, podemos esperar que las cosas mejoren a medida que esperamos mejores herramientas de detección de deepfakes y, lo que es más importante, a medida que el público se vuelva más consciente y esté más informado sobre los deepfakes”.

Los videos falsos no son el único lugar donde la IA generativa está transformando los memes de producción. Generadores de memes, Dirigido por Glifhan comenzado a automatizar casi todo el proceso de creación de humor. Para un meme con un formato establecido, como “chad/virgin” o “deja de hacer matemáticas”, los usuarios pueden crear plantillas completas que combinan un modelo de lenguaje grande (LLM) cuidadosamente indicado para generar texto, con un generador de imágenes para fotografías y una estructura estandarizada para unirlos todos. El resultado es una herramienta a la que se le puede dar instrucciones para que cree un meme sobre por qué se debería “dejar de hacer torneos de fútbol” y recibir en segundos la exhortación de que “PATEAR UN BALÓN NO FUE PARA DETERMINAR EL ORGULLO NACIONAL”.