Donald Trump, Elon Musk y Taylor Swift son las personalidades públicas que más 'deepfakes' han protagonizado en 2024, una práctica que manipula la imagen y la voz con herramientas de inteligencia artificial y que han proliferado en internet y redes sociales pese a los riesgos que conllevan para la democracia.
Los 'deepfake' son un tipo de contenido audiovisual manipulado que muestra imágenes falsas, habitualmente simulando la voz y la apariencia de otras personas. Sin embargo, tienen la peculiaridad de que dichas imágenes parecen ser reales, ya que se generan utilizando técnicas avanzadas de aprendizaje profundo e Inteligencia Artificial (IA).
Aunque inicialmente eran un formato solo apto para desarrolladores, ahora son un tipo de vídeo que está al alcance de cualquier persona gracias a los avances en tecnologías de clonación de voz y sincronización de labios de código abierto.
Según han explicado desde Kapwing, plataforma de creación de vídeos, la clonación de voz toma de ejemplo la voz de una persona a partir de una muestra de audio breve, de entre 10 y 15 segundos. Con ello, analiza y aplica las características vocales a un modelo subyacente capaz de generar voz a partir de texto.
Por su parte, la IA para la sincronización de datos hace coincidir los labios de las imágenes de la persona que se esté imitando con los sonidos que se producen en el archivo audio. En este sentido, según ha detallado la plataforma, con tecnologías como las mencionadas anteriormente, se puede crear un gemelo de IA solo con diez segundos de metraje inicial.
Estas tecnologías permiten manipular un vídeo de forma realista y en un periodo corto de tiempo. Según han detallado desde Kapwing, con tecnologías como las mencionadas, se puede crear un gemelo de IA solo con diez segundos de metraje inicial, como se desprende de una investigación que han realizado sobre las posibilidades que ofrece el 'deepfake' y los reisgos que supone esta tecnología para la suplantación de identidad o la difusión de noticias falsas.
