Los videos deepfake hicieron su aparición por primera vez en 2017. Quizás los hayan escuchado con otro nombre, como pornografía falsa o pornografía generada con inteligencia artificial. [1] De todas maneras, se volvieron famosos porque las cabezas de personas famosas aparecían en los cuerpos de las estrellas de las películas para adultos. Desde este momento en adelante, estamos sufriendo la expansión de vídeos deepfake que propagan noticias faltas.
Son vídeos manipulados que nos hacen creer que algún mandatario o representante de alguna compañía, realiza alguna declaración un poco extraña. Por ejemplo, un vídeo bastante famoso, fue el del dueño de Facebook, Mark Zuckerberg, en el que hablaba de su compañía. [2] Estos vídeos representan un gran peligro, pues podrían manipular a las masas en momentos históricos importantes, por ejemplo, en las elecciones o en algún momento crítico de protestas.
Sin embargo, los deepfake no han sido esencialmente utilizados para manipular la política, la verdadera amenaza ha sido en el ámbito de la pornografía falsa. Un estudio realizado revela que 96% de los vídeos deepfake son hechos para crear pornografía. [3] “Es un fenómeno que exclusivamente amenaza a las mujeres, especialmente actrices famosas y cantantes”. [4]
A pesar de que estos vídeos no son ciertos, aquellos que siguen rondando las redes sociales afectan directamente a los hombres. Es una cuestión preocupante, por eso, debemos aprender a identificar cuales vídeos son reales y cuales no.
El significado de deepfake
El significado de deepfake es la compilación de fotos generadas por un computador muy poderoso y un software de inteligencia artificial con el objetivo de convencer a las personas de la representación de un evento que nunca sucedió. [5] El término apareció en Reddit, una comunidad de personas en la red que comparten información sobre sus intereses. [6]
La compañía deshabilitó el grupo de deepfake, pero la tecnología ya estaba fuera. Al poco tiempo, personas de la política y actores se vieron involucrados.
Para las corporaciones y los gobiernos, el deepfake es una gran preocupación, la evidencia más clara es la existencia del deeptrace, la forma de buscar los vídeos irreales. [7] La situación está fuera de control, existen ya cuatro sitios en internet que apoyan el deepfake.
De acuerdo con los estudios, tienen aproximadamente 134 millones de visitas desde febrero del 2018. [8] El problema actual va más allá, pues las páginas web no son los únicos trabajando con deepfake; existen ya aplicaciones que pueden crear el material.
¿Cómo hacer vídeos deepfake?
Las herramientas han existido ya por años. Para hacer vídeos deepfake sólo se necesita encontrar una buena aplicación y conexión al internet. El proceso funciona de la siguiente manera, por ejemplo, el actual presidente del Ecuador tiene cientos de fotos en internet, con su cara en diferentes tipos de ángulos y con diversas formas: abriendo la boca, sonriendo, etc. Estas fotos entran en un software conocido como red neutral, que crea conexiones estáticas del presidente y la imagen irreal que uno quiere lograr.
Si pensamos en los dibujitos que se hacen en el borde de los libros que, al pasar las paginas rápidamente, crean el efecto de una película… es exactamente lo que se hace con el deepfake. El software asocia los gestos del presidente con los tonos en los que él dice cada cosa, por ejemplo, cuando da una buena noticia.
Después, el programa manipula los movimientos de la boca para hacer parecer que está diciendo el mensaje que queremos que diga. Finalmente, se asocia el video de la cara al cuerpo de otra persona y se manipula el software para que pueda asociar los movimientos de la cara y el cuerpo. [9]
El mismo software puede identificar una serie de imágenes para identificar los fallos y arreglarlos, esta técnica se llama “redes generativas adversarias” (GAN, por sus siglas en inglés). Es la forma más pura del deepfake. [10] La computadora logra dominar esta técnica de una forma precisa, estadísticamente. El problema real es que mientras más tiempo pasa, mejora la tecnología y la forma de realizar estos vídeos.
El peligro los vídeos deepfake
Las consecuencias de estos vídeos son realmente graves. No se trata solo de manipular la política, pero podrían incluso crear un caos irreparable. Podría realmente pasar que nos enteramos de un ataque de extraterrestres, porque el presidente de los Estados Unidos hace una conferencia al respecto. Como en las películas, las reacciones serían caóticas.
Más allá de las noticias, estos vídeos deepfake, pueden utilizarse como herramientas para el bullying. [11] Se pueden crear imágenes y vídeos que podrían destruir la vida de una persona en su círculo social. Además, podrían incluso manipular nuestra forma de comprar. Hoy en día ya tenemos bastante manipulación en las redes sociales, con el uso constante de ads y big data que nos sugieren que comprar, con vídeos deepfake podría ser incluso peor.
Para más información sobre el big data y el marketing, pueden ver nuestro blog: Big Data.
El peligro del deepfake nos pone los nervios de punta. El senador republicano para la Florida, Marco Rubio, denominó este movimiento como el equivalente moderno a las bombas nucleares. [12] Declaró: “hoy en día, para amenazar a los Estados Unidos, se puede hacer entrando a nuestro sistema de internet, de banca, o nuestra infraestructural electoral… sólo se necesita la habilidad de crear vídeos realísticamente creíbles para determinar nuestras elecciones.” [13]
Los vídeos deepfake puede cambiar el curso de nuestras vidas, es importante aprender a identificarlos y asegurarse la fuente de las noticias antes de espaciarlas y crear pánico. De momento, mientras sigue avanzando la tecnología, debemos estar mucho más atentos.