Las DeepFakes
Un DeepFake (ultrafalso) es un contenido de video, audio o imágenes que falsifica situaciones y engaña a los usuarios que tienen acceso a ellos.
El uso más común de las DeepFakes es la creación de videos donde se reemplaza el rostro o se manipulan las expresiones faciales de una persona para que parezca estar diciendo o haciendo algo que nunca hizo en la vida real, aunque también se utilizan para generar o manipular voces, haciendo que una persona parezca decir algo que en realidad nunca dijo o para crear imágenes de personas que no existen o alterar imágenes existentes
El concepto DeepFake y su tecnología asociada no tienen un inventor único, ya que han sido diferentes investigadores y desarrolladores que han hecho posible ese tipo de aplicaciones. Esto es el resultado de avances en el campo de la inteligencia artificial (IA), particularmente en el aprendizaje profundo (Deep Learning, DL) y, en específico, las Redes Generativas (GANs). La IA tiene varias ramas y una de ellas es el Aprendizaje Máquina (Machine Learning, ML) que contiene al DL, y las GANs son uno de varios modelos que se encuentran dentro del DL.
Sin embargo, el uso del concepto DeepFake y su auge en la actualidad se remontan a un usuario anónimo de Reddit en 2017 que usó el nombre de DeepFakes al compartir videos manipulados de celebridades utilizando técnicas de IA para intercambiar sus rostros en escenas de películas para adultos.
Desde ese momento, los DeepFakes han evolucionado rápidamente, haciéndose más accesibles y avanzados, encontrándose código de acceso libre de herramientas como DeepFaceLab y Faceswap, que permiten a personas sin conocimientos avanzados de IA crear DeepFakes relativamente realistas.
Es importante entender que es una tecnología conformada por redes neuronales artificiales y técnicas de aprendizaje profundo, la cual ha sido investigada ampliamente por la comunidad científica en IA durante la última década.
Utilizan especialmente a las GANs como modelo principal de redes neuronales artificiales. Las GANs fueron introducidas en 2014 por Ian Goodfellow, un pionero en IA y que son parte fundamental para la creación de los DeepFakes. Las GANs consisten en dos redes neuronales que “compiten” entre sí para generar imágenes realistas a partir de datos de entrenamiento.
Se han vuelto conocidas por una difusión de vídeos en las redes sociales digitales, lo que ha generado tanto situaciones problemáticas como creativas.
Aquí algunos de los ejemplos más difundidos:
1) Barack Obama (2018). Creado por BuzzFeed, en colaboración con el director de cine y comediante Jordan Peele, donde se ve al expresidente de Estados Unidos diciendo una serie de cosas fuera de lugar, como insultos. El objetivo de este vídeo fue presentar los problemas de seguridad que se pueden presentar y la facilidad con la que pueden manipular la realidad. Este ejemplo puso de relieve el potencial de los DeepFakes para la desinformación política
2) Mark Zuckerberg (2019). Se publicó un video falso del fundador de Facebook, en el que parecía jactarse de tener el control total sobre los datos de los usuarios de la red social. El video fue publicado en Instagram como una prueba de las políticas de moderación de contenido y que llevó a debates sobre cómo las plataformas tecnológicas deberían manejar la difusión de DeepFakes.
3) Tom Cruise (2021). Un usuario de TikTok, conocido como @deeptomcruise, creó una serie de videos extremadamente realistas en los que parecía que el actor estaba haciendo cosas cotidianas o diciendo frases humorísticas. En la publicación se menciona que los vídeos eran falsos, pero se generaron nuevos debates sobre cómo la gente podría ser engañada fácilmente por DeepFakes convincentes
4) Salvador Dalí (2019). El Museo Dalí, en Florida, utilizó la tecnología para recrear una versión virtual del pintor español, donde los visitantes del podían “hablar” con él, quien parecía estar presente y discutiendo sobre su vida y obra. A diferencia de los DeepFakes previos, esta aplicación motivó la aplicación en el mundo del arte y la educación.
5) El uso de DeepFakes en campañas políticas, los cuales han tenido una intensa difusión en el momento de elecciones y la política internacional, provocando preocupación por la posibilidad de que se utilicen para difundir información falsa sobre líderes mundiales.
En este sentido, se tienen situaciones que deben considerar como la desinformación que están generando al difundir noticias falsas manipulando la percepción pública de eventos o figuras.
Asimismo, son notables los debates sobre propuestas y publicaciones de leyes que eviten el ciberacoso y den privacidad ante los DeepFakes, castigando al que cree videos explícitos de personas sin su consentimiento, evitando la difusión de vídeos en los que una persona puede tener consecuencias devastadoras en su vida personal y profesional.
También se están desarrollando herramientas que permitan tanto su detección como su legislación, por lo que se están comenzando a aprobar leyes para regular el uso indebido de esta tecnología. Dentro de estos logros, se tiene que en varios estados de Estados Unidos se han aprobado leyes que penalizan la creación de DeepFakes no consensuados en contextos pornográficos o electorales.
De esta manera, uno de los aspectos positivos es que permiten generar contenido para el entretenimiento y cine, así como para la educación, asistentes virtuales, recreación histórica, medios y publicidad, realidad virtual y aumentada, periodismo y documentación, comunicación y redes sociales.
En cambio, los aspectos negativos llevan a la desinformación y manipulación, ciberacoso y fraude, pornografía no consensuada, campañas falsas de política y de propaganda, problemas de seguridad informática y males de salud mental y psicología.
En conclusión, es un contenido falso y representan una tecnología de gran alcance con aplicaciones útiles en ciertos contextos, pero también traen consigo riesgos considerables, especialmente en cuanto a desinformación y privacidad.
La lucha contra el uso indebido de DeepFakes impulsa avances en herramientas de detección y la creación de leyes más estrictas para regular su uso, el cual puede ser altamente beneficioso en ámbitos creativos, educativos, de entretenimiento y tecnológicos.
El proceso técnico para crear requiere conocimientos de IA y procesamiento de imágenes, pero con la proliferación de herramientas accesibles, es más fácil generar ese tipo de contenido.
