El fenómeno de los deepfakes no es nada nuevo, lo que es nuevo es la calidad y la velocidad con la que se extienden. Por tanto, también el impacto y el tamaño del efecto bola de nieve que pueden provocar en la sociedad.
Lo que se consideró como el primer deepfake ocurrió hace unos cinco años, cuando un personaje anónimo publicó vídeos pornográficos cambiando las caras de las mujeres que aparecían en él por rostros de actrices famosas. Ya en 2019 la empresa holandesa de ciberseguridad Deeptrace detectó alrededor de 15.000 vídeos deepfakes en internet. Imagina cómo ha crecido este número hoy en día teniendo en cuenta el impresionante desarrollo de las tecnologías que hemos experimentado en los últimos años y que probablemente incluso vaya a aumentar en los siguientes. Pero antes de dedicarnos a cifras, amenazas y la cuestión de si hay algún beneficio detrás de los deepfakes, aclaramos qué es lo que queremos decir cuando utilizamos este término.
¿Qué son los deepfakes?
El término "deepfake'' se compone de dos palabras en inglés, por un lado "deep", que alude al aprendizaje profundo, el proceso de aprendizaje automatizado de cualquier software de inteligencia artificial generativa. Tiene lugar en una llamada Generative Adversarial Network - GAN - donde se combinan dos redes neuronales, una generativa que crea la imagen falsa y otra discriminadora que introduce esa imagen en la secuencia real. Ahí es donde entra en juego el segundo término, "fake", que aclara que se refiere a contenidos falsos, imágenes que no son reales y secuencias que nunca han sucedido de tal forma. Un deepfake entonces es una imagen o un vídeo modificado por inteligencia artificial que parece original y real. En general, existen tres tipos de deepfakes:
- DeepfaceSe refiere a una manipulación visual, ya que estas suelen mostrar rostros de personas porque son más fáciles de crear. Los deepfaces pueden aparecer en diferentes formatos como vídeo, imagen o incluso streamings en directo.
- DeepvoiceSe refiere a una manipulación de la voz, básicamente, cuando se ponen palabras en boca de alguien que nunca dijo. Este tipo de deepfake suele aparecer en forma de grabaciones de voz.
- Deeptext: También en forma de texto existen fakes creados por inteligencia artificial, como mailings, publicaciones en redes sociales, etc.
Mientras que hace unos años era posible detectar un deepfake más o menos fácilmente, hoy en día es prácticamente imposible, ya que la tecnología ha mejorado significativamente y sigue haciéndolo constantemente a un ritmo impresionante. Además, hoy en día cualquiera puede crear un deepfake y difundirlo en las redes sociales sin perder mucho tiempo.
¿Por qué alguien haría eso? Bueno, existe una variedad de intenciones detrás de este tipo de acciones. Algunos deepfakes se crean simplemente para entretener y son bastante inofensivos. A menos que el sentido del humor del autor se base en burlarse de otra persona, tal vez. También con fines de marketing pueden utilizarse de forma que no perjudiquen a nadie, por ejemplo para hacer campañas más ilustrativas mostrando de forma obvia que se trata de una imagen falsa o declarándolo así de entrada, sin tratar de difundir información falsa. Eso justamente es lo que ocurre mucho con los deepfakes de famosos o personajes públicos o políticos. En estos casos, los deepfakes suelen utilizarse para desinformar o manipular a la opinión pública. Cómo ocurren cada vez más estos casos, es importante informarse y crear un plan de acción para gestionar la reputación en la era de los deepfakes.
Ejemplos recientes de deepfakes en diferentes contextos
- Entretenimiento
Aquí vemos un ejemplo de deepfake realizado para entretener, invitando a famosos a hablar de un determinado tema sentados juntos en una mesa, solo que nunca realmente se han reunido de tal forma. Como el propio nombre del canal indica que el contenido mostrado es un deepfake, la intuición claramente no es engañar a nadie. Al mismo tiempo, es impresionante lo real que parecen las falsas representaciones de esas personas, ¡incluidas sus voces!
- Marketing
El primer caso comercial oficial de un deepfake se produjo en 2021, cuando Bruce Willis permitió oficialmente a la empresa rusa de telecomunicaciones Megafon utilizar su imagen para una campaña comercial. Tras algunas polémicas discusiones, aclaró que no fue para nada el caso de que hubiera vendido a la empresa el derecho a utilizar su aspecto para siempre y en cualquier contexto, sino únicamente para este anuncio. En este caso, igual que en el primer ejemplo que vimos, no hay perjuicio, ya que la información sobre la tecnología utilizada no se mantuvo en secreto.
- Figuras públicas o políticas
Como mencionamos antes, los deepfakes se utilizan cada vez más en el ámbito político, incluso de forma consciente y a propósito por el lado de políticos que por ejemplo quieren aparecer hablando idiomas que en realidad no hablan, por mencionar un caso básico. Pero también hemos visto casos, en los que se usa para mostrarlos en situaciones que los hagan parecer más gloriosos durante las campañas electorales, por ejemplo. Situaciones que, sin embargo, en realidad nunca han ocurrido. Y ahí es donde cruzamos una fina línea de lo que es el uso de los deepfakes.
Riesgos relacionados con el tema deepfakes
Algo que probablemente tienen en común todos los avances tecnológicos es que se pueden utilizar tanto para bien como para mal. El problema es que depende de nosotros hacerlo. Como en este planeta somos muchos los seres humanos, la probabilidad de que no todos utilicemos la tecnología para bien es bastante alta. Y es entonces cuando tenemos que estar alertos de las desventajas.
- Desconfianza
Cuando personajes políticos o públicos utilizan deepfakes, voluntariamente o no, inevitablemente aumenta la desconfianza. Las noticias falsas siempre se han difundido de una forma u otra, pero ser capaz de hacer que una persona aparezca y diga cosas, aunque nunca haya sucedido, y hacer que parezcan reales, lleva las noticias falsas a otro nivel. Así que, por un lado, si los políticos adoptan esta opción y la utilizan en su beneficio, aumenta la desconfianza, ya que nadie puede decir lo que ha sucedido realmente sabiendo que hay imágenes tanto falsas como verdaderas. Encima están las imágenes que los políticos no han producido intencionadamente, considerados ataques o casos de abusos, ya que probablemente una persona del lado contrario las utiliza para hacer aparecer a la persona en una situación no beneficiosa. Con este panorama, entre imágenes falsas para lo bueno, imágenes falsas para lo malo, y sí, aunque parezca mentira, también algunas imágenes verdaderas, la gente perderá cada vez más la confianza en las representaciones digitales.
- Manipulación y desinformación
Lo que nos lleva al siguiente punto, la manipulación y la desinformación. Ya sea por motivos económicos, políticos o de cualquier otro tipo, está claro que la capacidad de crear imágenes, vídeos y grabaciones de voz falsas da a cualquier persona con malas intenciones una infinidad de posibilidades para manipular la información y difundir hechos erróneos por todo el mundo, literalmente. Esto puede influir en el curso de las elecciones, en el mercado financiero, perjudicar las relaciones internacionales y tener repercusiones en, literalmente, cualquier otro escenario que se pueda imaginar.
- Desacreditación
Esto va en línea con el punto anterior. Obviamente, si se genera un deepfake de una persona sin su consentimiento, puede llevar al descrédito y arruinar literalmente la reputación de alguien. Aparte de eso, aumenta los casos de fraude, ya que al falsificar la identidad de alguien se pueden llevar a cabo acciones sin la aprobación de esa persona.
¿Qué podemos hacer al respecto?
Dicho todo esto, el futuro puede parecer una pesadilla digital y sí, es cierto que con la evolución de la tecnología ya es bastante imposible detectar la diferencia entre lo falso y lo verdadero. Por eso tenemos que adaptarnos y tomar medidas, reconstruir la confianza hacia los medios de comunicación e implantar una nueva estructura. Eso incluye honestidad por parte de los medios, indicando con transparencia cuándo las imágenes son verdaderas y cuándo están manipuladas con inteligencia artificial.
Por otro lado, hay que educar a la gente y acostumbrarla a contrastar siempre la información utilizando diferentes fuentes para poder tener una visión más amplia de un tema. Por supuesto eso no evita que se utilicen deepfakes para crear daño, pero aumenta la sensibilidad sobre este tema.
También tenemos que hacer de la inteligencia artificial nuestra aliada y acostumbrarnos a verificar la información utilizando herramientas como WeVerifys Deepfake Detector, Deepware o Microsoft Video AI AuthenticatorAdemás, las empresas deben implementar políticas contra la desinformación y preparar medidas sobre cómo actuar para reaccionar lo más rápido posible una vez detectada información falsa en internet para eliminarla cuanto antes.
Como decíamos, cualquier avance tecnológico puede ser utilizado de diferentes maneras, por lo que si queremos aprovechar los beneficios que nos aporta la inteligencia artificial y la creación de deepfakes, también tenemos que encontrar la manera de lidiar con las consecuencias negativas que puede tener.
