El fenómeno de los deepfakes no es nada nuevo, lo que es nuevo es la calidad y la velocidad con la que se extienden. Por tanto, también el impacto y el tamaño del efecto bola de nieve que pueden provocar en la sociedad.
Lo que se consideró como el primer deepfake ocurrió hace unos cinco años, cuando un personaje anónimo publicó vídeos pornográficos cambiando las caras de las mujeres que aparecían en él por rostros de actrices famosas. Ya en 2019 la empresa holandesa de ciberseguridad Deeptrace detectó alrededor de 15.000 vídeos deepfakes en internet. Imagina cómo ha crecido este número hoy en día teniendo en cuenta el impresionante desarrollo de las tecnologías que hemos experimentado en los últimos años y que probablemente incluso vaya a aumentar en los siguientes. Pero antes de dedicarnos a cifras, amenazas y la cuestión de si hay algún beneficio detrás de los deepfakes, aclaramos qué es lo que queremos decir cuando utilizamos este término.
¿Qué son los deepfakes?
The term “deepfake” is composed of two words, on one hand side “deep”, which alludes to deep learning, the automated learning process of any generative artificial intelligence software. It takes place in a so called Generative Adversarial Network – GAN – where two neuronal networks are combined, a generative one that creates the false image and a discriminator that introduces that image into the real sequence. That’s where the second term comes into the game, “fake”, which clarifies that it refers to false content, images that are not real and sequences that have never happened that way. Thus, a deepfake is an image or a video modified by artificial intelligence that seems to be original and real. There are generally three types of deepfakes:
- DeepfaceSe refiere a una manipulación visual, ya que estas suelen mostrar rostros de personas porque son más fáciles de crear. Los deepfaces pueden aparecer en diferentes formatos como vídeo, imagen o incluso streamings en directo.
- Deepvoice: Refers to a manipulation of the voice, basically, when words are put into someone’s mouth that have never been said. This kind of deepfake typically appears in the form of grabaciones de voz.
- Deeptext: También en forma de texto existen fakes creados por inteligencia artificial, como mailings, publicaciones en redes sociales, etc.
Mientras que hace unos años era posible detectar un deepfake más o menos fácilmente, hoy en día es prácticamente imposible, ya que la tecnología ha mejorado significativamente y sigue haciéndolo constantemente a un ritmo impresionante. Además, hoy en día cualquiera puede crear un deepfake y difundirlo en las redes sociales sin perder mucho tiempo.
Why would you do so? Well there are a variety of intentions behind the whole story. Some deepfakes are just created to entertain and are quite harmless. Unless the author’s sense of humor is based on making fun of somebody else maybe. Also for marketing purposes they can be used in a way that doesn’t disadvantage anyone, for example to make campaigns more illustrative showing in an obvious way that it is a false image or declaring so upfront, without trying to spread false information. That’s exactly what happens a lot with deepfakes of celebrities or public or political figures. In these cases deepfakes are often used to desinform or manipulate the public opinion.
Ejemplos recientes de deepfakes en diferentes contextos
- Entretenimiento
Aquí vemos un ejemplo de deepfake realizado para entretener, invitando a famosos a hablar de un determinado tema sentados juntos en una mesa, solo que nunca realmente se han reunido de tal forma. Como el propio nombre del canal indica que el contenido mostrado es un deepfake, la intuición claramente no es engañar a nadie. Al mismo tiempo, es impresionante lo real que parecen las falsas representaciones de esas personas, ¡incluidas sus voces!
- Marketing
El primer caso comercial oficial de un deepfake se produjo en 2021, cuando Bruce Willis permitió oficialmente a la empresa rusa de telecomunicaciones Megafon utilizar su imagen para una campaña comercial. Tras algunas polémicas discusiones, aclaró que no fue para nada el caso de que hubiera vendido a la empresa el derecho a utilizar su aspecto para siempre y en cualquier contexto, sino únicamente para este anuncio. En este caso, igual que en el primer ejemplo que vimos, no hay perjuicio, ya que la información sobre la tecnología utilizada no se mantuvo en secreto.
- Figuras públicas o políticas
Como mencionamos antes, los deepfakes se utilizan cada vez más en el ámbito político, incluso de forma consciente y a propósito por el lado de políticos que por ejemplo quieren aparecer hablando idiomas que en realidad no hablan, por mencionar un caso básico. Pero también hemos visto casos, en los que se usa para mostrarlos en situaciones que los hagan parecer más gloriosos durante las campañas electorales, por ejemplo. Situaciones que, sin embargo, en realidad nunca han ocurrido. Y ahí es donde cruzamos una fina línea de lo que es el uso de los deepfakes.
Riesgos relacionados con el tema deepfakes
Algo que probablemente tienen en común todos los avances tecnológicos es que se pueden utilizar tanto para bien como para mal. El problema es que depende de nosotros hacerlo. Como en este planeta somos muchos los seres humanos, la probabilidad de que no todos utilicemos la tecnología para bien es bastante alta. Y es entonces cuando tenemos que estar alertos de las desventajas.
- Desconfianza
Cuando personajes políticos o públicos utilizan deepfakes, voluntariamente o no, inevitablemente aumenta la desconfianza. Las noticias falsas siempre se han difundido de una forma u otra, pero ser capaz de hacer que una persona aparezca y diga cosas, aunque nunca haya sucedido, y hacer que parezcan reales, lleva las noticias falsas a otro nivel. Así que, por un lado, si los políticos adoptan esta opción y la utilizan en su beneficio, aumenta la desconfianza, ya que nadie puede decir lo que ha sucedido realmente sabiendo que hay imágenes tanto falsas como verdaderas. Encima están las imágenes que los políticos no han producido intencionadamente, considerados ataques o casos de abusos, ya que probablemente una persona del lado contrario las utiliza para hacer aparecer a la persona en una situación no beneficiosa. Con este panorama, entre imágenes falsas para lo bueno, imágenes falsas para lo malo, y sí, aunque parezca mentira, también algunas imágenes verdaderas, la gente perderá cada vez más la confianza en las representaciones digitales.
- Manipulación y desinformación
Lo que nos lleva al siguiente punto, la manipulación y la desinformación. Ya sea por motivos económicos, políticos o de cualquier otro tipo, está claro que la capacidad de crear imágenes, vídeos y grabaciones de voz falsas da a cualquier persona con malas intenciones una infinidad de posibilidades para manipular la información y difundir hechos erróneos por todo el mundo, literalmente. Esto puede influir en el curso de las elecciones, en el mercado financiero, perjudicar las relaciones internacionales y tener repercusiones en, literalmente, cualquier otro escenario que se pueda imaginar.
- Desacreditación
This goes in line with the previous point. Obviously if a deepfake of a person is generated without that person’s agreement, it can lead to discreditation and literally ruin someone’s reputation. Other than that it increases the cases of fraud as falsifying someone’s identity actions without that personas approval might be taken.
¿Qué podemos hacer al respecto?
Dicho todo esto, el futuro puede parecer una pesadilla digital y sí, es cierto que con la evolución de la tecnología ya es bastante imposible detectar la diferencia entre lo falso y lo verdadero. Por eso tenemos que adaptarnos y tomar medidas, reconstruir la confianza hacia los medios de comunicación e implantar una nueva estructura. Eso incluye honestidad por parte de los medios, indicando con transparencia cuándo las imágenes son verdaderas y cuándo están manipuladas con inteligencia artificial.
Por otro lado, hay que educar a la gente y acostumbrarla a contrastar siempre la información utilizando diferentes fuentes para poder tener una visión más amplia de un tema. Por supuesto eso no evita que se utilicen deepfakes para crear daño, pero aumenta la sensibilidad sobre este tema.
También tenemos que hacer de la inteligencia artificial nuestra aliada y acostumbrarnos a verificar la información utilizando herramientas como WeVerifys Deepfake Detector, Deepware o Microsoft Video AI AuthenticatorAdemás, las empresas deben implementar políticas contra la desinformación y preparar medidas sobre cómo actuar para reaccionar lo más rápido posible una vez detectada información falsa en internet para eliminarla cuanto antes.
Como decíamos, cualquier avance tecnológico puede ser utilizado de diferentes maneras, por lo que si queremos aprovechar los beneficios que nos aporta la inteligencia artificial y la creación de deepfakes, también tenemos que encontrar la manera de lidiar con las consecuencias negativas que puede tener.
