Das Phänomen der Deepfakes ist nicht neu, neu sind jedoch die Qualität und die Geschwindigkeit, mit der sie sich verbreiten. Und damit auch die Auswirkungen und das Ausmaß des Schneeballeffekts, den sie in der Gesellschaft auslösen können.
Das erste Deepfake wurde vor etwa fünf Jahren bekannt, als ein anonymer Internetnutzer pornografische Videos veröffentlichte, in denen er die Gesichter der darin vorkommenden Frauen durch die Gesichter berühmter Schauspielerinnen ersetzte. Im Jahr 2019 entdeckte das niederländische Cybersicherheitsunternehmen Deeptrace rund 15.000 Deepfakes-Videos im Internet. Du kannst dir vorstellen, wie diese Zahl bei der rasenden Entwicklung der Technologien der letzten Jahre heute aussieht; und vor allem, wie weit sie in Zukunft noch ansteigen wird. Doch bevor wir uns mit Zahlen, Bedrohungen und der Frage beschäftigen, ob Deepfakes uns auch einen positiven Nutzen bieten, sollten wir uns genauer ansehen, was sich hinter diesem Begriff eigentlich verbirgt.
Was sind Deepfakes?
The term “deepfake” is composed of two words, on one hand side “deep”, which alludes to deep learning, the automated learning process of any generative artificial intelligence software. It takes place in a so called Generative Adversarial Network – GAN – where two neuronal networks are combined, a generative one that creates the false image and a discriminator that introduces that image into the real sequence. That’s where the second term comes into the game, “fake”, which clarifies that it refers to false content, images that are not real and sequences that have never happened that way. Thus, a deepfake is an image or a video modified by artificial intelligence that seems to be original and real. There are generally three types of deepfakes:
- DeepfaceBezieht sich auf eine visuelle Manipulation, da diese in der Regel die Gesichter von Menschen zeigen, weil sie leichter zu erstellen sind. Deepfaces können in verschiedenen Formaten wie Video, Bild oder sogar Live-Streamings erscheinen.
- Deepvoice: Refers to a manipulation of the voice, basically, when words are put into someone’s mouth that have never been said. This kind of deepfake typically appears in the form of Sprachaufnahmen auf.
- Deeptext: Auch in Form von Text können wir Fälschungen finden, die von künstlicher Intelligenz erstellt wurden, wie z. B. Mailings, Posts in Social-Media-Plattformen usw.
Während es vor ein paar Jahren noch möglich war, ein Deepfake mehr oder weniger leicht zu erkennen, ist es heutzutage das Gegenteil der Fall, da sich die Technologie erheblich verbessert hat und dies in einem beeindruckenden Tempo fortsetzt. Hinzu kommt, dass inzwischen buchstäblich jeder einen Deepfake erstellen und in kürzester Zeit über die sozialen Medien verbreiten kann.
Why would you do so? Well there are a variety of intentions behind the whole story. Some deepfakes are just created to entertain and are quite harmless. Unless the author’s sense of humor is based on making fun of somebody else maybe. Also for marketing purposes they can be used in a way that doesn’t disadvantage anyone, for example to make campaigns more illustrative showing in an obvious way that it is a false image or declaring so upfront, without trying to spread false information. That’s exactly what happens a lot with deepfakes of celebrities or public or political figures. In these cases deepfakes are often used to desinform or manipulate the public opinion.
Aktuelle Beispiele für Deepfakes in verschiedenen Kontexten
- Unterhaltung
Hier ist ein Beispiel für ein Deepfake aus dem Bereich Unterhaltung. Es zeigt Prominente, die eingeladen sind, über ein bestimmtes Thema zu sprechen, während sie zusammen an einem Tisch sitzen. Allerdings haben sie sich niemals getroffen. Da der Name des Kanals selbst darauf hinweist, dass es sich bei dem gezeigten Inhalt um einen Deepfake handelt, ist die Intuition definitiv nicht die, die User in die Irre zu führen. Allerdings ist es beeindruckend, wie gut die gefälschten Darstellungen dieser Berühmtheiten sind, sogar ihre Stimmen!
- Marketing
Der erste offizielle kommerzielle Fall eines Deepfakes wurde im Jahr 2021 bekannt, als Bruce Willis dem russischen Telekommunikationsunternehmen Megafon offiziell erlaubte, sein Bild für eine Werbekampagne zu verwenden. Nach einigen kontroversen Diskussionen stellte er klar, dass er dabei nicht das Recht verkaufte, seine Persönlichkeit für immer und in jedem Kontext zu verwenden, sondern nur für diesen einen Werbespot. Da auch in diesem Fall die Informationen über die verwendete Technologie nicht geheim gehalten wurden, handelt es sich nicht um einen Täuschungsversuch oder Ähnliches.
- Öffentliche oder politische Persönlichkeiten
Wie bereits erwähnt, werden Deepfakes auch in der Politik immer häufiger eingesetzt, und zwar bewusst und absichtlich. Beispielsweise von Politikern, die den Anschein erwecken wollen, Sprachen zu sprechen, die sie in Wirklichkeit nicht sprechen, um ein relativ simples Szenario zu nennen. Allerdings gibt es auch Fälle, in denen sie sich durch Deepfakes in Situationen zeigen, die sie in ein bestimmtes Licht rücken, was ihnen zum Beispiel im Wahlkampf zu Gute kommen soll. Allerdings handelt es sich dabei um Situationen, die in Wirklichkeit nie stattgefunden haben. Und genau so, wird die Linie überschritten, die den harmlosen und sogar positiven Nutzen von Deepfakes von problematischen und negativen Fällen trennt.
Risiken rund um das Thema Deepfakes
Etwas, das wahrscheinlich alle technologischen Fortschritte gemeinsam haben, ist, dass sie sowohl im Guten als auch im Schlechten eingesetzt werden können. Das Problem ist, dass es an uns liegt, dies zu tun. Da wir auf diesem Planeten viele Menschen sind, ist die Wahrscheinlichkeit, dass nicht alle von uns die Technologie zum Guten nutzen, ziemlich hoch. Und genau deswegen kommen die Nachteile und Bedenken zum Vorschein.
- Misstrauen
Wenn politische oder öffentliche Persönlichkeiten - freiwillig oder unfreiwillig - Deepfakes verwenden, verstärkt dies unweigerlich das Misstrauen in der Öffentlichkeit. Gefälschte Nachrichten wurden schon immer auf die eine oder andere Weise verbreitet, dessen sind wir uns bewusst. Mittlerweile ist man allerdings in der Lage, Bilder von Personen zu zeigen und sie Dinge sagen zu lassen, sodass sie in Situationen erscheinen, die nie passiert sind. Das bringt das Niveau der falschen Informationen auf eine ganz andere Ebene. Wenn also zum Beispiel Politiker diese Möglichkeit tatsächlich nutzen und zu ihrem Vorteil einsetzen, wächst das Misstrauen in der Bevölkerung unweigerlich, da niemand mehr sagen kann, was tatsächlich geschehen ist. Es gibt schließlich sowohl falsche als auch echte Bilder. Hinzu kommen die Bilder, die von Politikern nicht absichtlich produziert wurden, die als Angriffe oder Missbrauch angesehen werden, da sie möglicherweise verwendet werden, um die Person in einer unvorteilhaften Situation erscheinen zu lassen. Angesichts dieses Panoramas aus falschen Bildern für positive Zwecke, falschen Bildern für negative Zwecke und ja, man glaubt es kaum, auch einigen wahren Bildern, werden die Menschen immer mehr das Vertrauen in digitale Darstellungen verlieren.
- Manipulation und Desinformation
Das führt zum nächsten Punkt, Manipulation und Desinformation. Ob aus wirtschaftlichen, politischen oder anderen Gründen, es ist klar, dass die Möglichkeit falsche Bilder, Videos und Sprachaufnahmen zu erstellen, jeder Person mit den falschen Absichten unendlich viele Optionen gibt, Informationen zu manipulieren und falsche Tatsachen in der Welt zu verbreiten, und zwar buchstäblich. Das kann den Verlauf von Wahlen und den Finanzmarkt beeinflussen, internationale Beziehungen schaden und sich auf jedes andere mögliche Szenario auswirken.
- Verleumdung
This goes in line with the previous point. Obviously if a deepfake of a person is generated without that person’s agreement, it can lead to discreditation and literally ruin someone’s reputation. Other than that it increases the cases of fraud as falsifying someone’s identity actions without that personas approval might be taken.
Was können wir dagegen tun?
Die Zukunft mag wie ein digitaler Albtraum aussehen, und ja, es stimmt, dass es mit der sich stetig weiterentwickelnden Technologie bereits ziemlich unmöglich ist, den Unterschied zwischen falsch und echt zu erkennen. Genau deshalb müssen wir uns jedoch anpassen und Maßnahmen ergreifen, um das Vertrauen in die Medien wiederherzustellen und eine neue Struktur einzuführen. Dazu gehört Ehrlichkeit aufseiten der Medien, die transparent angeben sollten, wenn Bilder authentisch sind und wenn sie mit künstlicher Intelligenz manipuliert wurden.
Auf der anderen Seite muss die Öffentlichkeit aufgeklärt werden und sich daran gewöhnen, Informationen aus verschiedenen Quellen immer wieder zu vergleichen, um sich ein breiteres Bild von einem Thema machen zu können. Das verhindert natürlich nicht, dass Deepfakes eingesetzt werden, um Schaden anzurichten, aber es erhöht die Sensibilität für dieses Thema.
Außerdem müssen wir die künstliche Intelligenz zu unserem Verbündeten machen und uns daran gewöhnen, Informationen mit Tools wie WeVerifys Deepfake Detector, Deepware oder Microsoft Video AI Authenticatorzu verifizieren. Unternehmen sollten also Richtlinien gegen Desinformation einführen und bestimmte Schritte festlegen, um so schnell wie möglich zu reagieren, sobald falsche Informationen im Internet entdeckt werden, um diese so schnell wie möglich zu beseitigen.
Wie bereits erwähnt, kann jeder technologische Fortschritt auf unterschiedliche Weise genutzt werden. Wenn wir also die Vorteile nutzen wollen, die uns künstliche Intelligenz und die Erstellung von Deepfakes bringen, müssen wir auch einen Weg finden, mit den negativen Folgen umzugehen, die dies haben kann.
