Deepfakes: Was sind sie, Arten, Risiken und Gefahren

Deepfakes lassen sich als Versuch zusammenfassen, falsche Informationen zu erstellen oder zu manipulieren. !Lernen Sie es!

20 abr 2023

Deepfakes: Was sind sie, Arten, Risiken und Gefahren
Deepfakes: Was sind sie, Arten, Risiken und Gefahren
Deepfakes: Was sind sie, Arten, Risiken und Gefahren

Das Internet war ein unglaublicher technologischer Fortschritt in unserem Leben. Es hat es für Hunderte von Menschen einfacher gemacht, Inhalte zu erstellen, zu arbeiten, sich zu unterhalten ... aber nicht alles kann gut sein. An dieser Stelle sollten wir über Deepfakes und die neue Methode des Betrugs sprechen, die dank ihnen im Internet Einzug gehalten hat.

Haben Sie schon einmal von diesem Begriff gehört? Vielleicht nicht, aber vielleicht haben Sie ihn gesehen und gar nicht bemerkt. Wenn ja, ist es an der Zeit, dass Sie sich mit einer der neuesten Internet-Bedrohungen befassen, die in den letzten Jahren an Bedeutung gewonnen hat. 

Deepfakes lassen sich als Versuch zusammenfassen, falsche Informationen zu erzeugen oder zu manipulieren, um Sie auszutricksen und bestimmte wichtige Daten über Sie zu erhalten. 

All dies geschieht mithilfe künstlicher Intelligenz und mit der Verwendung bekannter Persönlichkeiten des öffentlichen Lebens, jedoch ohne deren Zustimmung, mit dem Ziel, etwas zu verkaufen, sei es ein Produkt, eine Dienstleistung oder irgendetwas anderes, alles mit der Absicht, Sie zu betrügen... 

Was sind Deepfakes?

Ein Deepfake ist nichts anderes als eine Video-, Bild- oder Sprachdatei, die von einer Software oder einem Programm mit künstlicher Intelligenz so verändert wurde, dass sie echt, original und real aussieht.

Zugegeben, diese neue Betrugsmethode ist nicht neu, sondern gibt es bereits seit 1990. 

Das Problem ist, dass sie erst vor ein paar Jahren, genauer gesagt 2017, wirkliche Relevanz hatte. Ein „Porno“-Video mit berühmten Schauspielerinnen auf Reddit wurde gepostet, das sich als Fälschung herausstellte, da es nur die Gesichter der Betroffenen verwendete.

Dieser Begriff bedeutet übersetzt „tiefe Unwahrheiten“ und setzt sich aus den Wörtern "fake" und „deep" zusammen. 

Ersteres wird als Fälschung verstanden, also als Video-, Bild- oder Sprachmaterial, während letzteres von „deep learning" stammt. Hier ist es etwas komplexer, denn es geht um künstliche Intelligenz, die automatisch lernt. 

Diese künstlichen Intelligenzen schaffen es, mithilfe von Computern genaue Modelle zu erstellen. Das Ziel ist einfach: Unser Gehirn soll uns verraten, wenn wir ein Bild einer öffentlichen Person mit einem bestimmten Bekanntheitsgrad sehen, die über ein Thema spricht. 

Dies würde dazu führen, dass wir unseren kognitiven Schutz aufgeben, und genau hier liegen die Risiken von Deepfake.

Bei Deepfakes wird maschinelles Lernen auf der Grundlage künstlicher Intelligenz eingesetzt. Diese Betrugsmethode basiert auf komplexen Algorithmen, die feststellen können, ob eine Datei authentisch ist oder verändert wurde. 

Dadurch wird die künstliche Intelligenz bei der Fälschung von Informationen effektiver, ohne dass ein Mensch eingreifen muss. Deepfakes können von Software oder Computern erstellt werden, die speziell für dieses maschinelle Lernen entwickelt wurden.

Diese neue Methode, die populär geworden ist, wird eingesetzt, um die Endempfänger von Dateien zu täuschen, unabhängig davon, ob es sich um eines der oben genannten Formate handelt. 

In der Regel handelt es sich dabei um falsche Aussagen einer wichtigen Person in der Welt, z. B. eines Politikers oder Influencers. Dies kann dazu dienen, deren Ruf zu schädigen oder ein Produkt und/oder eine Dienstleistung zu verkaufen.

Die verschiedenen Deepfake-Dateien sind in der Lage, die Stimme oder die Gesichtszüge einer Person zu verändern und sie als die einer anderen Person auszugeben, wodurch eine Datei entsteht, die dem Original verblüffend ähnlich ist. 

Daher sind einige Experten der Meinung, dass Deepfakes eine absichtliche Entwicklung von Fake News darstellen, die durch die Verbreitung dieser Dateien im Internet und in den sozialen Medien eindeutig darauf abzielt, die Öffentlichkeit zu manipulieren.

Arten von Deepfakes

Angesichts dieser neuen Art von Verleumdung, Erpressung oder Betrug, die sich im Internet entwickelt hat, wurden 2 klassische Modelle beobachtet, mit denen versucht wird, Menschen zu täuschen. Obwohl es noch einige mehr gibt, sind dies die bekanntesten

1. Deepfaces

Deepfaces fangen in einem Video bei null an und produzieren realistisch aussehende, aber völlig falsche Bilder. Durch Ersetzen der Personen in vorhandenen Bildern oder Videos erstellt das KI-gestützte maschinelle Lernen neue Bilder, die verändert und aus den Originalen generiert werden.

Das Verfahren ist insofern einfach, als es versucht, mehrere statische Bilder zu erzeugen, die zusammen eine Videosequenz bilden, um schließlich ein gefälschtes Video zu produzieren, das völlig überzeugend ist.

2. Deepvoices

Diese tiefen Fälschungen ahmen die Stimme einer Person in einer Audiodatei nach und erwecken den Eindruck, dass sie nicht das gesagt hat, was sie zu sagen vorgab.

Der erste Cyber-Betrug, bei dem künstliche Intelligenz zum Einsatz kam, fand 2019 statt. Cyberkriminelle nutzten Deepvoices, um einer Führungskraft vorzugaukeln, dass mit einem Vorgesetzten seines Unternehmens sprach, was ihn dazu veranlasste, mehr als 250.000 Dollar zu überweisen.

Beispiele für Deepfakes 

Bis jetzt scheint es wie ein Science-Fiction-Film, in dem eine neue Art des Angriffs auf Internetnutzer entwickelt wurde, aber nein, es ist real und hier sind einige berühmte Beispiele, die aufgetreten sind

1. Obama und Jordan Peele’s Deepfake-Video

Es gibt ein von Buzzfeed veröffentlichtes Video, das bis heute mehr als 8 Millionen Plays auf Youtube hat und seit 2018 veröffentlicht wurde. Dies ist einer der bekanntesten Fälle dieser Art von Internet-Betrug.

2. Deepfakes auf Bildern von Menschen, die nicht echt sind

Es gibt eine beliebte Seite namens This Person Does Not Exist, die in der Lage ist, jedes Mal, wenn Sie das Portal aktualisieren, ein Gesicht durch eine künstliche Intelligenz zu erzeugen. 

Ja, es gibt gelegentlich Fehler, aber die Ergebnisse sind wirklich erstaunlich, wenn man bedenkt, was eine künstliche Intelligenz damit erreichen kann.

3. Ihr Gesicht in das eines Prominenten verwandeln

Reface ist einer der auffälligsten Fälle, da es sich um eine Anwendung handelt, die im Google Play App Store verfügbar ist und eine Bewertung von mehr als 4 Sternen hat. Was macht sie? Es ersetzt das Gesicht einer Person durch das eines Prominenten in einem Bild oder Video. Dies geschieht mithilfe einer Bibliothek, die auf Crowdsourcing basiert.

Wie werden Deepfakes erstellt?

Obwohl es recht einfach ist, ein Deepfake zu erstellen, sieht das Endergebnis umso echter aus, je besser man sich auskennt. 

Allerdings können Deepfakes mithilfe spezieller künstlicher Intelligenz und audiovisueller Bearbeitungssoftware die manipulierten Bilder mit wenig oder gar keinem menschlichen Zutun erstellen.

Mithilfe eines KI-Codierungsalgorithmus erstellen diese Deepfakes Tausende von Bildern der beiden Personen. 

Das Programm sucht und analysiert Ähnlichkeiten zwischen den Gesichtern und konzentriert sich auf die gemeinsamen Merkmale, um eine „anthropomorphe Analogie" zu schaffen.

Die Bilder werden von einem zweiten Algorithmus der künstlichen Intelligenz entschlüsselt, der Informationen über die Merkmale der beiden Gesichter extrahiert. Zu diesem Zeitpunkt werden bis zu zwei verschiedene Dekodierer verwendet, einer für jedes der Bilder, da die beiden Gesichter unterschiedlich sind.

Der Decoder des anderen Bildes wird verwendet, um die kodierten Bilder zu dekodieren, nachdem sie in den falschen Decoder eingespeist worden sind. 

Infolgedessen muss der Decoder das gewünschte Bild anhand der Mimik und der Körperbewegungen des Bildes, das er abrufen soll, neu erstellen. Das Ergebnis ist ein Video, das völlig authentisch aussieht.

Wozu werden Deepfakes verwendet?

Der Nutzen von Deepfakes für Betrüger, Verleumder und Betrüger ist unglaublich. Tatsache ist, dass sie eine Reihe von Möglichkeiten für Betrügereien eröffnet haben, die fast unüberwindbar scheinen. Hier sind nur einige Beispiele:

1. Verbreitung falscher Informationen

Dies ist vielleicht eines der einfachsten und häufigsten Beispiele für einen Deepfake. Die Verwendung einer Person des öffentlichen Lebens in einem Bereich wie Wirtschaft oder Technologie ist der perfekte Weg, um Fake News in einer Gemeinschaft zu verbreiten. Das Beispiel von Barack Obama ist ein klares Beispiel für die Auswirkungen, die sie haben können.

2. Erstellen von Desinformationen

Neben der Erstellung falscher Informationen können Sie auch Fehlinformationen zu einem beliebigen Thema erstellen. Nehmen wir an, es taucht eine neue Variante von Covid-19 auf, die aber nicht so ernst ist. Ein Deepfake kann verwendet werden, um Menschen das Gegenteil glauben zu machen und Chaos und Unsicherheit unter den Menschen zu verbreiten.

3. Diffamierung von Personen des öffentlichen Lebens

Dies ist ein klares Beispiel dafür, was ein Deepfake erreichen kann. Ob es sich nun um ein Video oder eine Audioaufnahme handelt, die über soziale Netzwerke wie Instagram, Facebook, WhatsApp oder andere Netzwerke „geleakt“ wird – es ist der perfekte Weg, um den Ruf einer Person in kurzer Zeit zu schädigen. Dabei kann es sich um Schauspieler, Politiker oder Sportler handeln, um nur einige Beispiele zu nennen.

4. Begehung von Verbrechen und Betrug

Wir haben bereits den Fall einer Deepvoice erwähnt, die eine Person dazu brachte, eine Überweisung in dem Glauben vorzunehmen, sie spreche mit einem Vorgesetzten in ihrem Unternehmen. Derselbe Fall kann in kleinerem Maßstab durchgeführt werden, um andere Menschen zu täuschen.

5. Verfälschung von Ergebnissen

Verleumdung durch Deepfakes kann die öffentliche Meinung und die Ergebnisse und Stimmen einer Präsidentschaftswahl verändern. 

6. Manipulation der Finanzmärkte 

Dies ist ein weiteres deutliches Beispiel dafür, wie Deepfakes den globalen Markt beeinflussen können. Mit jeder der oben genannten Methoden ist es möglich, den Anstieg oder Fall des Aktienkurses eines Unternehmens zu beeinflussen und so für Unruhe in einer Branche oder einem Sektor zu sorgen.

8 Schritte zur Erkennung eines Deepfakes

Zum Glück für uns haben alle Deepfake-Systeme einen Fehler. Wenn Sie wissen, wie Sie sie erkennen können, kann das den Unterschied ausmachen, ob Sie auf eine Fälschung hereinfallen oder nicht. Im Folgenden werden wir Ihnen helfen, potenzielle Deepfakes mit häufigen Fehlern zu erkennen.

1. Die offensichtlichen Fehler

Es gibt Gesichtsausdrücke, die sich der Fähigkeit der KI entziehen, sie zu verändern, sodass die Beleuchtung oder ein Teil des Gesichts komisch aussieht. Ja, sie können einen großartigen Realismus erreichen, aber das ist auch ihre größte Schwäche, da sie klare Fehler hinterlassen, die für fast jeden sichtbar sind: unscharfe Kanten, glatte Haut, abgehackte Bewegungen.

2. Kein Flackern? 

Die Häufigkeit des Flackerns in einem Deepfake ist nicht dieselbe wie in einem echten Video, und wenn es auftritt, wird deutlich, dass die Arbeit von einer KI war. Das Problem, wenn man sich darauf verlässt, ist, dass dies in Zukunft korrigiert und verbessert wird, sodass es weniger auffällig ist.

3. Betrachten Sie das Gesicht und den Hals

Die Veränderung des Gesichts ist das Ziel der KI, aber die Veränderung des Körpers ist eine andere Geschichte. Sie können sich den Hals und den Körper ansehen, um Schwachstellen zu erkennen und mögliche Ersetzungen zu identifizieren.

4. Ist das Video zu kurz?

Da der Lernprozess des Algorithmus sehr aufwändig ist, sind fast alle Deepfakes sehr kurz, höchstens ein paar Sekunden. Kurz gesagt, ein weiteres Anzeichen für einen Deepfake ist ein zu kurzes Video mit unplausiblem Inhalt.

5. Woher kommt es?

Wir können ein Deepfake identifizieren, indem wir herausfinden, wer die Datei ursprünglich geteilt hat, in welchen sozialen Netzwerken sie geteilt wurde, in welchem Kontext sie gepostet wurde und welche Details die Datei ursprünglich enthielt.

6. Hören Sie etwas Seltsames?

Deepfakes haben oft das Problem, dass der Algorithmus, der zur Veränderung der Tondatei verwendet wird, nicht richtig mit dem künstlich erstellten Video und Bild synchronisiert wird. Dadurch scheinen sich die Lippen unabhängig voneinander zu bewegen, und es entsteht ein Gefühl der Verzögerung zwischen Stimme und Video.

7. Spielen Sie das Video in Zeitlupe ab

Wenn Sie das Video in Zeitlupe abspielen, werden Sie feststellen, dass es abrupte Sprünge von einem Bild zum nächsten gibt, anstatt der fließenden Übergänge, die ein Video haben sollte.

8. Bemerken Sie etwas Seltsames im Mund?

KIs sind nicht in der Lage, echte Bewegungen des Mundes, der Zähne oder eines anderen Teils des Mundes beim Sprechen zu erzeugen. Wenn Sie also auf diese Details achten, können Sie einen Deepfake leichter erkennen.

Wusstest du schon, was Deepfakes sind? Wir sind gespannt auf Ihre Meinung. Schreiben Sie uns in den Kommentaren, was Sie denken: