Zur Übersicht

Deepfakes

Was sind Deepfakes?

Deepfakes sind mit Hilfe von künstlicher Intelligenz (KI) erstellte Inhalte, wie Audio, Fotos und Videos. Auch mit KI bearbeitete, echte Inhalte werden als Deepfakes bezeichnet. Der Begriff existiert erst seit 2017, was unter Anderem auf die rasche und stetige Entwicklung von KI zurückzuführen ist. Sie werden eingesetzt, um Personen öffentlich bloßzustellen, Desinformation zu verbreiten, ihre Identität zu stehlen oder für Pornografie (Deepnudes)

Deepfakes können beispielsweise wie folgt aussehen:

  • Stimmfälschung
  • Gesichtsfälschung (Face Swapping)

Wie erkenne ich Deepfakes?

  • schlechte oder ungleichmäßige Qualität: Sind Teile des Gesichts besser aufgelöst als der Rest des Körpers?
  • Gesunder Menschenverstand: Ist die Abbildung wirklich realistisch? (z.B. trägt der Papst wirklich Daunenjacke?)
  • Bildfehler: Besonders Perspektiven und realistische Lichtverhältnisse und Farbverläufe sind für eine KI schwer darzustellen
  • Personen: Mimik, Gestik, Sprache, aber auch Übergänge zwischen Hals und Kopf und Gliedmaßen werden von generativer KI falsch dargestellt (z. B. 6 statt 5 Finger, leerer Blick). Die Menschen in KI-Videos blinzeln oft nicht.
  • Bilder-Rückwärtssuche: Damit kann man sehen, ob und in welchen Kontexten dieses Medium auftaucht. Vielleicht findet man damit sogar das “Original”
  • Sprache: KI-Audios sind oft fehler-, akzent- und dialektfrei; Besonders bei Interviews mit mehreren Teilnehmern ist es unwahrscheinlich, dass alle perfektes Hochdeutsch reden. Auch die Betonung kann ein Hinweis auf Fälschung sein
  • Bei Verdacht: Verwende KI-Erkennungstools, wie DeepFake-o-meter, deepware.ai oder sensity.ai

Warum können Deepfakes gefährlich sein?

Heutzutage können brisante Medien innerhalb sehr kurzer Zeit in Umlauf gebracht werden. User entdecken scheinbare News und teilen sie weiter, ohne diese zu überprüfen. Nun kann man diesen Effekt mit Hilfe von Deepfakes ausnutzen, um die falschen Nachrichten zu verbreiten, die man möchte. Größer angelegte Desinformationskampagnen können Unmut und Spannungen in einer Gesellschaft erzeugen oder diese Spalten, was demokratiegefährdent sein kann.

Beispiel: Im März 2022, kurz nach Beginn des Angriffskrieges Russlands auf die Ukraine und Höhepunkts des Russland-Ukraine-Konflikts, tauchte ein Video auf, auf welchem angeblich Volodymyr Zelensky zu sehen ist, der die ukrainischen Soldaten auffordert, ihre Waffen niederzulegen und sich zu ergeben.(https://www.npr.org/2022/03/16/1087062648/deepfake-video-zelenskyy-experts-war-manipulation-ukraine-russia)

 

Auch Betrug und Social Engineering ist inzwischen kein theoretisches Szenario mehr. Bereits bekannte Betrugspraktiken, wie der bekannte “Enkeltrick” können mit Deepfakes weiter perfektioniert werden. Ein paar gute Bilder oder eine klare Stimmenaufnahme, die heutzutage nicht länger als 30 Sekunden sein muss, reichen aus, um das Gesicht oder die Stimme einer Person zu imitieren. Dann kann man zum Beispiel die Bank desjenigen anrufen, um eine höhere Überweisung auf das eigene Konto zu autorisieren oder die Großmutter um Geld bitten.

Beispiel: Im Februar 2024 tätigte ein Mann aus Hongkong eine Überweisung in Höhe von $25 Mio, nachdem er in einem Videocall, unter anderem mit dem CFO des Unternehmens, dazu aufgefordert wurde. Danach hat sich herausgestellt, dass jede Person in diesem Call, außer der betroffene Mann, ein Deepfake war.
(https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk)

Das sind natürlich nicht alle Risiken und Gefahren, die Deepfakes mit sich bringen. Erwähnenswert ist auch, wie einfach Mobbing und Verleumdungen mit Deepfakes geworden sind. Deswegen ist es auch wichtig, sich selbst möglichst vor der Erstellung von Deepfakes mit dem eigenen Gesicht oder der eigenen Stimme zu schützen.

Was kann man gegen destruktive/betrügeriche Deepfakes tun?

  • Melde diese und den Account, der für die Verbreitung verantwortlich ist, dem Betreiber des sozialen Netzwerks
  • Da das Internet kein rechtsfreier Raum ist, können Deepfakes sehr wohl strafrechtlich relevant sein (zum Beispiel die Beleidungsdelikte §§ 185 ff. StGB) Dementsprechend können und sollten Deepfakes, die einem selbst schaden, zur Anzeige gebracht werden
  • Deepfakes nicht teilen, liken, kommentieren oder anderweitig interagieren
  • Darüber hinaus kann man die Sichtbarkeit von Medien in den sozialen Netzwerken einschränken, um die Erstellung von Deepfakes zu erschweren

Weitere Artikel