Deepfake-Betrug: Wenn Stimmen und Videos als Identitätsnachweis nicht mehr ausreichen

Wie Deepfake-Betrug funktioniert

Ein Deepfake ist ein mit Methoden des maschinellen Lernens erzeugter oder veränderter Medieninhalt, der eine reale Person oder ein Ereignis vortäuscht. Im Betrug sind drei Techniken besonders relevant:

• Stimmen nachbilden: Voice Cloning erzeugt Sprache in der Stimme einer bestimmten Person. Wie viel Ausgangsmaterial nötig ist, hängt von Modell und gewünschter Qualität ab.
• Gesichter austauschen: Beim Face Swapping wird das Gesicht in einer Aufnahme ersetzt, bei einigen Werkzeugen auch live bei einem Videoanruf.
• Komplette Szenen erzeugen: Bild- und Videomodelle können Aufnahmen erzeugen, die so nie stattgefunden haben.

Das Ausgangsmaterial stammt häufig aus öffentlichen Quellen: Videos, Podcasts, Vorträge, Social-Media-Beiträge. Für Personen in leitenden Positionen gibt es meist viel davon.

Der eigentliche Betrug beginnt danach. Der Täter nutzt das Medium, um eine Anweisung glaubwürdig erscheinen zu lassen: eine Zahlung, die Herausgabe von Zugangsdaten oder die Freigabe eines Vorgangs. Die Technik ist Mittel zum Zweck; das Muster entspricht dem bekannten CEO-Fraud: Autorität, Vertraulichkeit, Zeitdruck.

Typische Szenarien

Schematisches Beispiel 1: Videokonferenz. Kurzfristig wird eine Konferenz mit mehreren Teilnehmern angesetzt. Eine Person erscheint als Geschäftsführung und weist eine vertrauliche Überweisung an. Die übrigen Teilnehmer sind nicht anwesend oder ebenfalls manipuliert. Die schlechte Verbindung erklärt, warum Bild und Ton nicht perfekt sind.

Schematisches Beispiel 2: Sprachnachricht. Die Buchhaltung erhält eine Sprachnachricht in der Stimme der Leitung mit der Bitte um eine Zahlung. Eine Rückfrage per Mail wird nicht beantwortet, weil „keine Zeit“ sei.

Schematisches Beispiel 3: Notlage im privaten Umfeld. Ein Anruf in der Stimme eines Angehörigen schildert eine dringende Lage. Ähnliche Muster kennt man als Enkeltrick, hier mit technisch nachgebildeter Stimme.

Diese Beispiele sind schematisch und beschreiben keine konkreten Fälle. Sie zeigen die Struktur: ein vertrautes Medium, ein plausibler Anlass, Handlungsdruck.

Warum die Erkennung schwierig ist

Fachleute und Werkzeuge suchen nach Auffälligkeiten: unnatürliche Mimik, Artefakte an Rändern, Inkonsistenzen von Licht und Schatten, Abweichungen im Sprachfluss, ungewöhnliche Stille oder Atmung. Bei einfachen Fälschungen funktioniert das. Bei hochwertigen Fälschungen, kurzen Sequenzen oder komprimierten Verbindungen sind solche Merkmale oft nicht erkennbar.

Automatisierte Erkennungsverfahren liefern in der Regel Wahrscheinlichkeiten und sind je nach Verfahren, Medium und Qualität unterschiedlich zuverlässig. Ein Ergebnis „unauffällig“ ist deshalb keine Echtheitsbestätigung. Wer einen Beweis für Fälschung oder Echtheit benötigt, braucht eine Untersuchung im Einzelfall, und auch dann ist nicht in jedem Fall eine eindeutige Aussage möglich.

Zusätzliche Hinweise können Herkunftsangaben liefern. Der Standard Content Provenance kann Herkunft und Bearbeitung dokumentieren. Er belegt dies, aber nicht die Wahrheit des Inhalts. Ein KI-Wasserzeichen kann ein Hinweis sein, sein Fehlen beweist nichts.

Was sich forensisch untersuchen lässt

Ein Befund stützt sich selten auf nur ein Merkmal. Betrachtet werden typischerweise:

1. Die Datei selbst: Format, Kodierung, Bearbeitungsspuren und Metadaten.
2. Die Umstände: Wer hat die Datei wann über welchen Weg erhalten?
3. Die Plattform: Protokolle von Konferenz- oder Messenger-Systemen, Teilnehmerkonten, Geräte- und Netzwerkdaten.
4. Folgehandlungen: Zahlungen, Freigaben und Anmeldungen im Umfeld des Ereignisses.

Aus dem Zusammenspiel entsteht eine Zeitlinie (Timeline-Analyse). Der Befund wird so formuliert, dass klar ist, was technisch festgestellt wurde, was ein Hinweis ist und was offen bleibt. Eine rechtliche Bewertung gehört nicht dazu.

Wichtig ist die frühe Sicherung. Aufzeichnungen, Nachrichten und Protokolle sollten nicht gelöscht werden; Plattformen speichern Daten nur für begrenzte Zeit. Grundlagen dazu im Artikel Digitale Beweise richtig sichern: Warum der erste Umgang mit Daten entscheidend ist.

Schutzmaßnahmen, die unabhängig von der Fälschungsqualität wirken

Der wirksamste Schutz hängt nicht davon ab, ob eine Fälschung erkannt wird.

• Unabhängige Rückbestätigung (Out-of-Band-Validierung): Anweisungen mit finanziellen oder sicherheitsrelevanten Folgen werden über einen anderen, bekannten Kanal bestätigt, etwa Rückruf unter einer gespeicherten Nummer.
• Mehrstufige Freigabe: Keine Zahlung auf Basis einer einzelnen Anweisung, auch nicht der Geschäftsleitung.
• Vereinbarte Prüffragen oder ein Codewort (Familien-Codewort) im privaten Umfeld und bei besonders sensiblen Vorgängen.
• Aktive Prüfung bei Identifizierungen: Verfahren wie Liveness Detection erschweren Manipulationen, sind aber kein vollständiger Schutz.
• Begrenzung öffentlicher Ausgangsdaten: Nicht jede Aufnahme muss öffentlich verfügbar sein, besonders bei Personen mit Zahlungsbefugnis.
• Schulung mit Beispielen: Beschäftigte sollten wissen, dass Stimme und Bild allein nicht genügen, und dürfen nachfragen, ohne Nachteile zu befürchten.

Häufige Missverständnisse

„Videoanrufe sind sicherer als Telefonate.“ Nein, auch Bild und Ton lassen sich manipulieren. Ein Videoanruf erhöht das Vertrauen, aber nicht automatisch die Sicherheit.

„Ich erkenne die Stimme meines Chefs.“ Das Gehör ist ein schlechter Prüfmechanismus, vor allem unter Zeitdruck und bei schlechter Verbindung.

„Wir haben ein Erkennungstool, also sind wir sicher.“ Werkzeuge helfen, aber sie liefern keine Garantie. Prozesse müssen auch dann greifen, wenn das Werkzeug nichts meldet.

Was bei einem Verdacht gesichert werden sollte

Bei Verdacht auf einen Deepfake kommt es darauf an, möglichst viel im Originalzustand zu erhalten. Hilfreich sind:

• Die Datei oder Aufzeichnung selbst, nicht nur Screenshots oder Weiterleitungen, damit Format und Metadaten erhalten bleiben.
• Angaben zum Zustellweg: Absender, Plattform, Konto, Zeitpunkt, Gerät.
• Teilnehmerlisten und Einladungen bei Videokonferenzen, einschließlich der Zugangsdaten, mit denen sich Teilnehmer angemeldet haben.
• Notizen zum Ablauf: Wer hat was gesagt oder angewiesen, welche Rückfragen wurden gestellt, wie wurde reagiert?
• Folgehandlungen: Zahlungsbelege, Freigaben, Änderungen an Konten.

Wer eine Aufzeichnung selbst bearbeitet, konvertiert oder neu abspeichert, kann Spuren verändern. Eine fachkundige Sicherung vermeidet das und dokumentiert, womit gesichert wurde.

Einordnung

Der Beitrag beschreibt Mechanismen und Schutzmaßnahmen allgemein. Er ersetzt keine Untersuchung eines konkreten Falls und keine Rechtsberatung. Aussagen zur Zuverlässigkeit von Erkennungsverfahren hängen von Verfahren und Zeitpunkt ab und ändern sich mit der Technik.