Erklärung
Generative KI-Modelle werden mit großen Datenmengen trainiert und erzeugen auf Anfrage neue Inhalte, die den Trainingsdaten statistisch ähneln. Dazu gehören Sprachmodelle (Large Language Model), Modelle für Bilder und Videos, Verfahren zur Sprachsynthese (Voice Cloning) und Modelle für Programmcode.
Für Unternehmen sind diese Werkzeuge im Alltag nützlich: bei Texten, Übersetzungen, Zusammenfassungen oder der Auswertung großer Datenmengen. Dieselben Fähigkeiten können missbraucht werden. Täuschungsversuche lassen sich schneller, in besserer Sprachqualität, in vielen Sprachen und stärker personalisiert erstellen. Das Ergebnis eines KI-Werkzeugs ist deshalb nicht automatisch betrügerisch, aber auch nicht automatisch echt oder zuverlässig.
Wichtig ist die Unterscheidung zwischen Erzeugung und Täuschung. Ein KI-generierter Text oder ein synthetisches Bild wird erst dann zum Betrugsmittel, wenn es eingesetzt wird, um jemanden über Herkunft oder Wahrheitsgehalt zu täuschen.
Typisches Beispiel (schematisch)
Ein Angreifer lässt aus öffentlichen Informationen über ein Unternehmen eine passend formulierte Nachricht im Stil einer bestimmten Führungskraft erzeugen. Der Aufwand, eine solche Nachricht individuell zu verfassen, sinkt dadurch erheblich.
Bedeutung für Forensik und Ermittlungen
Für Untersuchungen wird weniger die Frage entscheidend, ob KI im Spiel war, als was sich belegen lässt: Herkunft, Zustellweg, Metadaten, Kontext und Verhalten der beteiligten Konten. Ein sicherer Nachweis, dass ein Inhalt KI-generiert ist, lässt sich nicht in jedem Fall führen.
Erkennung und Prävention
Technische Erkennungsverfahren sind hilfreich, aber nicht immer zuverlässig. Verlässlicher sind Prozesse, die nicht vom Eindruck eines Inhalts abhängen: Rückbestätigung (Out-of-Band-Validierung), mehrstufige Freigaben und klare Regeln für den Umgang mit neuen Zahlungs- oder Zugangsanfragen.
Auch gesucht als Generative künstliche Intelligenz, Generative AI, GenAI, KI-Generierung, Generative Artificial Intelligence