Deepfake-Erkennung

Deepfakes sind teilweise oder vollumfänglich mittels Machine Learning und AI generierte aufwändige Fälschungen von Gesichtern oder Stimmen, Bildern oder Screenshots (z.B. durch Apps generierte Whatsapp-Dialoge). Die Motive und Absichten dahinter sind vielfältig und grundsätzlich mißbräuchlicher Art, Deepfakes sind somit immer Mittel zum Zweck.

Wir bezeichnen dies allgemein als synthetischen Content. Im Unterschied dazu werden Verfälschungen mit geringerem Aufwand auch als “Shallowfakes” bezeichnet.

Die eingesetzten Werkzeuge sind vielfältig und stammen auch aus dem künstlerischen Umfeld, der Spracherkennung, der Übersetzung u.a. Wir bewegen uns bei den Mitteln sozusagen in einem typischen “dual-use” Szenario, man kann diese für positive Anwendungszwecke als auch mit krimineller Energie einsetzen.

Bei der Erkennung von Deepfakes kann man ebenfalls auch Machine Learning Modelle setzen oder orthogonale Methoden wie beispielsweise Videostrukturanalyse einsetzen oder Schattenwürfe und Reflexionen auf Plausibilität überprüfen.

Rechtlich komplex ist auch die Frage der Verwendung von öffentlich verfügbaren Information als Trainingsdaten für ML-Modelle und damit zusammenhängender Intellectual Property Rights (IPR), beispielsweise Singen mit der Stimme von Adele.