Deepfake-Erkennung

Deepfakes sind teilweise oder vollumfänglich mittels Machine Learning und AI generierte aufwändige Fälschungen von Gesichtern oder Stimmen, Bildern oder Screenshots (z.B. durch Apps generierte Whatsapp-Dialoge). Die Motive und Absichten dahinter sind vielfältig und, abgesehen von offenkundig künstlerischer Kreativität, grundsätzlich mißbräuchlicher Natur.

Wir bezeichnen dies allgemein als synthetischen Content. Im Unterschied dazu werden Verfälschungen mit geringerem Aufwand auch als “Shallowfakes” bezeichnet. Die eingesetzten Werkzeuge sind vielfältig und stammen aus der Stimmseparierung, AI-Detection, Spracherkennung, Übersetzung u.a.

Bei der Erkennung von Deepfakes setzen wir auf Machine Learning bzw. AI Modelle, dies stets in Kombination mit orthogonale Methoden deer Authentication wie beispielsweise Videostrukturanalyse, Group-of-Picture Video Analyse, Schattenwürfe, Reflexionen oder Sensordaten.

Rechtlich komplex ist auch die Frage der Verwendung von öffentlich verfügbaren Information als Trainingsdaten für ML-Modelle und damit zusammenhängender Intellectual Property Rights (IPR), beispielsweise Singen mit der Stimme von Adele.