Wie erkennt man eigentlich DeepFakes?

Eigentlich sind wir gewohnt, Bildern und Videos zu vertrauen. „Seeing is believing“ ist ein geflügeltes Wort und drückt diese Erfahrung gut aus. DeepFakes erschüttern diese Erfahrung zunehmend. Deepfakes spielen in Wahlen eine Rolle – zum Beispiel bei der letzten Wahl in Ungarn. Unfassbare 3.230 Fake Videos wurden alleine im Zeitraum vom 01.01.26 bis zum 08.03.26 entfernt. Und an den Kommentaren konnte man erkennen, dass nicht jeder die DeepFakes auch als solche erkannte.

In den USA wurden auch die ersten Firmen mit dem Vorwurf konfrontiert, ihr auf „Erfahrungsberichte“ basierendes Marketing komplett mit DeepFakes generiert zu haben. Das ist dann schlicht Betrug der uns alle trifft (https://garymarcus.substack.com/p/the-back-story-behind-the-first-18. Ein hoch interessanter Beitrag, lohnt sich sehr zu lesen). Daher wird es immer wichtiger zu verstehen, woran man denn DeepFakes erkennen kann. Wir haben uns damit beschäftigt und dafür ein paar Tipps beschrieben.

Vertrauen – die wichtigste Währung einer Gesellschaft

DeepFakes lassen Politiker sagen, was sie nie gesagt haben und Dinge geschehen, die nie geschehen sind. DeepFakes diffamieren und irritieren Bürger und Leser. Und verkaufen unnütze Produkte. Die Ungarn-Wahl war hier ein offensichtliches Beispiel, aber auch die Ereignisse im Iran führten zu unzähligen Deepfakes. Jedes dazu gedacht, die Meinungsseite des jeweiligen Erstellers zu unterstützen.

DeepFakes hinterlassen oft verunsicherte Bürger. Wenn ein Video von Yanis Varoufakis (ehemaliger griechischer Finanzminister) ein hochgeheimes Treffen der westlichen Finanzminister mit brisantem Inhalt beschreibt, dann kann das bis zur Panik führen (YouTube, dieses Video wurde von Youtube entfernt bzw. der Kanal wurde gekündigt).

Oder wenn im russischen Fernsehen Beiträge von CBCN gezeigt werden (siehe Artikel in Newsguard), in denen fälschlicherweise behauptet wird, dass die ukrainischen Athleten aufgrund ihres aggressiven Verhaltens möglichst weit weg vom olympischen Dorf untergebracht werden, dann dient das nur dem Ziel, Hass und Abstand zu sähen.

Es ist für uns alle wichtig, DeepFakes zu erkennen. Und eigentlich ist das immer noch möglich. Man braucht eben ein bisschen Kopf dazu…

Wie kann man Deepfakes erkennen

Im Prinzip gibt es drei wesentliche Ansätze, um Deepfakes auf die Schliche zu kommen:

Man kann die Plausibilität des Behaupteten prüfen
Man kann die Darstellung als solche prüfen und hoffen, dass die Bild- oder Video-Generierung nachvollziehbare Fehler hinterlassen hat
oder man setzt auf Technik, um auf technischem Wege DeepFakes zu erkennen.

Selbst denken ist immer noch ein guter Ansatz

Wenn auf Facebook behauptet wird, Messi wäre mit seiner Frau in Nigeria gewesen (https://dubawa.org/viral-photo-of-messi-wife-visiting-nigeria-is-ai-generated), dann kann man immer selbst prüfen, wo denn Messi zu dieser Zeit gewesen ist. Immerhin hat Messi einen Instagram-Account. Und man kann schauen, wo er gespielt bzw. trainiert hat. Und auch wenn Pabst Leo XIV eine Weltuntergangsrede hält kann man auf seinen originalen Kommunikationskanälen schauen (https://katholisch.de/artikel/62258-ki-gefaelschte-predigten-von-papst-leo-xiv-fluten-das-internet) und kann sehr einfach feststellen, ob das nun echt ist oder nicht. Und ob nun Yanis Varoufakis als ehemaliger Finanzminister tatsächlich an einem hochgeheimen Treffen der aktuellen Finanzwelt teilnehmen würde kann man ja auch mal hinterfragen.

Die ukrainischen Athleten nutzen auch Social Media und man sieht, wo sie sich im olympischen Dorf aufhalten. Und generell gibt es genügend andere Berichte über Olympia, an denen man sich orientieren kann.

Im Juni 25 wurde ein Bild einer zerstörten israelischen F35 veröffentlicht.

Macht man sich klar, dass eine F35 ungefähr 10 Meter Spannweiter hat, dann fällt sofort auf, dass die Proportionen im Vergleich zu den das Flugzeug umgebenden Menschen nicht stimmen können.

Eine gute Idee ist oft auch eine Rückwärtssuche. Im Rahmen der Epstein Files wurde ein Bild von Maria Corina Machado veröffentlicht.

Eine einfache Rückwärtssuche in Google zeigt schnell, dass dieses Bild auf Basis eines bestehenden erzeugt wurde und nicht echt ist.

Genau hinschauen

Trotz aller Technik sind DeepFakes zum Glück oft noch erkennbar.

Oft einfach an ihrer Perfektion – alles ist aufgeräumt, schick und schön, die Haut perfekt, die Zimmer aufgeräumt, die Zähne makellos. Allerdings kann man diese Perfektion beim Bildgenerieren durch intelligentes Prompting auch vermeiden. Dann sehen die Bilder oft wie echte Alltagsschnappschüsse aus.

Am Besten erkennt man DeepFakes, wenn reale Objekte wie Handys, Markenartikel oder Bücher enthalten sind. In dem Video von Yanis Varoufakis sieht man ihn vor einem Bücherregal. Versucht man, die Titel der Bücher auf den Bücherrücken zu lesen bemerkt man, dass das alles nichtssagende Ketten von irgendwelchen buchstabenähnlichen Zeichen sind. Aber keine Texte. Genauso ist das bei verpackten Markenprodukten wie Flaschen oder Dosen. Zudem werden oft nicht existente Produktvarianten wie nicht existente Marken oder nicht existente Handys generiert.

Gerade Hände und Finger sind oft auch fehlerhaft dargestellt, hier lohnt es sich genau hinzuschauen.

Physik und Logik sind ebenfalls immer ein Thema:

Reflexe und Spiegelbilder sind oft falsch dargestellt
Kabel oder andere Alltagsgegenstände wie Besteck oder Gläser sind unlogisch platziert, so wie sie in der Praxis nie liegen würden.
Räder drehen sich unabhängig von der Bewegung eines Fahrzeugs über dem Boden
Sprünge und Berührungen erscheinen seltsam.

Da die Modelle eher ein statistisches Wissen über die Welt und die zu generierenden Bilder haben statt einem faktischen und physikalischen, generieren die Modelle die immer gleichen Fehler.

Gerade bei Videos verschmelzen in kurzen Phasen gerne verschiedene Objekte, beispielsweise in dem oben erwähnten Film mit den Affen die Arme der Äffchen mit dem Auto oder sie greifen durch die Windschutzscheibe.

In schnell bewegten Videos entstehen auch immer noch plötzlich auftauchende und wieder verschwindende Artefakte wie helle oder dunkle, verwaschene Flecken, die nichts mit der „Physik“ der Bilder zu tun haben.

Mit den neuen Versionen von Kling oder Seedance ist es noch schwieriger geworden. Diese Tools generieren weniger Fehler und können sogar teilweise mit realen Bildern von Räumen gefüttert werden, um realistische Videos zu produzieren.

Hier muss man oft auf Hintergründe und die dargestellten Räume achten. Denn genau damit hat GenAI ziemlich viele Probleme – im Moment. Wenn der Protagonist aufsteht und die Tür ist im Moment links, die Kamera schwenkt, der Protagonist läuft los und die Tür ist rechts, dann kann man mit genauem Hinschauen erkennen, dass das eben ein Fake ist.

Sind in den Videos viele Menschen dargestellt, dann sieht man oft dieselben Gesichter, die für mehrere Personen verwendet werden. Irgendwie sehen alle gleich aus. Dieser Mangel an Individualität ist oft ein gutes Erkennungsmerkmal.

Genau hinschauen lohnt sich also, wenn man sich informieren möchte.

Man muss aber auch zugeben: Eine unbekannte sprechende Person vor einem wenig konturierten Hintergrund ist kaum als generiertes Video erkennbar. Hier spielt der Faktencheck eine wichtigere Rolle.

Technologien nutzen um Deepfakes zu erkennen

Es gibt verschiedene Anbieter und Webseiten, die eine Prüfung eines Bildes oder eines Videos auf KI Generierung anbieten. Ein gutes Beispiel, das wir gefunden haben ist thehive. Hier wurden Fakes oft gut erkannt (https://thehive.ai/apis/ai-generated-content-classification). Ein sehr umfangreicher Ansatz ist der „Deepfake-O-Meter“ der University-of-Buffalo. Hier sind verschiedene Technologien umgesetzt und man kann mehrere Tools auf die Bilder anwenden um sie auf KI Generierung zu testen (https://zinc.cse.buffalo.edu/ubmdfl/deep-o-meter/). Man muss allerdings feststellen, dass diese Tools keine allzu große Sicherheit bieten. Ganz ohne Faktencheck kommt man da oft nicht aus.

Es gibt viele Ansätze, allerdings scheint die Entwicklungsgeschwindigkeit bei der Erstellung von DeepFakes deutlich schneller zu sein als bei der Identifikation von KI generiertem Inhalt.

Aussichtsreich könnte ein Ansatz sein, der „Diffusions-Inversion“ genannt wird. Der Trick dahinter ist, dass KI Bilder immer auf einem Produktionsprozess beruhen und damit „irgendwie“ doch immer ähnlich aussehen. Reale Bilder eben nicht.

Der Ansatz läuft darauf im Prinzip darauf hinaus, ein zu testendes Bild neu zu generieren. Je ähnlicher es dem Originalbild sieht, desto wahrscheinlicher ist, dass es KI generiert ist. Für diesen Ansatz gibt es jedoch noch kein einfaches Softwareangebot – man kann aber hoffen, dass irgendwann eine Lösung gefunden werden könnte. Aber bis dahin sind wir gefordert.

Wasserzeichen – eine gute Idee

Eigentlich wäre es ja wirklich eine gute Idee, wenn man in ein KI generiertes Bild ein Wasserzeichen integrieren würde, das die Herkunft des Bildes deutlich macht. Der einzige tatsächlich hier gründlich arbeitende Anbieter aus unserer Sicht ist Gemini. Mit Gemini generierte Bilder enthalten die SynthID. Dieses Wasserzeichen ist nicht einfach entfernbar und überlebt auch Screenshots und Kompressionen. Andere Anbieter verwenden teilweise ebenfalls Wasserzeichen, die jedoch oft einfach entfernbar sind und daher nur wenig Mehrwert liefern.

Der einfachste Weg: GenAI prüft GenAI

Man kann auch GenAI fragen – – zum Beispiel GenAI wie ChatGPT, Claude oder Gemini. Man verweist auf das Video oder lädt Bild oder Video hoch und fragt nach.

Das spannende ist, dass die künstliche Intelligenz dann nicht nur die Bilder auf ihre Wahrheit und potenzielle Bildfehler abprüft, sondern auch noch die Inhalte auf ihre Logik checkt: Existiert das im Bild dargestellte Handy wirklich? Macht es Sinn, dass Affen ein Auto steuern? Wird auf anderen Quellen über das beschriebene Ereignis berichtet.

Besonders gut schlägt sich hier wieder Gemini. Hier zahlt sich auch aus, dass Google mit SynthID ein Wasserzeichen generiert. Verwendet man also GenAI von Google, um Bilder zu produzieren wie das erfolgreiche Banana Pro ist es immer möglich, diese zu erkennen. Google betont immer wieder, dass es ihnen wichtig ist, dass generierte Bilder erkennbar sind.

Der große Vorteil von Gemini ist, dass es seine Bewertung begründet und den Inhalt und Kontext bewertet, nicht nur das Bild als solches.

Hilft eigentlich auch jemand?

Es gibt einige Organisationen, die sich auf die Aufklärung von Fake News konzentrieren. Eine ganze Liste finden Sie am Ende dieses Artikels.

Diese Organisationen bieten verschiedene Services, vom konkreten Faktencheck bis zur Beurteilung eines Informationskanals.

Newsguard bietet zahlenden Mitgliedern ein Browser Plugin, das die Glaubwürdigkeit eines Informationskanals gleich bei der Suche mit anzeigt.

Am Beispiel sieht man dann, dass die etwas euphorische Beurteilung des Films „Melania“ bei Breitbart von einem Informationskanal kommt, der eher nicht so glaubwürdig ist.

Aus unserer Erfahrung ist dieses Plugin eine wirkliche Hilfestellung, über die man nachdenken kann.

Fazit

Es wird für uns alle, für uns als Kunden, als Gesellschaft und unsere Demokratie immer wichtiger, die Verlässlichkeit von Informationen zu prüfen. Das trifft besonders bei unserem informativsten und in der Vergangenheit auch verlässlichsten Kanal, dem Sehen zu.

Daher ist es wichtig die Fähigkeit zu entwickeln, diese DeepFakes erkennen zu können. Und mit ein bisschen Übung und Technologieunterstützung geht das auch noch. Zum Glück!