Der Anruf, der keiner war
Freitagnachmittag in einem Elektrobetrieb im Rheinland. Die Buchhalterin erhält eine Sprachnachricht, angeblich vom Geschäftsführer, der gerade auf einer Messe ist: Eine dringende Überweisung an einen neuen Lieferanten müsse noch heute raus, die Rechnung folge per Mail. Die Stimme klingt vertraut – Tonfall, Dialekt, sogar die typische Ungeduld. Erst der Anruf auf der bekannten Mobilnummer des Chefs bringt die Wahrheit ans Licht: Er weiß von nichts. Die Stimme war eine Fälschung, erzeugt aus wenigen Sekunden Audiomaterial, das aus einem öffentlichen Messevideo stammte.
Solche Fälle sind keine Zukunftsmusik mehr, sondern dokumentierter Alltag der Betrugsabteilungen. Und sie zeigen, warum das Thema Deepfakes längst nicht mehr nur Prominente und Politik betrifft, sondern jedes Unternehmen mit einer Buchhaltung und jeden Menschen mit einem Social-Media-Konto. Die gute Nachricht: Man kann lernen, mit dieser neuen Lage umzugehen. Die weniger gute: Es gibt keinen Knopf, der Fälschungen zuverlässig erkennt. Es braucht ein Zusammenspiel aus geschultem Blick, gesunder Skepsis und ein paar festen Gewohnheiten.
Was Deepfakes eigentlich sind
Der Begriff Deepfake setzt sich aus Deep Learning – der Technik hinter modernen KI-Modellen – und Fake zusammen. Gemeint sind Medieninhalte, in denen Gesichter, Stimmen oder ganze Szenen künstlich erzeugt oder manipuliert wurden: ein Video, in dem eine reale Person Dinge sagt, die sie nie gesagt hat; ein Foto eines Ereignisses, das nie stattfand; eine Stimme, die einen echten Menschen imitiert.
Was das Phänomen neu macht, ist nicht die Fälschung an sich – manipulierte Fotos gibt es seit über hundert Jahren. Neu sind drei Dinge: die Qualität, die inzwischen auch geübte Augen täuscht, der Aufwand, der von Spezialistenwochen auf Minuten am Smartphone gesunken ist, und die Skalierbarkeit, weil Fälschungen massenhaft und personalisiert erzeugt werden können. Für eine überzeugende Stimmkopie genügen heute wenige Sekunden Originalaufnahme. Wer regelmäßig Videos veröffentlicht, in Podcasts spricht oder auf Firmenfeiern gefilmt wird, liefert das Rohmaterial frei Haus – das ist kein Grund zur Panik, aber ein Grund, interne Abläufe wie Zahlungsfreigaben nie allein von einer Stimme oder einem Videoanruf abhängig zu machen.
Woran man KI-Bilder (noch) erkennt
Bei künstlich erzeugten Bildern gibt es eine Reihe typischer Schwachstellen, die sich zu prüfen lohnen. Das Wort "noch" gehört allerdings in jeden Satz dieses Abschnitts: Die Modelle werden in hohem Tempo besser, und jede Checkliste ist eine Momentaufnahme.
#
Hände, Zähne und Ohren
Der Klassiker sind Hände: sechs Finger, seltsam verwachsene Gelenke, Daumen an unmöglichen Positionen. Bildmodelle lernen aus Millionen Fotos, auf denen Hände in unzähligen Haltungen, oft teilweise verdeckt, zu sehen sind – entsprechend schwer fällt ihnen die korrekte Anatomie. Ähnliches gilt für Zahnreihen, Ohrringe, die nur an einem Ohr hängen, oder Brillen, deren Bügel im Nichts enden. Aktuelle Modelle machen diese Fehler deutlich seltener, aber bei Bildern mit mehreren Personen oder komplizierten Posen lohnt der Blick auf die Details noch immer.
#
Schrift und Logos
Text im Bild ist eine zweite verlässliche Schwachstelle. Straßenschilder, Zeitungsüberschriften, Aufdrucke auf T-Shirts oder Verpackungen geraten häufig zu einem Buchstabensalat, der aus der Entfernung echt wirkt und beim Heranzoomen zerfällt. Auch bekannte Logos werden oft nur ungefähr getroffen – die Form stimmt, die Details nicht.
#
Hintergründe und Physik
Der dritte Blick gilt dem Hintergrund und der Bildlogik: Geländer, die ins Leere laufen, Schatten, die in verschiedene Richtungen fallen, Spiegelungen, die nicht zum Vordergrund passen, Menschenmengen, in denen Gesichter zu glatten Flächen verschwimmen. Auffällig ist oft auch eine unnatürlich makellose Ästhetik – zu glatte Haut, zu perfektes Licht, ein leicht wächserner Gesamteindruck. Bei Videos kommen ruckartige Übergänge, seltsames Blinzeln oder Lippenbewegungen hinzu, die nicht ganz zum Ton passen.
#
Stimmen und Live-Videoanrufe
Bei gefälschten Stimmen und manipulierten Videoanrufen versagt der rein visuelle Blick naturgemäß – hier helfen Verhaltensproben. Geklonte Stimmen geraten bei spontanen Abweichungen ins Straucheln: eine unerwartete Rückfrage, ein Themenwechsel, die Bitte, etwas Konkretes aus einem gemeinsamen Erlebnis zu bestätigen, das nirgendwo öffentlich dokumentiert ist. In Videoanrufen kann man das Gegenüber bitten, den Kopf langsam zur Seite zu drehen oder die Hand vor das Gesicht zu führen – Manipulationen in Echtzeit brechen an solchen Stellen häufig sichtbar zusammen. Manche Familien und Firmen vereinbaren inzwischen schlicht ein Codewort für heikle Anliegen am Telefon. Das wirkt altmodisch, ist aber genau deshalb wirksam: Es liegt außerhalb dessen, was ein Angreifer aus öffentlichen Daten rekonstruieren kann.
So hilfreich diese Merkmale sind: Verlassen Sie sich nicht allein darauf. Ein Bild ohne sichtbare Fehler ist kein Echtheitsbeweis, und umgekehrt erzeugen auch echte Fotos durch Kompression und Filter manchmal seltsame Artefakte. Die Detailprüfung ist ein Indiz unter mehreren – nicht mehr, aber auch nicht weniger.
Schock-Inhalte: erst prüfen, dann teilen
Die wirksamste Verteidigung ist keine technische, sondern eine psychologische. Fälschungen, die sich verbreiten sollen, zielen fast immer auf starke Emotionen: Empörung, Angst, Sensation. Ein angebliches Video einer Katastrophe, ein Politiker mit einer skandalösen Aussage, ein Prominenter, der ein dubioses Finanzprodukt bewirbt – je heftiger die unmittelbare Reaktion, desto größer sollte die Skepsis sein. Genau dieser Impuls, sofort zu reagieren und zu teilen, ist das Einfallstor.
Die Gegenstrategie ist unspektakulär und wirksam: innehalten und gegenprüfen. Wenn ein Ereignis echt und bedeutsam ist, berichten etablierte Nachrichtenredaktionen mit eigener Rechercheabteilung in aller Regel innerhalb kurzer Zeit darüber. Findet sich ein angeblich weltbewegendes Video ausschließlich auf anonymen Konten in sozialen Netzwerken, ist das ein deutliches Warnsignal. Hilfreich ist auch die umgekehrte Bildersuche, mit der sich prüfen lässt, ob ein Foto älter ist als das behauptete Ereignis oder aus einem völlig anderen Kontext stammt. Faktencheck-Redaktionen wie die von dpa, ARD oder Correctiv nehmen sich viral gehender Fälschungen meist schnell an – ein kurzer Suchlauf nach dem Thema plus dem Wort Faktencheck kostet eine Minute.
Für den betrieblichen Alltag gilt zusätzlich die Regel aus unserem Eingangsbeispiel: Bei ungewöhnlichen Zahlungsaufforderungen oder sensiblen Anweisungen immer über einen zweiten, bekannten Kanal rückversichern – ein Rückruf auf der gespeicherten Nummer, eine Nachfrage im Büro. Kein seriöser Vorgesetzter nimmt einem Mitarbeiter diese Vorsicht übel.
Warum "KI-Detektoren" für Texte nicht halten, was sie versprechen
Neben Bildern und Videos beschäftigt viele eine zweite Frage: Kann man erkennen, ob ein Text von einer KI geschrieben wurde? Im Netz werben zahlreiche Dienste damit, genau das zu leisten – Lehrer prüfen damit Hausarbeiten, Personaler Anschreiben, Redaktionen Gastbeiträge. Die ernüchternde Wahrheit: Diese Detektoren sind unzuverlässig, und zwar in beide Richtungen.
Sie schlagen bei menschlichen Texten Alarm, besonders häufig bei Menschen, die nicht in ihrer Muttersprache schreiben oder einen schlichten, gleichmäßigen Stil pflegen – deren Texte ähneln statistisch dem, was die Detektoren als maschinell einstufen. Gleichzeitig lassen sie sich von KI-Texten täuschen, die leicht umformuliert oder mit entsprechender Anweisung erzeugt wurden. Der Grund liegt im Prinzip: Die Detektoren messen statistische Auffälligkeiten wie sehr gleichförmige Wortwahl und Satzlängen. Das sind Wahrscheinlichkeitsindizien, keine Nachweise – es gibt im Text kein verstecktes Wasserzeichen, das sich zweifelsfrei auslesen ließe.
Die Konsequenz ist unbequem, aber wichtig: Das Ergebnis eines Text-Detektors taugt nicht als Beweis, weder für eine Anschuldigung gegenüber Schülern und Bewerbern noch als Freifahrtschein. Wer wissen will, ob ein Mensch hinter einem Text steht und ihn versteht, kommt um das Gespräch nicht herum – Nachfragen zum Inhalt entlarven fehlendes Verständnis zuverlässiger als jede Software. Sinnvoller als die Detektiv-Frage ist in vielen Organisationen ohnehin die Grundsatzfrage: klare Regeln, wo KI-Unterstützung erlaubt und erwünscht ist, und wo Eigenleistung zählt.
Ein praktisches Beispiel: Eine Berufsschule im Ruhrgebiet stand vor genau diesem Konflikt, nachdem ein Detektor die Facharbeit eines Schülers als angeblich maschinell erzeugt eingestuft hatte – der Schüler bestritt es glaubhaft, der Nachweis war unmöglich, das Vertrauensverhältnis beschädigt. Die Schule zog die Konsequenz, auf Detektoren zu verzichten, und stellte um: Zu jeder Arbeit gehört seither ein kurzes Fachgespräch über Inhalt und Vorgehen. Der Effekt war doppelt positiv – wer seine Arbeit versteht, glänzt im Gespräch, und wer nur abgegeben hat, was die Maschine schrieb, fällt binnen Minuten auf. Der Umweg über die Technik erwies sich als Sackgasse, der Weg über das Gespräch als Abkürzung.
Die gesellschaftliche Dimension
Deepfakes verändern nicht nur, was gefälscht werden kann – sie verändern, was Echtem noch geglaubt wird. Fachleute sprechen von der Dividende des Lügners: Wenn grundsätzlich alles gefälscht sein könnte, kann jeder Ertappte behaupten, ein echtes belastendes Video sei ein Deepfake. Der Schaden entsteht also doppelt – durch die Fälschungen selbst und durch das schwindende Vertrauen in authentisches Material.
Politik und Industrie reagieren darauf: Die europäische KI-Verordnung sieht Kennzeichnungspflichten für künstlich erzeugte Inhalte vor, große Plattformen und Kamerahersteller arbeiten an Herkunftsnachweisen, die einem Bild fälschungssicher anheften, wann und womit es aufgenommen oder bearbeitet wurde. Solche Standards brauchen aber Zeit, bis sie flächendeckend greifen – und Kriminelle halten sich naturgemäß nicht an Kennzeichnungspflichten. Bis dahin bleibt Medienkompetenz die wichtigste Ressource: nicht Zynismus, der gar nichts mehr glaubt, sondern die ruhige Gewohnheit, Herkunft und Plausibilität zu prüfen, bevor man glaubt und teilt.
Fazit: Drei Gewohnheiten, die Sie sofort etablieren können
Erstens: Vereinbaren Sie im Unternehmen eine feste Rückversicherungs-Regel für Zahlungen und sensible Anweisungen – ungewöhnliche Aufträge werden immer über einen zweiten, bekannten Kanal bestätigt, unabhängig davon, wie echt Stimme oder Video wirken. Zweitens: Trainieren Sie den prüfenden Blick im Team, etwa mit einer kurzen internen Schulung zu den typischen Bildfehlern und zur umgekehrten Bildersuche – zwanzig Minuten reichen für einen spürbaren Effekt. Drittens: Verabschieden Sie sich von der Vorstellung, ein Detektor könne die Echtheitsfrage für Sie beantworten, und setzen Sie stattdessen auf Quellenprüfung und Nachfragen. Wenn Sie Ihr Team systematisch fit machen möchten, unterstützt FJ Design mit praxisnahen KI-Workshops – vom sicheren Umgang mit KI-Inhalten bis zur Einführung im Betrieb.