Deepfakes sind mit künstlicher Intelligenz erzeugte oder manipulierte Bild-, Audio- und Videoinhalte, die echten Aufnahmen täuschend ähnlich sehen, obwohl die gezeigte Person die entsprechende Aussage oder Handlung nie getätigt hat. Was vor wenigen Jahren noch aufwendige Spezialsoftware voraussetzte, gelingt 2026 oft mit wenigen Klicks und frei verfügbaren KI-Tools. Genau diese Zugänglichkeit macht Deepfakes zu einem wachsenden Problem für Unternehmen, Medien und Privatpersonen gleichermaßen, und sie sind damit zugleich ein zentrales Thema der aktuellen KI-Regulierung.
Ab dem 2. August 2026 greift die Kennzeichnungspflicht für KI-Inhalte: Artikel 50 der EU-KI-Verordnung (Verordnung (EU) 2024/1689) verpflichtet Anbieter und Betreiber, künstlich erzeugte oder manipulierte Bild-, Audio- und Videoinhalte offenzulegen. Wer die Regeln verletzt, riskiert Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.
Wie entstehen Deepfakes und warum wirken sie so echt?
Die meisten Deepfakes basieren technisch auf neuronalen Netzen, dem gleichen technischen Grundprinzip hinter aktuellen Fortschritten beim maschinellen Lernen. Sie lernen aus vorhandenem Bild- und Tonmaterial einer Person und erzeugen daraus neue, frei kombinierbare Inhalte. Je mehr Trainingsmaterial vorliegt, aus Interviews, Social-Media-Videos oder Firmenauftritten etwa, desto überzeugender wirkt das Ergebnis. Führungskräfte und andere öffentliche Personen sind dadurch besonders angreifbar, weil von ihnen meist reichlich Bild- und Tonmaterial im Netz kursiert. Drei Arten lassen sich unterscheiden: Video-Deepfakes mit ausgetauschten Gesichtern oder Mimik, Stimmklone, die eine Stimme aus wenigen Sekunden Audiomaterial nachbilden, und textbasierte Fälschungen wie vermeintliche Zitate oder Chatverläufe. Mehrere Sicherheitsanbieter berichten unabhängig voneinander, dass gerade die Stimmklone in Betrugsszenarien stark zugenommen haben. Ohne technische Hilfsmittel fällt es Laien oft schwer, echt und gefälscht sicher auseinanderzuhalten.
Deepfake-Betrug und die Kennzeichnungspflicht ab 2026
Kriminelle setzen Deepfakes heute gezielt für Betrug ein, über klassische Desinformationskampagnen hinaus: gefälschte Video-Calls angeblicher Vorgesetzter, die Überweisungen anordnen, oder Stimmklone von Familienmitgliedern, die am Telefon Geld fordern. Solche Attacken werden oft mit klassischem Phishing kombiniert, weshalb eine solide Grundlage bei der IT-Sicherheit des eigenen Rechners nach wie vor die erste Verteidigungslinie bleibt. Ähnliche Maschen kursieren inzwischen auch als Betrugsmasche bei WhatsApp, bei der sich Kriminelle als vermeintliche Familienmitglieder ausgeben. Laut dem Sumsub Identity Fraud Report 2025/2026 stieg die Zahl der Deepfake-Betrugsfälle zwischen dem ersten Quartal 2024 und dem ersten Quartal 2025 um rund 700 Prozent, Deepfakes machen demnach inzwischen etwa 11 Prozent aller weltweit erfassten Betrugsfälle aus. Der Gesetzgeber reagiert darauf mit Artikel 50 der EU-KI-Verordnung: Ab dem 2. August 2026 müssen Anbieter und Betreiber bestimmter KI-Systeme offenlegen, wenn Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht ist Teil eines größeren Pakets an Vorgaben, die der EU AI Act für Hochrisiko-KI-Systeme Unternehmen auferlegt. Betroffen sind unter anderem Chatbots, KI-generierte Marketingbilder und Deepfakes, während Satire, Kunst und klar redaktionell verantwortete Inhalte unter erleichterten Bedingungen stehen. Verstöße können mit Bußgeldern bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden. Damit ist die Kennzeichnung ab August 2026 keine freiwillige Geste mehr, sondern eine bußgeldbewehrte Pflicht. Deepfakes werfen dabei auch Fragen auf, die über die reine Kennzeichnungspflicht hinausgehen, etwa beim Urheberrecht an KI-generierten Inhalten.
Deepfakes im Alltag erkennen
Wer Deepfakes im Alltag entlarven will, achtet am besten auf mehrere Auffälligkeiten gleichzeitig: unnatürliches Blinzeln oder fehlende Mimik, unpassende Lichtverhältnisse zwischen Gesicht und Hintergrund, leicht verzögerte Lippensynchronität sowie metallisch klingende oder monotone Stimmen. Bei verdächtigen Anrufen mit angeblich bekannten Stimmen hilft ein einfaches Mittel: ein vorab vereinbartes Codewort innerhalb der Familie oder des Unternehmens, das bei echten Anrufen problemlos genannt werden kann. Unternehmen sollten zusätzlich einen klaren Freigabeprozess für Überweisungen einrichten. Der darf sich nicht allein auf einen Videoanruf oder eine Sprachnachricht stützen, sondern braucht einen zweiten, unabhängigen Kommunikationskanal zur Bestätigung. Betrüger kombinieren Deepfake-Stimmen inzwischen auch mit anderen Maschen, etwa gefälschten QR-Codes; wie sich QR-Code-Phishing (Quishing) erkennen lässt, zeigt ein eigener Ratgeber. Die generelle Glaubwürdigkeit von Inhalten in sozialen Netzwerken gerät durch Deepfakes zusätzlich unter Druck, weil Nutzerinnen und Nutzer Bild- und Videomaterial im Netz zunehmend kritischer hinterfragen müssen.
Häufige Fragen
Woran erkenne ich einen Deepfake im Videoanruf?
Typische Hinweise sind unnatürliches Blinzeln, ruckelige Übergänge bei Kopfbewegungen, abweichende Lichtverhältnisse sowie eine Lippensynchronität, die nicht ganz zum Gesagten passt. Bei Unsicherheit hilft eine Rückfrage über einen zweiten Kanal.
Ab wann gilt die Kennzeichnungspflicht für KI-Inhalte?
Die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung gelten ab dem 2. August 2026 und betreffen unter anderem Deepfakes, Chatbots und KI-generierte Texte zu Themen von öffentlichem Interesse.
Welche Strafen drohen bei fehlender Kennzeichnung?
Verstöße gegen die Transparenzpflichten können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes des Unternehmens geahndet werden, je nachdem, welcher Betrag höher ausfällt.
Gilt die Kennzeichnungspflicht auch für Satire oder Kunst?
Für offensichtlich künstlerische, satirische oder fiktionale Inhalte gelten erleichterte Vorgaben: Hier reicht in der Regel ein Hinweis auf den künstlich erzeugten oder bearbeiteten Charakter des Werks.
Wie schützen sich Unternehmen konkret vor Deepfake-Betrug?
Bewährt haben sich Codewörter für sensible Anrufe, ein Vier-Augen-Prinzip bei Überweisungen über einen zweiten Kanal sowie regelmäßige Schulungen, die Beschäftigte für aktuelle Betrugsmaschen sensibilisieren.
Fazit
Deepfakes betreffen 2026 längst den Alltag: Privatpersonen, Unternehmen und die öffentliche Meinungsbildung sind gleichermaßen angreifbar. Ab dem 2. August 2026 gilt mit Artikel 50 der EU-KI-Verordnung erstmals eine verbindliche Transparenzpflicht für KI-generierte Inhalte, verbunden mit Bußgeldern bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes. Wer die Anzeichen aus dem vorigen Abschnitt kennt und im Ernstfall über einen zweiten Kanal nachfragt, ist schon heute besser geschützt, als es die neue Kennzeichnungspflicht allein leisten kann. Angesichts des Anstiegs um rund 700 Prozent bei Deepfake-Betrugsfällen laut Sumsub lohnt sich diese Vorsicht bereits jetzt.