KI-generierte Inhalte erkennen und einordnen

Deepfakes, KI-Bilder und synthetische Stimmen lassen sich nicht mehr sicher am Bauchgefühl erkennen. Dieser Guide zeigt eine praktische Prüfkette für Alltag, Bildung, Unternehmen und Verwaltungen - mit ZDF-Fall, Kennzeichnung, C2PA und klaren Weitergabe-Regeln.

Von Johannes Hartenbauer Zuletzt aktualisiert: 13. Juli 2026 8 Min. Lesezeit

Lupe macht die synthetische Struktur eines Porträts sichtbar

In diesem Artikel

Artikel

Lesezeit: 8 Min. Lesezeit
Veröffentlicht: 27. Februar 2026
Format: Einsteiger-Guide
Niveau: Einsteiger
Thema: KI in der Verwaltung

Hinweis: Dieser Guide berücksichtigt Quellen mit Stand 13. Juli 2026 und dient der praktischen Orientierung, nicht als Rechtsberatung.

KI-generierte Bilder, Videos und Stimmen sind nicht mehr nur ein Internetphänomen. Sie tauchen in Nachrichten, Präsentationen, Schulkontexten, Social-Media-Feeds, interner Kommunikation, Werbung und politischer Debatte auf. Die wichtigste Frage lautet deshalb nicht mehr: Sieht das echt aus? Sondern: Woher kommt dieser Inhalt, was soll er belegen und wie sicher können wir das prüfen?

Der ZDF-Fall vom Februar 2026 zeigt, warum diese Frage praktisch relevant ist. Im heute journal wurde ein Beitrag über Einsätze der US-Migrationsbehörde ICE mit KI-generiertem Videomaterial und einer weiteren Szene aus falschem Kontext bebildert. Das ZDF entschuldigte sich, entfernte den Beitrag von seinen Plattformen, berief die zuständige New-York-Korrespondentin ab und kündigte zusätzliche Prüfmechanismen an. Der Fall war kein Beweis dafür, dass jede Redaktion unzuverlässig ist. Er war ein Lehrstück dafür, dass selbst professionelle Prozesse bei synthetischen Medien klare Prüfschritte brauchen.

Kurzfassung

Gute Deepfakes lassen sich nicht mehr zuverlässig mit bloßem Auge erkennen. Einzelne Bildfehler sind Hinweise, aber keine sichere Methode.
Die beste Prüfung kombiniert Quelle, Kontext, Rückwärtssuche, Faktenchecks, offizielle Bestätigungen und technische Herkunftssignale.
Wasserzeichen, Plattform-Labels, SynthID und C2PA Content Credentials helfen, sind aber keine Wahrheitsgarantie und können fehlen.
Für Organisationen ist die wichtigste Regel: KI-generierte Medien nicht nur erkennen wollen, sondern Veröffentlichung, Kennzeichnung, Freigabe und Korrektur sauber regeln.
Ab 2. August 2026 werden die Transparenzpflichten des EU AI Act für KI-generierte Inhalte und Deepfakes praktisch wichtiger.

Was zählt als KI-generierter Inhalt?

KI-generierte Inhalte sind Texte, Bilder, Videos, Audios oder Kombinationen daraus, die ganz oder wesentlich durch ein KI-System erzeugt oder verändert wurden. Bei Deepfakes geht es besonders um realistisch wirkende Medien, die echte Personen, Orte, Ereignisse oder Aussagen so nachahmen, dass sie für Betrachterinnen und Betrachter echt wirken können.

Wichtig ist die Wirkung, nicht nur die Technik. Ein harmloses KI-Icon für eine Präsentation ist etwas anderes als ein realistisches Video, in dem eine Politikerin scheinbar etwas sagt, was sie nie gesagt hat. Ein KI-generiertes Symbolbild in einem Schulprojekt ist etwas anderes als synthetisches Bildmaterial in einer Nachrichtensendung, das ein reales Ereignis belegen soll.

Warum Erkennung allein nicht reicht

Früher konnte man bei KI-Bildern oft auf Hände, Zähne, Schatten, Schrift oder seltsame Ränder achten. Diese Hinweise gibt es noch, aber sie werden schwächer. Moderne Bild- und Videogeneratoren erzeugen glaubwürdigere Gesichter, bessere Bewegungen und überzeugendere Szenen. Gleichzeitig werden echte Bilder mit KI bearbeitet, zugeschnitten, entrauscht, erweitert oder in einen neuen Kontext gestellt.

Deshalb ist die Frage Ist das KI? zu klein. Praktischer ist eine Dreierfrage:

Was behauptet der Inhalt? Zeigt er nur Stimmung, oder soll er ein Ereignis beweisen?
Woher stammt der Inhalt? Gibt es eine ursprüngliche Quelle, eine seriöse Redaktion, eine offizielle Stelle oder nur Reposts?
Wie wurde geprüft? Gibt es Kontext, Rückwärtssuche, Faktencheck, technische Signale oder Bestätigung durch mehrere unabhängige Quellen?

Die Prüfkette für Bilder, Videos und Audio

Die folgende Prüfkette funktioniert für private Social-Media-Posts, Unterricht, interne Unternehmenskommunikation und öffentliche Kommunikation. Sie ersetzt keine forensische Analyse, verhindert aber viele typische Fehlentscheidungen.

Schritt	Praktische Frage	Typisches Warnsignal
1. Wirkung prüfen	Will der Inhalt informieren oder vor allem Empörung, Angst oder Triumph auslösen?	stark emotional, extrem passend zur eigenen Meinung, keine Einordnung
2. Ursprung suchen	Wer hat es zuerst veröffentlicht?	nur Reposts, anonyme Accounts, kein Impressum, keine Originaldatei
3. Kontext vergleichen	Passen Ort, Datum, Sprache, Kleidung, Wetter, Schilder und Ereignis zusammen?	alte Aufnahme in neuem Kontext, anderer Ort, falsche Jahreszeit
4. Rückwärtssuche nutzen	Findet Google Lens, TinEye oder eine Videoframe-Suche ältere Treffer?	Bild taucht früher oder auf zweifelhaften Seiten auf
5. Technische Hinweise ansehen	Gibt es KI-Logos, C2PA/Content Credentials, sichtbare Wasserzeichen oder Plattform-Labels?	Label fehlt trotz realistischer Szene, Metadaten passen nicht zum behaupteten Ursprung
6. Faktenchecks prüfen	Haben Correctiv, dpa, Mimikama, öffentlich-rechtliche Faktenchecks oder internationale Factchecker den Fall behandelt?	keine seriöse Quelle bestätigt ein angeblich großes Ereignis
7. Entscheidung dokumentieren	Ist der Inhalt bestätigt, plausibel aber ungeprüft oder falsch?	Team teilt weiter, obwohl der Status unklar ist

Für Audio gilt zusätzlich: Stimmen können heute aus kurzen Samples geklont werden. Bei ungewöhnlichen Anweisungen per Telefon, Sprachnachricht oder Video-Call sollte man einen zweiten Kanal nutzen: Rückruf über eine bekannte Nummer, interne Freigabe, Vier-Augen-Prinzip oder eine vorab vereinbarte Sicherheitsfrage.

Checkliste

Vor dem Teilen oder Veröffentlichen

Eine kurze Arbeitsliste für Teams, Lehrkräfte, Social-Media-Redaktionen und Verwaltungen.

1. Behauptung notieren: Was soll Bild, Video oder Audio belegen? 2. Ursprung suchen: Wer hat es zuerst veröffentlicht und mit welchem Kontext? 3. Zweitquelle prüfen: Gibt es unabhängige, seriöse Bestätigung? 4. Rückwärtssuche nutzen: Bild, Screenshot oder Videoframe suchen. 5. technische Signale prüfen: Label, Wasserzeichen, Content Credentials, Metadaten. 6. Risiken bewerten: Personenbezug, Kinder, Gewalt, Politik, Gesundheit, Wahlen, Behörde, Marke. 7. Status festlegen: bestätigt, ungeprüft, irreführend oder falsch. 8. Erst nach Prüfung teilen – und Unsicherheit klar benennen.

Was Labels, Wasserzeichen und Content Credentials leisten

Technische Herkunftssignale werden wichtiger. C2PA Content Credentials sind signierte Herkunftsinformationen, die mit einer Datei verbunden sein können. Sie können zum Beispiel dokumentieren, womit ein Bild erstellt wurde, welche Bearbeitungsschritte erfolgt sind und wer die Information signiert hat. OpenAI, TikTok, YouTube, Meta und andere setzen auf eine Kombination aus Metadaten, Wasserzeichen, Erkennung und Labels.

Aber: Diese Signale sind Hilfsmittel, keine Wahrheitsmaschine. C2PA selbst betont, dass Content Credentials keine Wertung darüber liefern, ob die Geschichte hinter einem Inhalt wahr ist. OpenAI weist ebenfalls darauf hin, dass ein positiver Provenance-Treffer nur zeigt, dass ein Inhalt mit OpenAI-Werkzeugen erzeugt wurde. Er beweist nicht, dass der Inhalt korrekt, unverändert, rechtmäßig genutzt oder im richtigen Kontext präsentiert wird.

Umgekehrt ist das Fehlen eines Signals kein Beweis für Echtheit. Metadaten können beim Upload, Download, Screenshot, Zuschneiden, Komprimieren oder Formatwechsel verloren gehen. Wasserzeichen können beschädigt werden. Plattformen erkennen nur einen Teil der Inhalte. Deshalb sollte ein technisches Label immer nur ein Baustein der Prüfung sein.

Was der EU AI Act verändert

Der EU AI Act enthält Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Nach Artikel 50 sollen Anbieter unter anderem KI-generierte oder manipulierte Inhalte maschinenlesbar markierbar machen. Wer Deepfakes oder bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse einsetzt, muss Nutzerinnen und Nutzer in klarer und zugänglicher Form über den künstlichen Ursprung informieren, soweit keine Ausnahme greift.

Der finale EU Code of Practice zur Transparenz KI-generierter Inhalte wurde am 10. Juni 2026 veröffentlicht und von Kommission und AI Board als geeignetes freiwilliges Instrument zur Erfüllung der Transparenzpflichten bestätigt. Er trennt Regeln für Anbieter zur maschinenlesbaren Markierung und Erkennung von Regeln für Betreiber zur sichtbaren Kennzeichnung von Deepfakes und bestimmten KI-generierten Textveröffentlichungen. Die Teilnahme am Code ist freiwillig, die Pflichten aus Artikel 50 sind es nicht. Sie werden ab 2. August 2026 anwendbar. Zusätzlich stellt die EU ein Set von Symbolen für die Kennzeichnung bereit. Für konkrete Veröffentlichungen, Behördenkommunikation oder Medienangebote sollte trotzdem geprüft werden, welche Pflichten und Ausnahmen im Einzelfall gelten.

Für Bildung: Medienkompetenz ohne Panik

In Schule, Hochschule und Weiterbildung sollte es nicht darum gehen, Lernende misstrauisch gegen jedes Bild zu machen. Ziel ist reflektierte Prüfung: Was weiß ich? Was glaube ich nur? Welche Quelle wäre stark genug, um eine Behauptung zu tragen?

Mit echten Fallanalysen arbeiten: Der ZDF-Fall, der Fake-Papst im Daunenmantel oder manipulierte Wahlkampfclips zeigen unterschiedliche Risiken: Fehler, Satire, Täuschung, politisches Framing.
Nicht nur Bildfehler suchen: Schülerinnen und Schüler sollten Quellen, Motive, Plattformlogik und Bestätigung durch andere Stellen prüfen.
Keine verletzenden Deepfake-Experimente: Übungsaufgaben dürfen nicht mit Gesichtern, Stimmen oder Namen echter Mitschülerinnen und Mitschüler arbeiten.
Betroffene schützen: Bei sexualisierten oder demütigenden Deepfakes geht es nicht um Medienquiz, sondern um Schutz, Meldung, Dokumentation und Unterstützung.

Für Unternehmen: nicht auf den CEO-Anruf hereinfallen

In Unternehmen sind synthetische Medien nicht nur ein Kommunikationsthema. Sie sind auch ein Sicherheitsrisiko. Deepfake-Stimmen können Zahlungsfreigaben auslösen, Fake-Videos können Marken beschädigen, KI-Bilder können Rechte verletzen und unklare Kennzeichnung kann Vertrauen kosten.

Freigaben definieren: Realistische KI-Bilder, synthetische Stimmen und KI-Videos gehören in einen klaren Review-Prozess.
Identität absichern: Finanz-, HR- und Geschäftsführungsanweisungen nie allein über Audio oder Video bestätigen.
Einwilligung und Rechte prüfen: Gesichter, Stimmen, Logos, Kundendaten und fremde Werke brauchen besondere Aufmerksamkeit.
Krisenpfad vorbereiten: Wer reagiert, wenn ein Fake über das Unternehmen kursiert? Welche Belege werden gesichert? Welche Kanäle informieren?

Für Verwaltungen: Vertrauen ist Teil der Infrastruktur

Behörden und öffentliche Einrichtungen haben eine besondere Vertrauensrolle. Wenn offizielle Kommunikation realistisch wirkende KI-Bilder nutzt, kann das kurzfristig modern aussehen, langfristig aber Zweifel säen: Ist diese Pressemitteilung echt? Ist das Foto aus der Einsatzlage real? Spricht hier wirklich die Bürgermeisterin?

Für Verwaltungen ist deshalb eine konservative Praxis sinnvoll: realistische KI-Medien in amtlicher Information nur mit klarer Kennzeichnung und nur dann einsetzen, wenn sie keinen Beweischarakter haben. Für Krisen, Wahlen, Gesundheit, Sicherheit, Leistungen und Bürgerrechte sollten echte, nachweisbare Quellen, archivierte Originale und offizielle Kanäle Vorrang haben.

Vorlage

Redaktionsregel für KI-Medien

Kurze Formulierung für Teams, die öffentliche Inhalte veröffentlichen.

Wir verwenden KI-generierte oder KI-manipulierte Bilder, Videos und Audios nicht als Beleg für reale Ereignisse. Wenn synthetische Medien illustrativ eingesetzt werden, kennzeichnen wir sie sichtbar, dokumentieren Tool, Zweck, Freigabe und Quelle und prüfen Personenrechte, Datenschutz, Barrierefreiheit und politische Wirkung vor Veröffentlichung.

Drei einfache Statusbegriffe helfen im Alltag

Viele Fehler passieren, weil ungeprüfte Inhalte wie bestätigte Inhalte behandelt werden. Teams sollten deshalb klare Statusbegriffe nutzen:

Bestätigt: Ursprung, Kontext und Aussage sind durch belastbare Quellen geprüft.
Ungeprüft: Der Inhalt kann echt sein, darf aber noch nicht als Beleg verwendet werden.
Irreführend oder falsch: Der Inhalt ist KI-generiert, manipuliert, aus falschem Kontext oder widerspricht belastbaren Quellen.

Diese Sprache reduziert Druck. Niemand muss in Sekunden entscheiden, ob ein Video echt ist. Es reicht oft, verantwortungsvoll zu sagen: Das ist noch ungeprüft, wir teilen es nicht weiter.

Fazit

KI-generierte Inhalte machen Medienkompetenz nicht unmöglich, aber sie verschieben den Schwerpunkt. Das Auge allein reicht nicht. Entscheidend sind Herkunft, Kontext, Prüfung, Kennzeichnung und Verantwortung.

Wer privat teilt, sollte kurz innehalten. Wer unterrichtet, sollte Quellenkritik praktisch üben. Wer für ein Unternehmen oder eine Verwaltung veröffentlicht, braucht klare Regeln: keine synthetischen Beweise, keine unklaren Personenabbildungen, keine ungeprüften Reposts und eine saubere Korrektur, wenn doch etwas schiefgeht.

Quellen und weiterführende Informationen

Hinweis: Einige Quellen führen zu englischsprachigen Hersteller-, Hilfe- oder Dokumentationsseiten. Die Linktexte beschreiben auf Deutsch, welche Information dort zu finden ist.