KI-Kennzeichnungspflicht: Was müssen Behörden beachten?

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Act. Damit ist auch die Frage nach der Kennzeichnung von KI-generierten Inhalten konkreter geworden: Wann müssen Behörden darauf hinweisen, dass ein Inhalt mit KI erstellt wurde? Muss jetzt unter jeden mit ChatGPT formulierten Social-Media-Post ein Hinweis? Und was gilt für KI-Bilder, Videos oder Chatbots?

Die kurze Antwort lautet: Nein, Behörden müssen nicht pauschal jeden KI-unterstützten Inhalt kennzeichnen.Entscheidend ist, welche Art von Inhalt erstellt wird, wie KI dabei eingesetzt wurde und ob eine echte menschliche Prüfung stattgefunden hat.

Was steckt hinter der neuen Kennzeichnungspflicht?

Die neuen Transparenzpflichten sind Teil des EU AI Act, genauer gesagt Artikel 50. Sie gelten seit dem 2. August 2026 und sollen verhindern, dass Menschen durch KI-generierte oder manipulierte Inhalte getäuscht werden. Gleichzeitig sollen sie Transparenz darüber schaffen, wann Menschen mit KI interagieren oder KI-generierte Inhalte vor sich haben. 

Dabei gibt es nicht die eine allgemeine „KI-Kennzeichnungspflicht“. Artikel 50 unterscheidet verschiedene Situationen. Für Behörden sind insbesondere drei Bereiche relevant:

• KI-Systeme, die direkt mit Bürgerinnen und Bürgern interagieren
• KI-generierte oder manipulierte Bilder, Audio- und Videoinhalte
• KI-generierte oder manipulierte Texte, die zu Themen von öffentlichem Interesse veröffentlicht werden

Gerade der letzte Punkt sorgt aktuell für Unsicherheit. Denn Behörden informieren naturgemäß häufig über Themen, die von öffentlichem Interesse sind.

Muss jetzt jeder KI-Text einer Behörde gekennzeichnet werden?

Nein.

Das ist wahrscheinlich die wichtigste Erkenntnis für die Verwaltungspraxis.

Artikel 50 Absatz 4 betrifft KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. „Öffentliches Interesse“ kann dabei beispielsweise Politik, demokratische Prozesse, öffentliche Verwaltung und Dienstleistungen, Gesundheit, Sicherheit oder Umwelt umfassen. Für Behörden dürfte diese Voraussetzung deshalb relativ häufig erfüllt sein. 

Aber: Die Kennzeichnungspflicht greift nicht automatisch, nur weil KI bei der Erstellung des Textes verwendet wurde.

Entscheidend ist die menschliche Kontrolle.

Die EU-Kommission sieht eine Ausnahme vor, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. 

Das bedeutet für die Praxis: KI erstellt einen Entwurf → Mitarbeitende prüfen Inhalt und Fakten → Text wird gegebenenfalls überarbeitet → verantwortliche Person gibt ihn frei → Veröffentlichung

In diesem Fall muss der Text grundsätzlich nicht nach Artikel 50 als KI-generiert gekennzeichnet werden.

Was bedeutet „menschliche Kontrolle“?

Hier liegt ein wichtiger Unterschied. Eine Mitarbeiterin kopiert einen KI-generierten Text und schaut kurz nach Rechtschreibfehlern. Das ist nicht dasselbe wie eine echte redaktionelle Kontrolle.

Die menschliche Prüfung muss sich auf den Inhalt beziehen. Dazu können beispielsweise gehören:

• Sind die Fakten korrekt?
• Stimmen Zahlen und Daten?
• Sind Quellen und Aussagen plausibel?
• Wurde der Kontext richtig wiedergegeben?
• Enthält der Text falsche oder erfundene Informationen?
• Ist die Formulierung für die Zielgruppe geeignet?
• Kann die Behörde diese Aussage tatsächlich so veröffentlichen?

Erst dann lässt sich von einer tatsächlichen menschlichen Überprüfung beziehungsweise redaktionellen Kontrolle sprechen. Die EU-Kommission stellt ausdrücklich klar, dass eine rein formale Kontrolle wie eine reine Rechtschreib- oder Grammatikprüfung nicht ausreicht. 

Ein Beispiel aus der Behördenkommunikation

Eine Stadt möchte einen Instagram-Post zum neuen digitalen Bürgerservice veröffentlichen.

Die Mitarbeiterin gibt die wichtigsten Informationen in ein KI-Tool ein und lässt daraus einen ersten Text erstellen. Anschließend prüft sie die Öffnungszeiten, Links, Fristen und Leistungsbeschreibungen, verändert mehrere Formulierungen und ergänzt wichtige Informationen. Danach gibt sie den Beitrag redaktionell frei.

Hier ist keine zusätzliche Kennzeichnung des Beitrags allein aufgrund der KI-Nutzung erforderlich.

Anders sieht es aus, wenn eine Behörde ein KI-System automatisch Beiträge zu aktuellen Themen erstellen und veröffentlichen lässt, ohne dass eine Person die Inhalte vorher tatsächlich prüft.

Dann kann die Transparenzpflicht nach Artikel 50 greifen.

Die entscheidende Frage lautet also nicht: „Wurde KI verwendet?“

Sondern: „Wie wurde KI verwendet und wer trägt die redaktionelle Verantwortung für den veröffentlichten Inhalt?“

Was müssen Behörden bei Chatbots beachten?

Eine andere Situation entsteht, wenn Bürgerinnen und Bürger direkt mit einem KI-System interagieren.

Beispielsweise könnte eine Stadt einen KI-Assistenten auf ihrer Website einsetzen, der Fragen zu Dienstleistungen, Öffnungszeiten oder Anträgen beantwortet.

Hier müssen die Nutzerinnen und Nutzer grundsätzlich darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Die Verantwortung für diese Transparenzpflicht liegt bei den jeweiligen Anbietern beziehungsweise Betreibern im Rahmen der Vorgaben des Artikels 50. 

Für Behörden bedeutet das praktisch: Nicht so tun, als würde ein Mensch antworten, wenn tatsächlich ein KI-System dahintersteht.

Ein klarer Hinweis wie „Sie chatten mit dem KI-Assistenten der Stadt Musterstadt“ schafft hier Transparenz.

Und was gilt für KI-Bilder und Videos?

Bei Bildern, Audio und Videos ist genauer hinzuschauen.

Der AI Act enthält Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte. Besonders relevant sind sogenannte Deepfakes, also künstlich erzeugte oder manipulierte Inhalte, die realistisch wirken und beispielsweise den Eindruck erwecken können, eine reale Person habe etwas gesagt oder getan. 

Für Behörden kann das beispielsweise relevant werden, wenn:

• ein realistisches Bild eines Bürgermeisters mit KI verändert wird,
• ein Video einer politischen Person künstlich erzeugt wird,
• eine reale Stimme mit KI nachgebildet wird,
• ein realistischer KI-Avatar für die Behördenkommunikation eingesetzt wird,
• ein künstlich erzeugtes Bild als echte Aufnahme erscheinen könnte.

Hier sollte die konkrete Nutzung immer darauf geprüft werden, welche Transparenzpflicht nach Artikel 50 greift.

Nicht jedes offensichtlich künstliche oder kreative KI-Bild ist automatisch mit einem großen „KI-generiert“-Hinweis zu versehen. Der AI Act differenziert nach Art und Zweck des Inhalts. 

Was bedeutet das für Social Media?

Für Social-Media-Teams in Behörden lässt sich die Regelung relativ einfach herunterbrechen.

Kein automatischer Kennzeichnungspflicht-Fall

ChatGPT liefert Ideen für einen Instagram-Post.
→ Keine Kennzeichnung allein wegen der KI-Nutzung.

ChatGPT erstellt einen Entwurf für eine Pressemitteilung.
→ Mensch prüft und überarbeitet den Text redaktionell.
→ Grundsätzlich keine Kennzeichnung nach Artikel 50 erforderlich.

KI optimiert einen von einem Menschen geschriebenen Text.
→ Keine Kennzeichnung allein wegen dieser Unterstützung.

Kennzeichnung kann erforderlich sein

KI erstellt automatisch einen veröffentlichten Text zu einem Thema von öffentlichem Interesse und es findet keine echte menschliche redaktionelle Kontrolle statt.
→ Transparenzpflicht prüfen.

Ein KI-System kommuniziert direkt mit Bürgerinnen und Bürgern.
→ Transparenz darüber, dass es sich um KI handelt.

Ein realistisches KI-Video oder Bild täuscht über eine tatsächliche Person oder Situation.
→ Deepfake- beziehungsweise weitere Transparenzpflichten prüfen.

Was sollten Behörden jetzt konkret tun?

Die neue Regelung sollte nicht dazu führen, dass Behörden unter jeden Social-Media-Post pauschal „Mit Unterstützung von KI erstellt“ schreiben.

Sinnvoller ist ein klarer interner Prozess für den Einsatz von KI.

1. KI darf unterstützen

Mitarbeitende können KI beispielsweise für Rechercheideen, Strukturierung, Formulierungsvorschläge, Zusammenfassungen oder erste Entwürfe einsetzen.

2. Inhalte müssen geprüft werden

Gerade bei Behördenkommunikation sollten Fakten, Zahlen, Quellen, Namen, Fristen und rechtliche Aussagen kontrolliert werden.

3. Die Verantwortung bleibt beim Menschen

Eine verantwortliche Person muss entscheiden können, ob der Inhalt fachlich korrekt und für die Veröffentlichung geeignet ist.

4. Automatisierte Veröffentlichungen besonders kritisch prüfen

Je stärker KI eigenständig Inhalte erstellt und veröffentlicht, desto wichtiger wird die Prüfung der Transparenzpflichten.

5. Bei Bildern, Videos und Chatbots genauer hinschauen

Hier gelten andere beziehungsweise zusätzliche Anforderungen. Insbesondere realistisch wirkende KI-Inhalte sollten vor der Veröffentlichung auf mögliche Kennzeichnungspflichten geprüft werden.

Eine einfache Faustregel für die Verwaltung

Für den Arbeitsalltag lässt sich die Regelung auf einen Satz reduzieren: KI darf unterstützen. Die redaktionelle Verantwortung bleibt beim Menschen.

Oder noch konkreter: KI erstellt → Mensch prüft → Mensch entscheidet → Veröffentlichung

Das ist nicht nur eine gute redaktionelle Praxis. Bei KI-generierten Texten zu Themen von öffentlichem Interesse ist die tatsächliche menschliche Überprüfung auch für die Ausnahme von der Kennzeichnungspflicht entscheidend. 

Was bedeutet das für die KI-Kompetenz in Behörden?

Die Kennzeichnungspflicht ist deshalb weniger ein Anlass für eine neue Checkliste mit „Hier muss #KI stehen“ als vielmehr ein weiterer Grund, warum Behörden klare Regeln für den KI-Einsatz brauchen.

Mitarbeitende müssen wissen, wann KI eingesetzt werden darf, wie Ergebnisse geprüft werden müssen und wann Transparenz gegenüber Bürgerinnen und Bürgern erforderlich ist.

Das passt direkt zum Grundgedanken des AI Act: Die EU verpflichtet Organisationen dazu, für ein ausreichendes Maß an KI-Kompetenz bei den Personen zu sorgen, die mit KI-Systemen arbeiten. Diese Kompetenz soll sich unter anderem am Wissen, an der Erfahrung, am Nutzungskontext und an den Risiken des jeweiligen Einsatzes orientieren. 

Für Behörden bedeutet die neue Kennzeichnungspflicht deshalb vor allem eines: Sie brauchen keinen Aufkleber für jeden KI-Text. Sie brauchen einen verantwortungsvollen Umgang mit KI.

Und genau hier beginnt professionelle KI-Kompetenz.

Das Wichtigste auf einen Blick

Wichtig: Der EU AI Act ist eine verbindliche Rechtsgrundlage. Die konkrete Anwendung kann vom jeweiligen Einsatzszenario abhängen. Dieser Artikel ist daher als Orientierung für die Verwaltungspraxis gedacht und ersetzt keine individuelle rechtliche Prüfung.

Die EU-Kommission hat neben den verbindlichen Vorgaben inzwischen auch einen freiwilligen Verhaltenskodex für die Transparenz von KI-generierten Inhalten veröffentlicht. Dieser soll Anbietern und Betreibern dabei helfen, die Anforderungen aus Artikel 50 praktisch umzusetzen. 

Solltest du Fragen oder Anmerkungen haben, schicke uns gerne eine E-Mail an hallo@amtshelden.de. Ihr kommt in eurer Stadt mit Social Media nicht wirklich voran? Dann haben wir vielleicht was für dich – schau dir mal unser Amtfluencer-Programm und unsere Webinare an.