Ist KI-Kompetenz für Behörden verpflichtend?

Was der EU AI Act wirklich verlangt – und was nicht

KI wird genutzt – auch ohne klare Regeln

Künstliche Intelligenz ist in vielen Behörden längst Realität. Texte werden zusammengefasst, Informationen recherchiert, erste Entwürfe erstellt. Oft geschieht das pragmatisch, manchmal experimentell, nicht immer offiziell geregelt.

Gleichzeitig wächst die Unsicherheit:
Dürfen wir das? Müssen wir etwas beachten? Und wer trägt eigentlich die Verantwortung?

Mit dem EU AI Act bekommt diese Unsicherheit erstmals einen verbindlichen Rahmen. Und damit stellt sich für viele Verwaltungen eine konkrete Frage: Ist KI-Kompetenz für Behörden verpflichtend?

Die kurze Antwort: Nein – aber faktisch ja

Der EU AI Act schreibt keinen konkreten „KI-Führerschein“ vor.
Er verpflichtet Behörden auch nicht explizit dazu, bestimmte Schulungsformate einzuführen.

Was er jedoch sehr klar macht:
Organisationen, die KI einsetzen oder deren Einsatz verantworten, müssen über ausreichende KI-Kompetenz verfügen.

Und genau hier beginnt die praktische Verpflichtung.

Was der EU AI Act unter KI-Kompetenz versteht

Der EU AI Act denkt KI nicht primär technisch, sondern organisatorisch und verantwortungsbezogen. KI-Kompetenz bedeutet in diesem Zusammenhang nicht, Systeme programmieren zu können, sondern:

• die Funktionsweise von KI grundlegend zu verstehen
• Ergebnisse richtig einzuordnen und zu hinterfragen
• Risiken, Verzerrungen und Fehlannahmen zu erkennen
• rechtliche und ethische Grenzen zu kennen
• Verantwortung für den Einsatz übernehmen zu können

Für Behörden ist das entscheidend:
Nicht jede Nutzung ist hochriskant – aber jede Nutzung ist verantwortungsrelevant.

Warum „Nichtwissen“ kein Schutz mehr ist

Ein häufiger Irrtum lautet:

„Solange wir KI nur unterstützend einsetzen, sind wir nicht betroffen.“

Genau diese Annahme wird durch den EU AI Act aufgeweicht. Verantwortung entsteht nicht erst bei komplexen KI-Systemen, sondern bereits dort, wo Entscheidungen vorbereitet, Informationen verarbeitet oder Texte erzeugt werden.

Für Behörden bedeutet das:

• Wer KI nutzt, muss sie einordnen können.
• Wer KI freigibt, muss Risiken verstehen.
• Wer KI verbietet, muss das begründen können.

Fehlende Kompetenz wird damit selbst zum Risiko.

Welche Rolle spielt Datenschutz dabei?

Beim Einsatz von KI in Behörden spielen insbesondere Datenschutz, Zweckbindung und der Umgang mit sensiblen Informationen eine zentrale Rolle, wie sie auch vom Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) regelmäßig thematisiert werden.

Gerade hier zeigt sich:
Technische Regeln allein reichen nicht aus. Ohne Verständnis für Funktionsweisen, Grenzen und typische Fehler von KI-Systemen lassen sich Datenschutzanforderungen kaum sinnvoll umsetzen.

Bedeutet das: Jede Behörde braucht eine KI-Schulung?

Nicht jede Behörde braucht sofort Spezialwissen oder technische Tiefenschulungen.
Was jedoch immer wichtiger wird, ist eine gemeinsame Wissensbasis:

• Was ist KI – und was nicht?
• Wo hilft sie realistisch, wo nicht?
• Welche Nutzung ist unkritisch, welche sensibel?
• Wo müssen Fachstellen eingebunden werden?

Ohne diese Basis entstehen Unsicherheit, Aktionismus oder pauschale Verbote. Alles drei hilft niemandem.

Wie Behörden KI-Kompetenz strukturiert aufbauen können

In der Praxis setzen viele Verwaltungen auf eine Kombination aus Richtlinien, Zuständigkeiten und Schulungen. Richtlinien allein lösen das Problem jedoch nicht, wenn Mitarbeitende die Inhalte nicht einordnen können.

Eine strukturierte Möglichkeit, KI-Kompetenz aufzubauen, sind standardisierte Schulungs- und Sensibilisierungsformate wie der KI-Führerschein für Behörden. Solche Programme schaffen ein gemeinsames Verständnis, ohne technische Überforderung oder juristische Detailtiefe.

Wichtig ist dabei:
Schulung ersetzt keine Rechtsberatung und keine Einzelfallprüfung – sie schafft die Grundlage dafür, dass diese sinnvoll stattfinden können.

Fazit: Keine Pflicht – aber eine klare Erwartung

Der EU AI Act verpflichtet Behörden nicht zu einem bestimmten Schulungsformat.
Er verpflichtet sie jedoch dazu, verantwortungsvoll mit KI umzugehen.

In der Praxis bedeutet das:

• KI-Kompetenz wird zur Voraussetzung
• fehlende Einordnung wird zum Risiko
• Schulung wird zum Organisationsfaktor

Nicht, weil es vorgeschrieben ist – sondern weil es notwendig ist.