Zum Inhalt
KI-BeauftragterRolle, Bestellung, Schulung

Start AI Governance

AI Governance im Unternehmen: Rollen, Regeln, Freigaben

Was zu einer funktionierenden Governance für KI gehört, wie viel davon Ihr Unternehmen braucht und welche Rolle der KI-Beauftragte darin spielt. Mit den Vorgaben, die es wirklich gibt.

Kurz gesagt

AI Governance, deutsch KI-Governance, ist das Gefüge aus Rollen, Regeln und Abläufen, mit dem ein Unternehmen den Einsatz von KI steuert: Zuständigkeiten, Richtlinie, Verzeichnis der Systeme, Freigabeweg und Kontrolle. Ein bestimmtes Modell schreibt die KI-Verordnung nicht vor; die EU-Kommission verlangt weder einen AI Officer noch ein Gremium.

Stand 14.11.2026, geprüft an Art. 4, 17, 26, 27 KI-VO, EU-Kommission, OMB-Memorandum M-25-21

Begriff

Was ist AI Governance?

AI Governance ist das Gefüge aus Rollen, Regeln und Abläufen, mit dem eine Organisation den Einsatz von Künstlicher Intelligenz steuert. Im Deutschen heißt sie KI-Governance; gemeint ist dasselbe. Sie beantwortet drei Fragen: Wer entscheidet über KI? Nach welchen Regeln wird sie genutzt? Wie wird überprüft, dass die Regeln wirken?

Ein Gesetz definiert den Begriff nicht. Die KI-Verordnung verwendet ihn als Teil anderer Pflichten: Anbieter von Hochrisiko-KI brauchen einen Rechenschaftsrahmen, der die Verantwortlichkeiten der Leitung und des Personals regelt (Art. 17 Abs. 1 Buchst. m KI-VO), und die Grundrechte-Folgenabschätzung enthält die Maßnahmen bei Eintritt von Risiken „einschließlich der Regelungen für die interne Unternehmensführung und Beschwerdemechanismen“ (Art. 27 Abs. 1 Buchst. f). Für alle anderen Unternehmen ist Governance der Weg, die Pflicht aus Art. 4 und ihre übrigen Pflichten zu organisieren.

Sechs Bausteine

Was gehört zu AI Governance im Unternehmen?

Sechs Bausteine, die sich in jeder Größe wiederfinden, nur unterschiedlich ausgebaut:

Gliederung von KI-Beratung Deutschland nach KI-VO und OMB-Memorandum M-25-21, Stand 14.11.2026.
BausteinWas er regeltHinweis
RollenWer entscheidet, wer koordiniert, wer prüft, wer nutztGeschäftsführung; KI-Beauftragter; Fachbereiche; Datenschutz; Informationssicherheit
GremiumAbstimmung über Bereiche hinweg, Entscheidungen über neue Anwendungenfreiwillig; Vorbild: AI Governance Boards in US-Bundesbehörden (OMB M-25-21)
RichtlinieErlaubte Werkzeuge, Umgang mit Daten, Prüfung von Ergebnissen, KennzeichnungBeschluss der Geschäftsführung; Mitbestimmung prüfen
VerzeichnisWelche KI-Systeme laufen, wozu, mit welchen Daten, in welcher Rolle nach KI-VOGrundlage für Einordnung, Schulung und Bericht
FreigabewegWie neue Anwendungen geprüft und freigegeben werdenFachbereich meldet, Datenschutz und Sicherheit prüfen, Leitung entscheidet
Kompetenz und KontrolleSchulungen, Dokumentation, regelmäßige Überprüfung, Umgang mit VorfällenArt. 4 KI-VO; bei Hochrisiko-KI Art. 26 ab 02.12.2027

Die Richtlinie ist dabei das sichtbarste Dokument. Was in eine KI-Richtlinie gehört, erklärt unsere Schwesterseite ki-compliance-experten.de. Das Verzeichnis und den Freigabeweg betreut in vielen Häusern der KI-Beauftragte; die Einzelheiten stehen unter Aufgaben des KI-Beauftragten.

EU-Kommission, OMB M-25-21

Braucht es ein KI-Gremium?

Nicht nach EU-Recht. Die EU-Kommission hat die Frage, ob eine Organisation für Art. 4 KI-VO ein Governance-Gremium einrichten muss, mit Nein beantwortet: Eine bestimmte Struktur ist nicht vorgeschrieben. Das europäische KI-Gremium, das die Verordnung kennt, ist etwas anderes: ein Gremium der Mitgliedstaaten auf EU-Ebene (Art. 65 KI-VO).

Ein Vorbild für ein internes Gremium liefert die US-Bundesverwaltung. Nach dem OMB-Memorandum M-25-21 vom 03.04.2025 musste jede große Bundesbehörde binnen 90 Tagen ein AI Governance Board einberufen: Vorsitz auf der Ebene des Deputy Secretary, stellvertretender Vorsitz der Chief AI Officer, dazu Vertreter aus IT, Cybersicherheit, Daten, Haushalt, Recht, Datenschutz und Bürgerrechten. Bestehende Gremien durften diese Aufgabe übernehmen.

Übertragen auf ein Unternehmen: Ein Gremium lohnt sich, sobald mehrere Bereiche KI einsetzen und Entscheidungen abgestimmt werden müssen. Den Vorsitz hat die Geschäftsführung oder eine von ihr bestimmte Person, die Geschäftsstelle führt der KI-Beauftragte. Oft genügt es, ein vorhandenes Gremium, etwa den IT- oder Datenschutzkreis, um KI zu erweitern.

Koordination, keine Entscheidung

Welche Rolle spielt der KI-Beauftragte in der Governance?

Die des Koordinators: Er hält Verzeichnis und Freigabeweg in Gang, bereitet Richtlinie und Entscheidungen vor, organisiert Schulungen und berichtet. Entscheiden und unterschreiben wird die Geschäftsführung, denn die Pflichten aus der KI-Verordnung treffen das Unternehmen. Die EU-Kommission und die Bundesnetzagentur verlangen keinen KI-Beauftragten, doch ohne eine Person, bei der die Fäden zusammenlaufen, bleibt Governance in der Praxis meist Papier.

In großen Organisationen kann darüber eine Führungsrolle stehen, der Chief AI Officer, der Strategie und Budget verantwortet. Wie die Rolle im Organigramm aussieht, zeigt die Seite was ein KI-Beauftragter ist; wie Sie sie einsetzen, die Bestellung zum KI-Beauftragten.

Verhältnismäßig

Wie viel Governance braucht Ihr Unternehmen?

So viel, wie Zahl, Art und Risiko Ihrer KI-Systeme verlangen. Die KI-Verordnung denkt selbst in Verhältnismäßigkeit: Das Qualitätsmanagementsystem eines Anbieters wird im angemessenen Verhältnis zur Größe der Organisation umgesetzt (Art. 17 Abs. 2), und der Digital-Omnibus hat die Pflicht aus Art. 4 mit Blick auf kleinere Unternehmen ausdrücklich gelockert.

Orientierung von KI-Beratung Deutschland, keine rechtliche Vorgabe. Stand 14.11.2026.
Ihre LagePassende Governance
Wenige KI-Werkzeuge, ein StandortBenannte Ansprechperson, kurze Richtlinie, Verzeichnis als Liste, dokumentierte Schulungen
Mehrere Systeme in mehreren BereichenKI-Beauftragter mit Zeitanteil, Freigabeweg, vierteljährlicher Bericht an die Leitung
Viele Systeme, eigene Entwicklung oder Hochrisiko-KIGremium mit festen Mitgliedern, Risikoeinstufung je System, Aufsichtspersonen nach Art. 26, gegebenenfalls Managementsystem

Wer seine Governance prüfen und zertifizieren lassen will, kann sich an einer Norm für Managementsysteme orientieren; was ISO/IEC 42001 leistet und was nicht, erklärt ISO/IEC 42001 und die KI-Verordnung. Ob die Grundlage, eine eigene Rolle, überhaupt nötig ist, klärt die Seite Rechtslage nach KI-VO und KI-MIG.

§§ 87, 90 BetrVG, Art. 26 Abs. 7 KI-VO

Wo ist der Betriebsrat zu beteiligen?

Bei der Planung und bei Regeln, die Beschäftigte betreffen. Der Arbeitgeber unterrichtet den Betriebsrat rechtzeitig über die Planung von Arbeitsabläufen einschließlich des Einsatzes von Künstlicher Intelligenz (§ 90 Abs. 1 Nr. 3 BetrVG). Bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung zu überwachen, bestimmt er mit (§ 87 Abs. 1 Nr. 6 BetrVG), und für Hochrisiko-KI am Arbeitsplatz verlangt Art. 26 Abs. 7 KI-VO, Arbeitnehmervertretung und Beschäftigte vorher zu informieren.

Unternehmen mit Betriebsrat können KI in einer Betriebsvereinbarung regeln und die Richtlinie darauf aufbauen. Ein Sitz des Betriebsrats im KI-Gremium kann Abstimmungen beschleunigen; vorgeschrieben ist er nicht.

Was fragen Unternehmen zu AI Governance?

Was ist KI-Governance?

KI-Governance ist die Gesamtheit der Regeln, Rollen und Abläufe, mit denen ein Unternehmen den Einsatz von KI steuert: Zuständigkeiten, Richtlinie, Verzeichnis der Systeme, Freigabeweg und Kontrolle. AI Governance meint dasselbe auf Englisch.

Was umfasst KI-Governance?

Mindestens benannte Zuständigkeiten, eine Richtlinie für die Nutzung, ein Verzeichnis der KI-Systeme, einen Weg für neue Anwendungen und dokumentierte Schulungen nach Art. 4 KI-VO. Bei Hochrisiko-KI kommen ab 02.12.2027 die Betreiberpflichten aus Art. 26 hinzu.

Braucht ein Unternehmen ein KI-Governance-Board?

Nein, vorgeschrieben ist es nicht: Die EU-Kommission verlangt für Art. 4 KI-VO keine bestimmte Struktur und nennt ein Gremium ausdrücklich. Ein Gremium lohnt sich, wenn mehrere Bereiche KI einsetzen und Entscheidungen abgestimmt werden müssen.

Was ist ein KI-Governance-Framework?

Ein beschriebenes Ordnungsgerüst aus Rollen, Regeln, Abläufen und Kontrollen für KI, oft als Dokument mit Verweisen auf Richtlinie, Verzeichnis und Freigabeprozess. Eine gesetzlich vorgegebene Form gibt es nicht.

Wer ist für KI-Governance zuständig?

Die Geschäftsführung, weil die Pflichten aus der KI-Verordnung das Unternehmen treffen. Die Koordination übernimmt oft ein KI-Beauftragter; Fachbereiche, Datenschutz, Informationssicherheit und Betriebsrat wirken mit.

Was ist der Unterschied zwischen KI-Governance und KI-Compliance?

Compliance fragt, ob Regeln eingehalten werden; Governance ordnet, wer entscheidet, nach welchen Regeln und wie das überprüft wird. Gute Governance ist die Voraussetzung dafür, dass Compliance im Alltag gelingt.

Ist KI-Governance Pflicht?

Ein bestimmtes Modell ist nicht vorgeschrieben. Pflicht sind Maßnahmen zur KI-Kompetenz (Art. 4 KI-VO) und, je nach Rolle und System, weitere Pflichten wie die Betreiberpflichten nach Art. 26 KI-VO. Governance ist der Weg, diese Pflichten zu organisieren.

Governance im Erstgespräch skizzierenEinordnung von ISO 42001

30 Minuten per Microsoft Teams, kostenfrei und unverbindlich.

Quellen: Verordnung (EU) 2024/1689 (KI-Verordnung), Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI), EU-Kommission: AI Literacy, Questions & Answers, Office of Management and Budget: Memorandum M-25-21 vom 03.04.2025, § 87 BetrVG, § 90 BetrVG, ki-compliance-experten.de: KI-Richtlinie für Unternehmen, ki-beratung-deutschland.de: KI-Governance. Abruf am 13.11.2026. Diese Seite ist allgemeine Information und keine Rechtsberatung; ob und wie Sie eine Rolle besetzen, prüfen Sie im Einzelfall.

Erstgespräch: 30 Minuten per Microsoft Teams

Wir sehen uns an, welche KI Sie nutzen und was schon geregelt ist, und legen mit Ihnen fest, wie viel Governance Ihr Unternehmen wirklich braucht: von der benannten Ansprechperson bis zum Gremium.

  • kostenfrei und unverbindlich
  • mit Christoph Herting, Geschäftsführer von KI-Beratung Deutschland
  • Sie wählen den Termin selbst

Weiterlesen

Termin wählenE-Mail