AI Governance im Unternehmen aufbauen: Rollen, Inventar und Pflichten

Kurzantwort: Einen KI-Beauftragten schreibt weder die EU-KI-Verordnung (AI Act, VO (EU) 2024/1689) noch das Schweizer Recht vor. Der AI Act verlangt aber klare Verantwortlichkeiten: Seit dem 2. Februar 2025 müssen Anbieter und Betreiber verbotene KI-Praktiken vermeiden (Art. 5) und Massnahmen zur KI-Kompetenz ihres Personals ergreifen (Art. 4, seit dem 27. Juli 2026 neu gefasst). Seit dem 2. August 2026 gelten die Transparenzpflichten (Art. 50), ab dem 2. Dezember 2027 die Pflichten für Hochrisiko-Systeme nach Anhang III. Eine AI Governance mit KI-Inventar, zugewiesenen Rollen und einem Gremium ist deshalb der praktikable Weg.

Dieser Beitrag richtet sich an General Counsel, Heads of Compliance, Datenschutzverantwortliche und CIOs in der Schweiz und in Deutschland. Er zeigt, ob es einen KI-Beauftragten braucht, wie ein KI-Inventar entsteht, welche Pflichten welche Rolle trifft, was in der Schweiz gilt und wie ein realistischer Projektplan aussieht.

Kein Pflicht-KI-Beauftragter, aber klare Verantwortung

Der AI Act knüpft Pflichten an Rollen wie Anbieter und Betreiber, nicht an eine bestimmte Funktion im Unternehmen. Eine Pflicht, einen KI-Beauftragten zu benennen, enthält die Verordnung nicht. Einzelne Vorschriften verlangen aber, dass Menschen mit klarer Zuständigkeit handeln:

• Menschliche Aufsicht: Betreiber von Hochrisiko-Systemen übertragen die menschliche Aufsicht natürlichen Personen mit der nötigen Kompetenz, Ausbildung und Befugnis (Art. 26 Abs. 2 KI-VO).
• KI-Kompetenz: Anbieter und Betreiber ergreifen Massnahmen, um die KI-Kompetenz ihres Personals zu fördern (Art. 4 KI-VO).
• Information der Belegschaft: Arbeitgeber informieren Arbeitnehmervertreter und betroffene Arbeitnehmer, bevor sie ein Hochrisiko-System am Arbeitsplatz einsetzen (Art. 26 Abs. 7 KI-VO).

Viele Unternehmen bestimmen deshalb eine verantwortliche Person für AI Governance und ein Gremium aus Legal, Compliance, Datenschutz, Informationssicherheit, HR und Fachbereichen. Das ist eine Organisationsentscheidung, keine gesetzliche Rolle. In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur zentrale Marktüberwachungsbehörde, soweit keine andere Fachbehörde zuständig ist (KI-MIG).

KI-Inventar und Risikoklassifizierung

Ein KI-Inventar ist die Grundlage jeder AI Governance: Ohne Liste der eingesetzten und entwickelten KI-Systeme lässt sich weder die Rolle noch das Risiko bestimmen. Ein KI-System im Sinne von Art. 3 Nr. 1 KI-VO ist ein maschinengestütztes System, das aus Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt.

Was das Inventar je System erfasst

• Zweck, Fachbereich und verantwortliche Person,
• Herkunft: eingekauft, in Software eingebettet, selbst entwickelt oder auf einem Basismodell aufgebaut,
• Rolle des Unternehmens: Anbieter, Betreiber oder beides,
• Bezug zur EU: Inverkehrbringen in der EU oder Verwendung der Ausgabe in der EU,
• bearbeitete Personendaten und betroffene Personen,
• Risikoklasse und daraus folgende Pflichten.

Klassifizierung in sechs Schritten

1. Ist es ein KI-System nach Art. 3 Nr. 1 KI-VO?
2. Fällt es unter eine verbotene Praktik nach Art. 5?
3. Ist es ein Hochrisiko-System, weil es Sicherheitsbauteil eines Produkts nach Anhang I ist oder in einem Bereich nach Anhang III eingesetzt wird, etwa Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement oder Zugang zu wesentlichen Diensten wie Kreditwürdigkeitsprüfung?
4. Greifen Transparenzpflichten nach Art. 50, etwa bei Chatbots oder generierten Inhalten?
5. Bietet das Unternehmen selbst ein KI-Modell mit allgemeinem Verwendungszweck an?
6. Bleibt ein System mit geringem Risiko: Dann gelten vor allem KI-Kompetenz und interne Regeln.

Rollen nach dem AI Act: Anbieter, Betreiber, Governance-Gremium

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO). Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4 KI-VO). Die meisten Unternehmen sind Betreiber; wer ein Hochrisiko-System mit eigenem Namen versieht, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass es hochriskant wird, gilt als Anbieter (Art. 25 Abs. 1 KI-VO).

Das Governance-Gremium

Ein AI-Governance-Gremium ist keine Rolle des AI Act, aber das übliche Mittel, um die Pflichten zu steuern. Es genehmigt neue KI-Anwendungen, entscheidet über Risikoklassen, pflegt Richtlinien und berichtet an die Geschäftsleitung. Sinnvoll besetzt ist es mit Legal, Compliance, Datenschutz, Informationssicherheit, HR und den wichtigsten Fachbereichen. Bei Personendaten sind DSG und DSGVO mitzudenken; wie sich das im Produktprozess auswirkt, zeigt der Beitrag Datenschutz bei Produktlaunches.

KI-Kompetenz der Mitarbeitenden

KI-Kompetenz heisst nach dem neu gefassten Art. 4 KI-VO: Anbieter und Betreiber ergreifen Massnahmen, um die KI-Kompetenz ihres Personals zu fördern. Ein bestimmtes Kompetenzniveau müssen sie nicht sicherstellen; die Europäische Kommission veröffentlicht Praxisbeispiele. Die Pflicht besteht seit dem 2. Februar 2025, die neue Fassung seit dem 27. Juli 2026.

• Nach Rolle schulen: Nutzerinnen und Nutzer, Entwicklerteams, Führungskräfte und Personen mit menschlicher Aufsicht brauchen unterschiedliche Inhalte.
• Regeln festlegen: zulässige Tools, Umgang mit vertraulichen Daten und Personendaten, Kennzeichnung von KI-Inhalten.
• Nachweise führen: Teilnahme, Inhalte und Aktualisierungen dokumentieren.
• Regelmässig erneuern: neue Funktionen und Fälle aus dem Inventar in die Schulungen aufnehmen.

Schweiz: Stand der KI-Regulierung

Die Schweiz hat kein eigenes KI-Gesetz. Der Bundesrat entschied am 12. Februar 2025, die KI-Konvention des Europarats zu ratifizieren und das Schweizer Recht anzupassen. Am 28. Oktober 2026 nahm er einen Zwischenstand zur KI-Regulierung zur Kenntnis. Das Bundesamt für Justiz erarbeitet verbindliche Massnahmen zu Transparenz, Datenschutz, Nichtdiskriminierung, Aufsicht und Risikobeurteilung; ergänzend setzt der Bund auf Leitlinien, Branchenstandards und freiwillige Selbstverpflichtungen, etwa mit einer Handreichung für einen KI-Kodex. Die Vernehmlassung zu den verbindlichen Massnahmen soll im Frühling 2027 eröffnet werden.

Für Schweizer Unternehmen gilt trotzdem dreierlei:

• AI Act mit Wirkung über die EU hinaus: Er erfasst Anbieter, die KI-Systeme in der EU in Verkehr bringen, unabhängig vom Sitz, sowie Anbieter und Betreiber in Drittstaaten, wenn die Ausgabe in der EU verwendet wird (Art. 2 Abs. 1 lit. a und c KI-VO).
• Datenschutzgesetz: Bei automatisierten Einzelentscheidungen besteht eine Informationspflicht mit Anspruch auf Überprüfung durch eine natürliche Person (Art. 21 DSG). Neue Technologien können eine Datenschutz-Folgenabschätzung auslösen (Art. 22 DSG).
• Finanzsektor: Die FINMA hat mit der Aufsichtsmitteilung 08/2024 vom 18. Dezember 2024 „Governance und Risikomanagement beim Einsatz künstlicher Intelligenz“ ihre Erwartungen formuliert, unter anderem an Inventar, Risikoklassifizierung, Verantwortlichkeiten, Datenqualität, Tests und Erklärbarkeit.

Ressourcen und Projektplan

Der Aufbau einer AI Governance lässt sich in sechs Schritten planen; die meisten Unternehmen brauchen dafür juristische, Compliance- und Datenschutzkapazität zusätzlich zum Tagesgeschäft.

1. Mandat und Gremium: Verantwortung in der Geschäftsleitung festlegen, Gremium und Entscheidungswege definieren.
2. Inventar: KI-Systeme in allen Fachbereichen erheben, einschliesslich eingebetteter Funktionen in Standardsoftware.
3. Klassifizierung: Rolle und Risikoklasse je System bestimmen, Lücken priorisieren.
4. Regeln und Verträge: KI-Richtlinie, Freigabeprozess für neue Anwendungen, Vertragsklauseln mit Anbietern.
5. Kompetenz: Schulungsprogramm nach Rollen einführen und dokumentieren.
6. Hochrisiko-Vorbereitung: Für Anhang-III-Systeme menschliche Aufsicht, Protokollierung, Information der Belegschaft und gegebenenfalls Grundrechte-Folgenabschätzung bis Dezember 2027 vorbereiten.

Rollen im Projekt

• AI-Governance-Lead: Projektleitung, Gremium, Berichterstattung.
• Legal Counsel Technologie und Daten: Klassifizierung, Rollenfragen, Verträge, Richtlinie.
• Compliance Officer: Kontrollen, Schulungsnachweise, Integration in das Compliance-Management.
• Datenschutzjurist: DSFA, Informationspflichten, automatisierte Entscheidungen.

Alpinum Solutions stellt solche Fachkräfte über Staff Leasing oder Freelancing bereit, in der Schweiz und in Deutschland, in Teilzeit oder Vollzeit, einzeln oder als Team. Das Unternehmen steuert den Einsatz: Im Staff Leasing gibt es die fachlichen Weisungen, im Freelancing arbeitet die Fachkraft eigenverantwortlich im Rahmen des vereinbarten Mandats. Wie die Fristen des AI Act den Kapazitätsbedarf bestimmen, zeigt der Beitrag AI Act: Fristen, Pflichten und Kapazität; die datenschutzrechtliche Basis beschreibt der Beitrag Juristische Unterstützung im Datenschutzprojekt.

Beispiel (Annahme)

Ein Industrieunternehmen mit Sitz in der Schweiz und Tochtergesellschaften in Deutschland setzt ein KI-Tool zur Vorauswahl von Bewerbungen ein, mehrere Chatbots und generative KI im Marketing. Das Bewerbungstool ist ein Hochrisiko-System nach Anhang III Nr. 4; das Unternehmen ist dort Betreiber. Ein Legal Counsel (60 %, sechs Monate) und ein Compliance Officer (40 %, vier Monate) erstellen Inventar, Richtlinie und Schulungsprogramm und bereiten die Pflichten nach Art. 26 vor. Alle Zahlen sind Annahmen zur Veranschaulichung.

Grenzen und Risiken

• Verantwortung bleibt beim Unternehmen: Pflichten nach dem AI Act treffen Anbieter und Betreiber; externe Fachkräfte bereiten vor und setzen um.
• Keine Rechtsberatung: Alpinum ist keine Kanzlei. Strittige Klassifizierungen oder Konformitätsbewertungen klärt das Unternehmen gegebenenfalls mit Kanzlei oder benannter Stelle.
• Regeln in Bewegung: Der Digital Omnibus hat Termine verschoben; Leitlinien der Kommission und nationale Gesetze folgen. Das Inventar und die Klassifizierung sollten regelmässig überprüft werden.
• Bussgelder: Für verbotene Praktiken drohen bis 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes, für andere Pflichtverstösse bis 15 Mio. EUR oder 3 % (Art. 99 Abs. 3 und 4 KI-VO; massgeblich ist der höhere Betrag).

Häufige Fragen zu AI Governance und KI-Beauftragtem

Gilt der AI Act für Schweizer Unternehmen?

Ja, in bestimmten Fällen. Der AI Act erfasst Anbieter, die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig vom Sitz, und Anbieter und Betreiber in Drittstaaten, wenn die Ausgabe des Systems in der EU verwendet wird (Art. 2 Abs. 1 KI-VO). Schweizer Unternehmen mit EU-Kunden oder EU-Tochtergesellschaften sollten ihre Systeme deshalb inventarisieren.

Was heisst KI-Kompetenz?

Nach Art. 4 KI-VO in der seit dem 27. Juli 2026 geltenden Fassung müssen Anbieter und Betreiber Massnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Ein bestimmtes Niveau müssen sie nicht sicherstellen. Praktisch bedeutet das rollenbezogene Schulungen, klare Nutzungsregeln und dokumentierte Nachweise.

Braucht mein Unternehmen einen KI-Beauftragten?

Gesetzlich nein: Der AI Act enthält keine Pflicht, einen KI-Beauftragten zu benennen. Er verlangt aber, dass Pflichten zugewiesen sind, etwa die menschliche Aufsicht bei Hochrisiko-Systemen durch kompetente Personen mit Befugnis (Art. 26 Abs. 2). Eine verantwortliche Person für AI Governance mit einem Gremium ist deshalb für die meisten Unternehmen sinnvoll.

Was ist der Unterschied zwischen Anbieter und Betreiber?

Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr (Art. 3 Nr. 3 KI-VO). Betreiber verwenden ein KI-System in eigener Verantwortung beruflich (Art. 3 Nr. 4). Ein Betreiber wird zum Anbieter, wenn er ein Hochrisiko-System unter eigenem Namen anbietet, wesentlich verändert oder seinen Zweck hochriskant ändert (Art. 25 Abs. 1).

Welche Bussgelder drohen nach dem AI Act?

Für verbotene Praktiken drohen Bussgelder bis 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes, für sonstige Pflichtverstösse bis 15 Mio. EUR oder 3 % und für falsche Angaben bis 7,5 Mio. EUR oder 1 %. Massgeblich ist jeweils der höhere Betrag (Art. 99 Abs. 3 bis 5 KI-VO). Für KMU und seit dem Digital Omnibus auch für kleine Midcaps gilt der niedrigere Betrag.

Nächster Schritt

Wenn Inventar, Klassifizierung oder Schulungsprogramm zusätzliche Kapazität brauchen, stellt Alpinum Legal-, Compliance- und Datenschutzfachkräfte für AI Governance bereit. Ausgewählte Profile liegen in der Regel innerhalb von 48 Stunden vor; den Einsatzbeginn stimmen Unternehmen und Alpinum gemeinsam ab.

• Data Protection & AI Governance
• AI Act: Fristen, Pflichten und Kapazität
• Datenschutz bei Produktlaunches
• Bedarf besprechen

Stand: 30. Oktober 2026.