«Sneak Peek»: So will der Bund KI regulieren

Das Normkonzept für die neue KI-Regulierung des Bundes liegt vor. Aufmerksame Teilnehmende der Herbsttagung der Schweizerischen Gesellschaft für Verwaltungswissenschaften (SGVW) erhielten eine Vorschau zum aktuell angedachten Regulierungsinhalt von Dr. Susanne Kuster (stv. Direktorin des BJ). Wir geben einen Überblick und ordnen ein.

Von Anna Kuhn

Was bisher geschah

Am 12. Februar 2025 hat der Bundesrat entschieden, die KI-Konvention des Europarats zu ratifizieren und das Schweizer Recht gezielt anzupassen. Im März 2025 hat die Schweiz die Konvention unterzeichnet.

Was die Konvention verlangt und was sie für Bund und Kantone bedeutet, haben wir im Blogbeitrag «KI-Konvention unterzeichnet – und jetzt?» aufgezeigt.

Wer macht was?

Die Arbeiten zur Umsetzung der KI-Konvention laufen auf zwei Spuren. Das EJPD (BJ) ist für die rechtlich verbindlichen Massnahmen zuständig und erarbeitet die Vernehmlassungsvorlage dazu. Das UVEK (BAKOM) koordiniert die rechtlich nicht verbindlichen Massnahmen, etwa Branchenstandards und Selbstverpflichtungen.

Das BAKOM hat Ende Oktober bereits erste Resultate veröffentlicht, etwa die «Handreichung für einen KI-Kodex», welche Verbände und Unternehmen bei der Erstellung von freiwilligen Regeln im Umgang mit KI unterstützt. Wer es genauer wissen will, wird auf der Webseite des BAKOM fündig (siehe hier).

Was geplant ist: Die Grundzüge der KI-Regulierung

Nun aber zum Hartgesottenen bzw. zum «Hard Law» (s. Slide 7 ff. der Präsentation von Susanne Kuster). Vorgesehen ist ein bereichsübergreifendes Gesetz mit drei Schwerpunkten:

  • Transparenz – KI-Systeme sollen erkennbar eingesetzt werden
  • Risikomanagement – die Pflichten bestehen abgestuft nach Rolle und Risiko für die Grundrechte
  • Aufsicht – der KI-Einsatz wird kontrolliert

 

Ergänzend sind sektorielle Anpassungen geplant, z.B. beim geistigen Eigentum, bei der Produktehaftpflicht und Produktesicherheit oder bei Kommunikationsplattformen und Suchmaschinen (für weitere Regulierungspläne dazu und Katzenvideos hier lang).

Die drei Rollen

Das Gesetz soll drei Adressatinnen der KI-Regulierung unterscheiden – hier werden Assoziationen zur KI-Verordnung der EU wach:

  • Anbieterin eines KI-Modells: Sie entwickelt ein Modell oder lässt es entwickeln und bringt es im eigenen Namen in Verkehr.
  • Anbieterin eines KI-Systems: Sie entwickelt basierend auf einem KI-Modell eine einsatzbereite Anwendung, bringt sie in Verkehr oder nimmt sie in Betrieb.
  • Betreiber eines KI-Systems: Dieser setzt ein System eigenverantwortlich für einen konkreten Zweck ein.

 

Die Rollen können zusammenfallen. Das ist z.B. der Fall, wenn eine Behörde eine KI-Anwendung selbst entwickelt und dann auch einsetzt (Rollen Anbieterin und Betreiberin KI-System).

Transparenz: KI erkennen und erklären

Eine prominente Rolle sollen die Transparenzpflichten spielen, so z.B.:

  • Interaktion und technische Markierung: Betroffene müssen erkennen können, dass sie mit einem KI-System kommunizieren und KI-generierter Inhalt wird maschinenlesbar gekennzeichnet.
  • Automatisierte Entscheide: Art. 21 DSG erfasst heute nur vollautomatisierte Entscheide. Dies soll ausgeweitet werden, sodass auch teilautomatisierte Entscheide erfasst werden.
  • Arbeitsverhältnis: Vor der Einführung bestimmter Hochrisiko-KI sind die Arbeitnehmenden oder ihre Vertretung zu informieren und zu konsultieren. Gemäss EU AI Act könnte dies z.B. KI-basierte Rekrutierungssoftware sein.
  • Dokumentationspflicht: Anbieterinnen von Hochrisiko-KI sollen Zweck, Datenqualität und Grenzen ihres Systems erläutern, damit Betreiberinnen ihre Pflichten erfüllen können.
  • Öffentliches Register: Hochrisiko-KI im öffentlichen Sektor sollen unter Angabe von Verwendungszweck und verantwortlicher Stelle in einem öffentlichen KI-Register einsehbar sein.

 

Offen bleibt dabei, was als «Hochrisiko-KI» gilt. Von dieser Definition hängt ab, ob die Pflichten nur wenige heikle Anwendungen oder einen grossen Teil der verwaltungsinternen Anwendungen betreffen werden. Eine Definition für den EU-Raum gibt es in Art. 6 KI-Verordnung (hier ist sie!).

Speaking of: Die Schweizer KI-Regulierung wird anders als die KI-Verordnung nicht den Ansatz einer Produkteregulierung bzw. Marktzugangsregelung verfolgen. Gewisse Aspekte der geplanten Schweizer Regulierung scheinen jedoch zumindest an die EU KI-Verordnung angelehnt: So die drei vorgesehenen Rollen und die Nennung der Hochrisiko-KI-Systeme. Es wird daher vermutet, dass die Pflichten des geplanten Schweizer Gesetzes an diese Rollen bzw. Systeme anknüpfen werden.

Risikomanagement

Anbieterinnen von Hochrisiko-KI-Systemen und von besonders leistungsfähigen, weit verbreiteten KI-Modellen mit systemischem Risiko sollen vorhersehbare Risiken über den gesamten Lebenszyklus laufend ermitteln, bewerten, mindern und dokumentieren. Tests und Schutzmassnahmen sollen dem Stand der Technik entsprechen.

Betreiber sollen vor dem Einsatz von Hochrisiko-KI die Auswirkungen auf Grundrechte, Demokratie und Rechtsstaatlichkeit im konkreten Kontext beurteilen (Brutto-Risiken). Können die Risiken nicht genügend minimiert werden (Netto-Risiken), sind weitere Massnahmen zu treffen oder der Einsatz ist einzuschränken oder gar auszusetzen. Für den laufenden Betrieb ist ein Monitoring vorzusehen, um weitere unerwünschte Auswirkungen zu erkennen und zu adressieren.

Die Prüfung der Grundrechtsauswirkungen weist Parallelen zur neuen Pflicht gemäss totalrevidiertem Zürcher Datenschutzgesetz auf (vgl. § 36 nIDG zur «GRFA»). Abweichend ist, dass die Regelung auf Bundesebene «nur» Hochrisiko-KI erfasst, dafür aber zusätzlich Auswirkungen auf Demokratie und Rechtsstaatlichkeit zu prüfen sind.

Auffallend ist auch, dass der Grundrechtsschutz gegenüber der ursprünglichen Auslegeordnung zur KI-Regulierung nun prominenter platziert wird. Die – damals an erster Stelle genannte – Stärkung des Innovationsstandorts Schweiz muss hingegen nun etwas hintenanstehen (s. Medienmitteilung des Bundesrates vom 12.2.2025). Aufgrund der von algorithmischen Systemen ausgehenden Risiken gerade im öffentlichen Sektor (Stichworte: Blackbox-Phänomen, intransparente Entscheidlogik, Proxy-Diskriminierung etc.) wird diese Entwicklung begrüsst.

Darüber hinaus darf nicht vergessen werden, dass die KI-Verordnung der EU auch für öffentliche Organe der Schweiz anwendbar sein kann, wenn sie KI-Systeme einsetzen. Und dies schon heute! Wer vergessen hat, weshalb und wann dies der Fall ist, wird in einem älteren Blogpost von Esther Zysset aufdatiert.

Aufsicht und Durchsetzung

Die Konvention verlangt eine unabhängige und unparteiische Aufsicht mit ausreichenden Befugnissen, Fachwissen und Ressourcen. Bei Mängeln kann sie deren Behebung anordnen oder einen Einsatz beschränken oder untersagen.

Welche Behörde diese Aufgabe übernehmen soll, ist noch offen. Bussen sind – anders als im EU AI Act mit bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes – gemäss aktuellem Kenntnisstand nicht vorgesehen. Die Schweiz wird vielmehr auf Verwaltungsmassnahmen setzen. Ob dies genügt und ob die Aufsicht die nötigen Ressourcen erhält, wird eine weitere zentrale Frage der Vernehmlassung sein.

Für die juristischen Nerds: Der Handlungsbedarf und die Handlungsoptionen in Bezug auf die von der KI-Konvention verlangte Aufsicht wurden von Nadja Braun Binder et al. in einer kürzlich erschienenen Jusletter-Publikation detailliert ausgelotet (Paywall).

Ausblick

Das Normkonzept für die KI-Regulierung des Bundes ist abgeschlossen. Vorentwurf und erläuternder Bericht werden derzeit ausgearbeitet. Die Vernehmlassung ist für den Frühling 2027 geplant.

Die KI-Regulierungs-Saga geht in die nächste Runde. Wir bleiben dran!

 

Bild: Jakub Żerdzicki via unsplash.com

Blogposts direkt in die Inbox erhalten? HIER können Sie sich für unseren Newsletter anmelden.