Die Schweiz hat entschieden, die Konvention des Europarats zur Regelung Künstlicher Intelligenz (KI) umzusetzen. Doch was regelt die KI-Konvention denn genau? Und welche Pflichten ergeben sich daraus für die unterschiedlichen Staatsebenen? Fest steht: Alle müssen handeln! Wie, wo und wann lesen Sie in diesem Beitrag.
von Anna Kuhn*
Was ist bisher geschehen?
Der Bundesrat hat im März 2025 die KI-Konvention des Europarats unterzeichnet (siehe die Medienmitteilung hier). Da die Pflichten der KI-Konvention nicht unmittelbar anwendbar sind, müssen sie zuerst in das innerstaatliche Recht überführt werden. Dabei kommt den Unterzeichnerstaaten relativ viel Ermessen zu. Die Schweiz hat davon bereits Gebrauch gemacht und sich für eine minimale Umsetzung entschieden. Will heissen, dass nur der öffentliche, nicht aber der private Sektor die Pflichten der Konvention umsetzen muss.
Der sich daraus ergebende gesetzgeberische Handlungsbedarf wurde auf Bundesebene bereits umfassend analysiert (die juristischen Nerds verweisen wir dazu auf die 138-seitige «Rechtliche Basisanalyse» des Bundesamtes für Justiz). Basierend darauf wird bis Ende 2026 eine Gesetzesgrundlage erarbeitet. Was die Bundesebene betrifft, ist man also auf Kurs.
Reicht das? Oder müssen die Kantone auch aktiv werden?
Für die Kantone bleibt bislang unklar, welche legislatorischen, organisatorischen und administrativen Massnahmen sie umsetzen müssen.
Fest steht, dass die KI-Konvention auch für sie Handlungsbedarf bedeutet. Dies ergibt sich aus der Kompetenzverteilung zwischen Bund und Kantonen und konkret der Organisationsautonomie der Kantone (siehe insb. Art. 42 und 47 Bundesverfassung). Aufgrund der Organisationsautonomie können die Kantone die Ausgestaltung ihrer Verwaltung selber regeln, worunter auch der Umgang mit KI innerhalb der Verwaltung und die Rechtsetzung dazu fällt.
Was steht in der KI-Konvention geschrieben?
Ganz grundsätzlich wird KI für die Aufgabentrias des Europarats als Chance und als Herausforderung angesehen: Die Technologie kann Demokratie, Rechtsstaatlichkeit und Menschenrechte fördern, jedoch auch Diskriminierung und Überwachung hervorrufen. Die KI-Konvention enthält dementsprechend acht Kapitel mit Pflichten, um die Chancen von KI zu nutzen und gleichzeitig die gemeinsamen Werte zu schützen.
Zur KI-Konvention in voller Länge geht es hier. Kurz und knapp zusammengefasst schreibt die KI-Konvention vor, dass eine Reihe von fundamentalen Prinzipien während dem gesamten Lebenszyklus eines KI-Systems – d.h. von der ersten Idee bis zum Betrieb und der laufenden Weiterentwicklung – beachtet werden müssen. Zu diesen fundamentalen Prinzipien gehören die Menschenwürde, die Gleichheit und Nichtdiskriminierung, der Schutz der Privatsphäre, die Transparenz und Aufsicht, die Rechenschaft und Verantwortlichkeit, die Verlässlichkeit und sichere Innovation. Weiter verpflichtet der völkerrechtliche Vertrag die Unterzeichnerstaaten dazu, für wirksame Rechtsbehelfe und Verfahrensgarantien bei KI-basierten Menschenrechtsverletzungen zu sorgen. Weiter sollen sie Risikobewertungen zum Schutz vor nachteiligen Auswirkungen durch KI-Systeme implementieren.
Speziell hebt die KI-Konvention die diskriminierungsfreie Umsetzung des Staatsvertrags hervor sowie die Pflicht der unterzeichnenden Staaten, bei der Umsetzung zu kooperieren und Wissen auszutauschen. Daneben enthält die KI-Konvention weitere für Völkerrechtsverträge übliche Bestimmungen (Definitionen, Geltungsbereich, Inkrafttreten etc.).
Interessant. Was heisst das im Klartext?
Der Text des Völkervertrags liest sich sehr schön, ein greifbarer legislatorischer Auftrag lässt sich daraus aber nur schwer ablesen. Erfreulich ist, dass gewisse gesetzgeberische Pflichten der KI-Konvention für Bund und Kantone bereits umfassend in der Bundesverfassung geregelt sind (z.B. der Schutz der Menschenwürde). In Bezug auf die Vorgaben zur Transparenz und Aufsicht (Art. 8), Rechenschaftspflicht und Verantwortung (Art. 9), Gleichstellung und Nichtdiskriminierung (Art. 10) sowie zur Privatsphäre (Art. 11) müssen die Kantone jedoch überprüfen, inwieweit ihr kantonales Recht diesen bereits Rechnung trägt.
Nachfolgend werden einige regulatorische Massnahmen skizziert, die es zur Sicherstellung dieser fundamentalen Prinzipien braucht:
- Transparenz durch Kennzeichnungspflicht: Voll- und teilautomatisierte Einzelentscheide sollen als solche gekennzeichnet bzw. erkennbar sein.
- Nachvollziehbarkeit durch ein öffentliches KI-Verzeichnis: Alle von der Verwaltung genutzten KI-Anwendungen sollen in einem Register aufgeführt werden, deren Nutzung als verbindlich deklariert wird.
- Nichtdiskriminierung: Bestehende Diskriminierungsverbote sollen geschärft oder neue Bestimmungen geschaffen werden, um Diskriminierung durch algorithmische Systeme zu verhindern.
Es ist nicht erforderlich, dass die Kantone dazu ein spezifisches KI-Gesetz erlassen. Die Anforderungen können auch mit gezielten Anpassungen des bestehenden Rechts erreicht werden.
Zudem: Umfassende KI-Governance
Für den rechtmässigen und sicheren Umgang mit KI wird eine Reihe weiterer administrativer und organisatorischer Instrumente empfohlen und teilweise laut KI-Verordnung explizit verlangt. So bietet es sich für die Kantone auch an, ihre Massnahmen in einer umfassenden KI-Governance zu bündeln und zu orchestrieren.
Einige zentrale Bestandteile einer solchen KI-Governance sind wie folgt:
- Eine KI-Strategie, in welcher die Kantone ihre Vision zum Einsatz von KI festlegen.
- Übersicht Rechtsgrundlagen: Ebenfalls bietet es sich an, sämtliche – auch bereits bestehenden – Rechtsgrundlagen, die auf den Einsatz von KI-Systemen anwendbar sind, zu bündeln (z.B. geltende Datenschutzpflichten).
- Dokumentationspflicht: Weiter bedarf es Massnahmen zur Sicherstellung der Dokumentationspflicht, d.h. dass Informationen zum Einsatz von KI-Systemen dokumentiert und betroffenen Personen bei Bedarf zugänglich gemacht werden können.
- Risikomanagement: Für ein Risikomanagement in Einklang mit der KI-Konvention bietet sich sodann eine standardisierte Risikobewertung unter Einbezug der verantwortlichen Rollen (Datenschutz, Informationssicherheit, IT etc.) an.
- Weitere Elemente einer funktionierenden KI-Governance sind die Zuweisung von Verantwortungen («KI-Organigramm»), ein Weisungs- und Schulungswesen, interne und externe Kooperationen (Wissenstransfer oder auch öffentlicher Diskurs) oder nicht zuletzt die Aufsicht und Weiterentwicklung der KI-Governance, da es sich dabei um eine Daueraufgabe handelt, die vermutlich noch ganz am Anfang steht.
Auch weitere «kreative» Elemente sind möglich. Für heikle KI-Praktiken, wie z.B. die maschinelle Gesichtserkennung, können Kantone ein Moratorium vorsehen, um den politischen Diskurs zu stärken. Auch können Kantone durch sichere Testumgebungen (sog. Sandboxes) eine sichere Innovation fördern.
Die Kantone haben also relativ grossen Spielraum bei ihren Spielregeln zum Umgang mit KI. Auch müssen sie nicht auf die Gesetzgebungsvorlage des Bundes warten, um mit der Arbeit zu starten. Vielmehr drängt es sich geradezu auf, diese Aufgabe an die Hand zu nehmen, zumal der Einsatz von KI in den Kantonen und Gemeinden stetig zunimmt.
*Der vorliegende Beitrag basiert auf einer gemeinsamen Publikation von Prof. Dr. iur. Nadja Braun Binder, Nina Laukenmann und Anna Kuhn (Zeitschrift für Schweizerisches Recht (ZSR) 2025, 313 ff.).
Image credit: Antoine Schibler auf unsplash
Blogposts direkt in die Inbox erhalten? HIER können Sie sich für unseren Newsletter anmelden.
