In der föderalistischen Schweiz sind nebst dem Bund auch die Kantone verpflichtet, Gesetzesanpassungen für den Einsatz von Künstlicher Intelligenz vorzunehmen. In diesem Beitrag wird untersucht, wie weit diese Gesetzgebungsarbeiten in den Kantonen bereits fortgeschritten sind. Das Ergebnis: Eine (unvollständige) Liste kantonaler KI-Regulierungen.
von Anna Kuhn
Ausgangslage in der Schweiz
Die Schweiz hat die KI-Konvention des Europarats unterzeichnet und muss diese ins innerstaatliche Recht überführen. Die Unterzeichnung der KI-Konvention bedeutet in der föderalistischen Schweiz, dass nicht nur der Bund, sondern auch die Kantone regulatorisch tätig werden müssen. Regulatorische Massnahmen drängen sich für die Kantone insbesondere in den folgenden Bereichen auf:
- Transparenz durch Kennzeichnungspflicht: Voll- und teilautomatisierte Einzelentscheide sollen als solche gekennzeichnet bzw. erkennbar sein.
- Nachvollziehbarkeit durch ein öffentliches KI-Verzeichnis: Alle von der Verwaltung genutzten KI-Anwendungen sollen in einem Register aufgeführt werden, deren Nutzung als verbindlich deklariert wird.
- Nichtdiskriminierung: Bestehende Diskriminierungsverbote sollen geschärft oder neue Bestimmungen geschaffen werden, um Diskriminierung durch algorithmische Systeme zu verhindern.
Wieso das so ist, lesen Sie in einem älteren Blogbeitrag hier. Nebst den Pflichten der KI-Konvention existieren zudem bereits heute Bestimmungen, die beim Einsatz von Künstlicher Intelligenz (KI) regulatorischen Handlungsbedarf bedeuten können (so je nachdem auch das Legalitätsprinzip, wonach staatliches Handeln einer Rechtsgrundlage bedarf).
Vorbemerkungen zur Liste
In diesem Beitrag stellen wir uns nun die Frage, ob und wie die Kantone den Einsatz von Künstlicher Intelligenz bereits regeln. Basierend auf einer Umfrage der Konferenz der Kantonsregierungen (KdK) bei allen Kantonen (hier geht’s lang zum KdK-Bericht) sowie einem punktuellen Normenscreening wurde eine Liste mit solchen Bestimmungen (nachfolgend «KI-Regulierungen») erstellt.
Wichtig zu verstehen ist sodann: Der Einsatz von KI findet auch unabhängig spezifischer KI-Regulierungen nicht im rechtsfreien Raum statt. Bestimmungen zum Legalitätsprinzip (siehe auch oben), Diskriminierungsverbot, Datenschutz, Schutz des geistigen Eigentums oder Haftungsregeln sind auch ohne explizite Erwähnung von KI zu beachten. Grund dafür ist, dass diese Bestimmungen technologieneutral ausgestaltet sind.
Ebenfalls nicht in der Liste enthalten sind organisatorische und administrative Massnahmen der Kantone beim Einsatz von KI. Die KI-Konvention schreibt explizit vor, dass die Mitgliedstaaten – also z.B. die Schweiz und zwar auf allen Staatsebenen – deren Pflichten auch durch administrative und organisatorische Massnahmen umsetzen müssen. Viele Kantone haben solche nicht regulatorischen Massnahmen auch bereits umgesetzt (so z.B. die Leitlinien über den Einsatz von ChatGPT und Co. des Kantons St. Gallen oder das freiwillige KI-Register des Kantons Appenzell Innerrhoden).
Und nun: die (unvollständige) Liste
a) Bereits existierende KI-Regulierungen
In der ersten Tabelle sind kantonale Bestimmungen aufgeführt, die bereits in Kraft sind. In Bezug auf die Kantone Jura, Neuenburg und St. Gallen handelt es sich um übergeordnete KI-Regulierungen, die also in sämtlichen Sektoren gelten (Bildungs-, Polizei-, Gesundheitswesen etc.). Die Bestimmung des Kantons Solothurn ist hingegen sektorspezifisch und lediglich im Bereich Steuern anwendbar.
- Kantone Jura (JU) und Neuenburg (NE)
- Definition automatisierte Einzelentscheidung (Art. 14 lit. m Interkantonale Datenschutz- und Transparenzvereinbarung [CPDT-JUNE])
- Auskunftsrecht zum Vorliegen einer automatisierten Einzelfallentscheidung und der Entscheidlogik (Art. 31 Abs. 2 lit. f CPDT-JUNE)
- St. Gallen (SG)
- Automatisierte Datenbearbeitung im Rahmen von Pilotversuchen (Art. 16a Datenschutzgesetz)
- Solothurn (SO)
- Rechtsgrundlage für die Steuerveranlagung mithilfe von algorithmischen Systemen sowie entsprechende Kennzeichnungs- und Informationspflicht zugunsten der Steuerpflichtigen (Art. 148bis Steuergesetz)
b) Geplante KI-Bestimmungen
In vielen Kantonen sind zudem Gesetzesrevisionen im Gang, um KI-Regulierungen einzuführen. Die zweite Tabelle nachfolgend listet einige solcher Bestimmungen auf. Dabei handelt es sich stets um übergeordnete KI-Regulierungen, die für alle Sektoren zur Anwendung gelangen sollen. Eine Ausnahme stellt der Entwurf der neuen Bestimmungen zum Einsatz von Analysesystemen im Polizeiwesen im Kanton Zürich dar.
- Genf (GE)
- Informationspflicht bei automatisch generierten Einzelentscheiden, Auskunftsrecht zur Entscheidlogik und Einspracherecht (Art. 38B LIPAD)
- Schwyz (SZ)
- Definition KI-System (Art. 3 lit. l DVG)
- Voraussetzungen zum Einsatz von KI-Systemen in der Verwaltung (Art. 8 DVG)
- Regelung der Haftung beim Einsatz von KI (Art. 18 DVG)
- Zürich (ZH)
- Einführung Verzeichnis algorithmischer Entscheidsysteme für die Kantonsverwaltung (Art. 13 Abs. 3 Vernehmlassungsvorlage IDG)
- Kennzeichnungspflicht Einsatz von algorithmischen Entscheidsystemen (Art. 38 Abs. 1 Vernehmlassungsvorlage IDG)
- Rechtsgrundlage zur Verwendung von algorithmischen Systemen in der Polizeiarbeit (Art. 52a Vernehmlassungsvorlage Polizeigesetz)
Würdigung und Ausblick
Es fällt auf, dass trotz Omnipräsenz von Künstlicher Intelligenz auch in der Verwaltung noch nicht allzu viele kantonale KI-Regulierungen existieren.
Das liegt einerseits sicherlich daran, dass die Stossrichtung der Schweiz zur Regulierung der Technologie in der Schweiz erst seit knapp einem Jahr bekannt ist. Andererseits dürfte dies dem notorisch langsamen Gesetzgebungsverfahren geschuldet sein. Was die erforderliche Gesetzesgrundlage anbelangt, ist es zudem so, dass nicht jeder KI-Einsatz einer neuen und expliziten Gesetzesgrundlage bedarf (eine gesetzgeberische Lektion zu diesem Thema erhalten Sie hier).
Sicher ist aber auch, dass der «KI-Gesetzomat» aktiv bleibt und weitere Bestimmungen folgen dürften. Daher auch ein freundlicher Aufruf an die Leserschaft: Um die Liste oben à jour zu halten und zu vervollständigen, nehmen wir gerne Hinweise zu fehlender oder neuer KI-Regulierung entgegen (kuhn_at_publicsector.ch).
Image credit: Estera auf Unsplash
Blogposts direkt in die Inbox erhalten? HIER können Sie sich für unseren Newsletter anmelden.
