Jedes staatliche Handeln braucht eine gesetzliche Grundlage. Dieser Beitrag liefert Hinweise dazu, wann und wie der staatliche Einsatz künstlicher Intelligenz in eine Rechtsnorm gegossen werden sollte.
Der Rahmen
Der Einsatz künstlicher Intelligenz (KI) – in einem sehr breiten Sinn verstanden als qualifizierte Automatisierungsprozesse[1] – ermöglicht es auch im öffentlichen Sektor, effizienter und effektiver zu arbeiten sowie aus grossen Datenmengen Nutzen zu ziehen.
Einige Anwendungen stellen lediglich eine alternative Weise dar, eine bereits zuvor erfüllte Aufgabe zu erledigen; so gibt etwa ein Chatbot Informationen zu Krankenkassen-Verbilligungen, die in der Vergangenheit jeweils von einem Mitarbeiter zusammengetragen wurde. Andere bringen jedoch neue Risiken mit sich – etwa sogenanntes «personenbezogenes Predictive Policing», das darauf fokussiert, vorab «gefährliche Personen, sog. ‘Gefährder’, zu identifizieren und durch eine frühzeitige Intervention insbesondere schwere Gewaltdelikte zu verhindern»[2]. Hier kann aus der Anwendung ein grosses Risiko für die Grundrechte derjenigen Personen entstehen, die als Gefährder identifiziert werden, weil Datenattribute basierend auf Typisierungen in der Vergangenheit zu einer Risikoprognose und damit polizeilichen Massnahmen führen können. In diesem Fall bietet die Anwendung Informationen (den errechneten Risikograd) und eröffnet basierend darauf Handlungsmöglichkeiten (die Polizeipatrouille wird basierend auf den Risikograd aktiv), wie sie vor dem Einsatz der neuen Technologie nicht möglich waren.
Wie bei jedem staatlichen Handeln taucht in diesem Kontext sogleich das Stichwort «Legalitätsprinzip» auf. Die Bundesverfassung fordert prominent (Art. 5 Abs. 1 BV): «Grundlage und Schranke staatlichen Handelns ist das Recht.» Wann brauche ich also eine gesetzliche Grundlage, um eine KI-Anwendung genügend rechtlich abzusichern, und wie hat sie auszusehen?
Was will das Legalitätsprinzip?
Das Legalitätsprinzip erfüllt folgende Funktionen[3]:
Erstens: Demokratische Funktionen
- Mithilfe einer adäquaten Gesetzesgrundlage soll einerseits die Vorherrschaft des Volkswillens sichergestellt werden – in einer Demokratie entscheidet das Volk, welche Regeln gelten.
- Andererseits soll die Gewaltenteilung aufrechterhalten werden – die Legislative ist die gesetzgebende Gewalt, die Exekutive hat sich auf ausführende Regelungen zu beschränken.
Aus diesen beiden Dingen lassen sich wiederum folgende Forderungen ableiten:
- Vorherrschaft des Volkswillens: Dinge, die derart wesentlich sind, dass es einen offenen politischen Meinungsbildungs- und Entscheidungsprozess dafür braucht, müssen in einem parlamentarischen (d.h. «formellen») Gesetz abgebildet sein (in juristischer Terminologie ist die Rede vom «Erfordernis der genügenden Normstufe»). Wesentlich sind Themen u.a. dann, wenn schwere Grundrechtseingriffe damit verbunden sind, viele Personen von einer Regelung betroffen sein werden oder wenn ein Entscheid grosse finanzielle Konsequenzen mit sich bringt.[4]
- Gewaltenteilung: Das Parlament als Vertreterin des Volks darf sich nicht damit begnügen, eine Thematik in Blankettform an die Exekutive abzudelegieren. Die Grundzüge einer Regelung gehören in ein formelles Gesetz, Rechtsetzung durch eine andere Gewalt als die Legislative muss gesetzlich vorgegeben und präzise umrissen werden.
Zweitens: Rechtsstaatliche Funktionen
Unter diesem Titel werden folgende Anliegen zusammengefasst:
- Vorhersehbarkeit staatlichen Handelns: Das Individuum soll beim Lesen des Gesetzes verstehen können, wie ihm in einer bestimmten Situation geschehen wird und was es vom Staat erwarten kann.
- Schutz des Einzelnen vor staatlicher Willkür: Es ist das Gesetz, das vorschreibt, welche Zwangsmassnahmen in einem Strafverfahren möglich sind oder in welcher Frist ein Baugesuch zu bearbeiten ist. Diese Dinge sollen der Willkür eines möglicherweise launischen Staatsanwalts oder eines schlecht organisierten Amts entzogen werden.
- Gleichbehandlung: Das Gesetz soll gleichförmiges staatliches Handeln sicherstellen, vergleichbare Situationen sollen die gleiche Behandlung erfahren.
Aus diesen rechtsstaatlichen Funktionen leitet die juristische Lehre wiederum ab, dass eine Norm genügend bestimmt zu sein hat und alle Elemente aufweisen muss, die notwendig sind, um die obigen drei Anliegen zu verwirklichen (sogenanntes «Erfordernis der genügenden Normdichte»).
Und was heisst dies jetzt?
Die Schritte der Analyse
Wer bis hierhin gelesen hat, wird sich fragen: Was heisst das jetzt? Es kommt natürlich (wie immer!) darauf an, und zwar darauf, in welchem Masse die fünf erwähnten Anliegen der Vorherrschaft des Volkswillens, der Gewaltenteilung, der Vorhersehbarkeit staatlichen Handelns, des Schutzes vor Willkür und der Gleichbehandlung im gegebenen Szenario zu finden sind. Die Ausgestaltung einer konkreten gesetzlichen Grundlage wird sich in folgenden zwei Schritten eruieren lassen:
- Die Identifikation derjenigen Anliegen bzw. Funktionen des Legalitätsprinzips, die im konkreten Fall von der KI-Anwendung tangiert werden.
- Eine genaue Analyse der bereits bestehenden Rechtslandschaft: Was gibt die Verfassung genau vor? Gibt es bereits spezialgesetzliche Grundlagen, die ganz oder teilweise eine Regelung enthalten? Kann/muss man Ergänzungen vornehmen, um den im ersten Schritt identifizierten Funktionen zur Geltung zu verhelfen? Hier erweist sich auch ein Blick zur Rechtsprechung als empfehlenswert, da diese bereits für gewisse Konstellationen (teilweise) konkretisiert hat, wie die Rechtsgrundlage auszusehen hat.
Chatbot: nein, personenbezogenes Predictive Policing: ja
Für die eingangs erwähnten Beispiele lässt sich so aufgrund der betroffenen Funktionen des Legalitätsprinzips Folgendes skizzenhaft behaupten:
Erstens: Ein Chatbot, der eine Behörde dabei unterstützt, eine ihrer Aufgaben dadurch zu erledigen, dass er eine Anfrage sprachlich analysiert und bestehende öffentliche Formulare (ohne Personendaten) herausgibt, braucht keine spezifische gesetzliche Grundlage. Seine Verwendung ist bereits von der allgemeinen Aufgabenerfüllung der Behörde gedeckt (die wiederum in einem Gesetz festgehalten sein sollte!), führt zu keinen Grundrechtseingriffen und weckt daher weder demokratische noch rechtsstaatliche Bedenken.
Zweitens: Personenbezogenes «Predictive Policing» bedarf einer gesetzlichen Grundlage. Werden Datenattribute einer Person zusammengeführt, analysiert und für eine Vorhersage genutzt, wonach die betreffende Person ein Delikt begehen könnte, so ruft dies die Anliegen des Schutzes vor Willkür, der Vorhersehbarkeit staatlichen Handelns und der Gleichbehandlung auf den Plan. Es ist zu vermuten, dass die Aufnahme auf eine Gefährderliste je nach Situation zu einer erhöhten polizeilichen Aufmerksamkeit führt und je nach Verlauf in einer späteren Festnahme münden kann, also unter Umständen zu gewichtigen Eingriffen in die Rechtsstellung der Person. Das demokratische Anliegen führt zum selben Schluss: Hier ist es allen voran die gesellschaftliche Dimension dieser neuen Vorgehensweise, die einer eingehenden politischen Diskussion und daher einer parlamentarischen Norm bedürfen. Werden damit der Polizei zusätzlich neue Aufgaben auferlegt und werden neue Möglichkeiten des Eingriffs in das Leben des Einzelnen geschaffen, müssen auf höchster gesetzlicher Ebene, also vom Parlament als Legislative in einem formellen Gesetz, Regelungen getroffen werden.
Und was muss konkret enthalten sein?
Diese Regelungen zum Predictive Policing müssten zudem Folgendes festhalten (genügende Normdichte):
- zu welchen klar definierten Zwecken personenbezogenes Predictive Policing eingesetzt werden kann;
- welche Aufgaben damit erfüllt werden;
- exakt welche Datenattribute einer Person verwendet werden können (einzeln aufgeführt!), um eine Vorhersage zu machen,
- auf welche weiteren Datenbanken allenfalls zugegriffen wird, um Daten abzugleichen oder zu kombinieren,
- auf welchen Kriterien die Vorhersage beruht und
- welche Rechtsfolgen für die betroffene Person damit verbunden sind.
Ist ein selbstlernendes System im Einsatz, ist auch sicherzustellen, dass die Nachvollziehbarkeit auf Dauer gewährleistet ist, u.a. um dem Recht der betroffenen Person auf Begründung eines behördlichen Entscheids (Teil des Anspruchs auf rechtliches Gehör, Art. 29 Abs. 2 BV) nachzukommen oder Diskriminierungen vorzubeugen (Art. 8 Abs. 2 BV). Daneben sind auch weitere grundrechtliche Anforderungen zu beachten.
Public Sector Law berät Gemeinwesen regelmässig bei gesetzgeberischen Projekten. Das Verfassen von Gesetzen im Wortlaut gehört zu unseren Kernkompetenzen. Kommen Sie mit uns ins Gespräch!
[1] Der Einfachheit halber basiert die hier verwendete Terminologie auf derjenigen der Studie «Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen», Schlussbericht vom 28. Februar 2021, Universität Basel, Prof. Nadja Braun Binder, in Zusammenarbeit mit AlgorithmWatch. Vgl. dazu S. 10-11 des Schlussberichts.
[2] Monika Simmler, Simone Brunner, Kuno Schedler, «Smart Criminal Justice – Eine empirische Studie zum Einsatz von Algorithmen in der Schweizer Polizeiarbeit und Strafrechtspflege», Studienbericht vom 10. Dezember 2020, S. 6. Gerne weisen wir darauf hin, dass diese Studie in einem Detailgrad auf verschiedene in Polizei- und Justizwesen aktuell eingesetzte Anwendungen eingeht und diese auch auf ihre Legalität einschätzt, wie es vorliegend nicht möglich ist. Entsprechend empfehlenswert ist die Lektüre des ganzen Studienberichts.
[3] Vgl. zum Ganzen Pierre Tschannen/Ulrich Zimmerli/Markus Müller, Allgemeines Verwaltungsrecht, 4. Aufl. Bern 2014, § 19 n. 12 ff. Zu den Funktionen des Legalitätsprinzips ebenfalls sehr aufschlussreich ist der folgende Aufsatz: Isabelle Häner, Die Einwilligung der betroffenen Person als Surrogat der gesetzlichen Grundlage bei individuell-konkreten Staatshandlungen, ZBl 103/2002, S. 57 ff.
[4] Vgl. dazu Tschannen/Zimmerli/Müller, § 19 n. 4.
