{"id":300,"date":"2021-09-22T09:07:08","date_gmt":"2021-09-22T09:07:08","guid":{"rendered":"https:\/\/publicsector.ch\/brauche-ich-fur-meine-ki-anwendung-eine-gesetzliche-grundlage-und-wenn-ja-welcher-art-300"},"modified":"2024-04-29T08:19:44","modified_gmt":"2024-04-29T08:19:44","slug":"brauche-ich-fur-meine-ki-anwendung-eine-gesetzliche-grundlage-und-wenn-ja-welcher-art-300","status":"publish","type":"post","link":"https:\/\/publicsector.ch\/en\/brauche-ich-fur-meine-ki-anwendung-eine-gesetzliche-grundlage-und-wenn-ja-welcher-art-300\/","title":{"rendered":"Brauche ich f\u00fcr meine KI-Anwendung eine gesetzliche Grundlage und wenn ja, welcher Art?"},"content":{"rendered":"<p>Jedes staatliche Handeln braucht eine gesetzliche Grundlage. Dieser Beitrag liefert Hinweise dazu, wann und wie der staatliche Einsatz k\u00fcnstlicher Intelligenz in eine Rechtsnorm gegossen werden sollte.<\/p>\n<h2>Der Rahmen<\/h2>\n<p>Der Einsatz k\u00fcnstlicher Intelligenz (KI) \u2013 in einem sehr breiten Sinn verstanden als qualifizierte Automatisierungsprozesse[1] \u2013 erm\u00f6glicht es auch im \u00f6ffentlichen Sektor, effizienter und effektiver zu arbeiten sowie aus grossen Datenmengen Nutzen zu ziehen.<\/p>\n<p>Einige Anwendungen stellen lediglich eine alternative Weise dar, eine bereits zuvor erf\u00fcllte Aufgabe zu erledigen; so gibt etwa ein Chatbot Informationen zu Krankenkassen-Verbilligungen, die in der Vergangenheit jeweils von einem Mitarbeiter zusammengetragen wurde. Andere bringen jedoch neue Risiken mit sich \u2013 etwa sogenanntes \u00abpersonenbezogenes Predictive Policing\u00bb, das darauf fokussiert, vorab \u00abgef\u00e4hrliche Personen, sog. \u2018Gef\u00e4hrder\u2019, zu identifizieren und durch eine fr\u00fchzeitige Intervention insbesondere schwere Gewaltdelikte zu verhindern\u00bb[2]. Hier kann aus der Anwendung ein grosses Risiko f\u00fcr die Grundrechte derjenigen Personen entstehen, die als Gef\u00e4hrder identifiziert werden, weil Datenattribute basierend auf Typisierungen in der Vergangenheit zu einer Risikoprognose und damit polizeilichen Massnahmen f\u00fchren k\u00f6nnen. In diesem Fall bietet die Anwendung Informationen (den errechneten Risikograd) und er\u00f6ffnet basierend darauf Handlungsm\u00f6glichkeiten (die Polizeipatrouille wird basierend auf den Risikograd aktiv), wie sie vor dem Einsatz der neuen Technologie nicht m\u00f6glich waren.<\/p>\n<p>Wie bei jedem staatlichen Handeln taucht in diesem Kontext sogleich das Stichwort \u00abLegalit\u00e4tsprinzip\u00bb auf. Die Bundesverfassung fordert prominent (Art. 5 Abs. 1 BV): \u00abGrundlage und Schranke staatlichen Handelns ist das Recht.\u00bb Wann brauche ich also eine gesetzliche Grundlage, um eine KI-Anwendung gen\u00fcgend rechtlich abzusichern, und wie hat sie auszusehen?<\/p>\n<h2>Was will das Legalit\u00e4tsprinzip?<\/h2>\n<p>Das Legalit\u00e4tsprinzip erf\u00fcllt folgende Funktionen[3]:<\/p>\n<h3>Erstens: <em>Demokratische Funktionen<\/em><\/h3>\n<ul>\n<li>Mithilfe einer ad\u00e4quaten Gesetzesgrundlage soll einerseits die <em>Vorherrschaft des Volkswillens<\/em> sichergestellt werden \u2013 in einer Demokratie entscheidet das Volk, welche Regeln gelten.<\/li>\n<li>Andererseits soll die <em>Gewaltenteilung<\/em> aufrechterhalten werden \u2013 die Legislative ist die gesetzgebende Gewalt, die Exekutive hat sich auf ausf\u00fchrende Regelungen zu beschr\u00e4nken.<\/li>\n<\/ul>\n<p>Aus diesen beiden Dingen lassen sich wiederum folgende Forderungen ableiten:<\/p>\n<ul>\n<li><em>Vorherrschaft des Volkswillens<\/em>: Dinge, die derart <em>wesentlich<\/em> sind, dass es einen offenen politischen Meinungsbildungs- und Entscheidungsprozess daf\u00fcr braucht, m\u00fcssen in einem parlamentarischen (d.h. \u00abformellen\u00bb) Gesetz abgebildet sein (in juristischer Terminologie ist die Rede vom \u00abErfordernis der gen\u00fcgenden Normstufe\u00bb). Wesentlich sind Themen u.a. dann, wenn schwere Grundrechtseingriffe damit verbunden sind, viele Personen von einer Regelung betroffen sein werden oder wenn ein Entscheid grosse finanzielle Konsequenzen mit sich bringt.[4]<\/li>\n<\/ul>\n<ul>\n<li><em>Gewaltenteilung<\/em>: Das Parlament als Vertreterin des Volks darf sich nicht damit begn\u00fcgen, eine Thematik in Blankettform an die Exekutive abzudelegieren. Die Grundz\u00fcge einer Regelung geh\u00f6ren in ein formelles Gesetz, Rechtsetzung durch eine andere Gewalt als die Legislative muss gesetzlich vorgegeben und pr\u00e4zise umrissen werden.<\/li>\n<\/ul>\n<h3>Zweitens: <em>Rechtsstaatliche Funktionen<\/em><\/h3>\n<p>Unter diesem Titel werden folgende Anliegen zusammengefasst:<\/p>\n<ul>\n<li><em>Vorhersehbarkeit staatlichen Handelns:<\/em> Das Individuum soll beim Lesen des Gesetzes verstehen k\u00f6nnen, wie ihm in einer bestimmten Situation geschehen wird und was es vom Staat erwarten kann. \u00a0<\/li>\n<li><em>Schutz des Einzelnen vor staatlicher Willk\u00fcr:<\/em> Es ist das Gesetz, das vorschreibt, welche Zwangsmassnahmen in einem Strafverfahren m\u00f6glich sind oder in welcher Frist ein Baugesuch zu bearbeiten ist. Diese Dinge sollen der Willk\u00fcr eines m\u00f6glicherweise launischen Staatsanwalts oder eines schlecht organisierten Amts entzogen werden.<\/li>\n<li><em>Gleichbehandlung<\/em>: Das Gesetz soll gleichf\u00f6rmiges staatliches Handeln sicherstellen, vergleichbare Situationen sollen die gleiche Behandlung erfahren.<\/li>\n<\/ul>\n<p>Aus diesen rechtsstaatlichen Funktionen leitet die juristische Lehre wiederum ab, dass eine Norm <em>gen\u00fcgend bestimmt<\/em> zu sein hat und <em>alle Elemente<\/em> aufweisen muss, die notwendig sind, um die obigen drei Anliegen zu verwirklichen (sogenanntes \u00abErfordernis der gen\u00fcgenden Normdichte\u00bb).<\/p>\n<h2>Und was heisst dies jetzt?<\/h2>\n<h3>Die Schritte der Analyse<\/h3>\n<p>Wer bis hierhin gelesen hat, wird sich fragen: Was heisst das jetzt? Es kommt nat\u00fcrlich (wie immer!) darauf an, und zwar darauf, in welchem Masse die f\u00fcnf erw\u00e4hnten Anliegen der <em>Vorherrschaft des Volkswillens<\/em>, der <em>Gewaltenteilung<\/em>, der <em>Vorhersehbarkeit staatlichen Handelns<\/em>, des <em>Schutzes vor Willk\u00fcr <\/em>und der <em>Gleichbehandlung<\/em> im gegebenen Szenario zu finden sind. Die Ausgestaltung einer konkreten gesetzlichen Grundlage wird sich in folgenden zwei Schritten eruieren lassen:<\/p>\n<ol type=\"1\">\n<li>Die Identifikation derjenigen Anliegen bzw. Funktionen des Legalit\u00e4tsprinzips, die im konkreten Fall von der KI-Anwendung tangiert werden. <\/li>\n<li>Eine genaue Analyse der bereits bestehenden Rechtslandschaft: Was gibt die Verfassung genau vor? Gibt es bereits spezialgesetzliche Grundlagen, die ganz oder teilweise eine Regelung enthalten? Kann\/muss man Erg\u00e4nzungen vornehmen, um den im ersten Schritt identifizierten Funktionen zur Geltung zu verhelfen? Hier erweist sich auch ein Blick zur Rechtsprechung als empfehlenswert, da diese bereits f\u00fcr gewisse Konstellationen (teilweise) konkretisiert hat, wie die Rechtsgrundlage auszusehen hat.<\/li>\n<\/ol>\n<h3>Chatbot: nein, personenbezogenes Predictive Policing: ja<\/h3>\n<p>F\u00fcr die eingangs erw\u00e4hnten Beispiele l\u00e4sst sich so aufgrund der betroffenen Funktionen des Legalit\u00e4tsprinzips Folgendes skizzenhaft behaupten:<\/p>\n<p><em>Erstens:<\/em> Ein Chatbot, der eine Beh\u00f6rde dabei unterst\u00fctzt, eine ihrer Aufgaben dadurch zu erledigen, dass er eine Anfrage sprachlich analysiert und bestehende \u00f6ffentliche Formulare (ohne Personendaten) herausgibt, braucht keine spezifische gesetzliche Grundlage. Seine Verwendung ist bereits von der allgemeinen Aufgabenerf\u00fcllung der Beh\u00f6rde gedeckt (die wiederum in einem Gesetz festgehalten sein sollte!), f\u00fchrt zu keinen Grundrechtseingriffen und weckt daher weder demokratische noch rechtsstaatliche Bedenken.<\/p>\n<p><em>Zweitens<\/em>: Personenbezogenes \u00abPredictive Policing\u00bb bedarf einer gesetzlichen Grundlage. Werden Datenattribute einer Person zusammengef\u00fchrt, analysiert und f\u00fcr eine Vorhersage genutzt, wonach die betreffende Person ein Delikt begehen k\u00f6nnte, so ruft dies die Anliegen des <em>Schutzes vor Willk\u00fcr<\/em>, der <em>Vorhersehbarkeit staatlichen Handelns<\/em> und der <em>Gleichbehandlung<\/em> auf den Plan. Es ist zu vermuten, dass die Aufnahme auf eine Gef\u00e4hrderliste je nach Situation zu einer erh\u00f6hten polizeilichen Aufmerksamkeit f\u00fchrt und je nach Verlauf in einer sp\u00e4teren Festnahme m\u00fcnden kann, also unter Umst\u00e4nden zu gewichtigen Eingriffen in die Rechtsstellung der Person. Das <em>demokratische Anliegen<\/em> f\u00fchrt zum selben Schluss: Hier ist es allen voran die gesellschaftliche Dimension dieser neuen Vorgehensweise, die einer eingehenden politischen Diskussion und daher einer parlamentarischen Norm bed\u00fcrfen. Werden damit der Polizei zus\u00e4tzlich neue Aufgaben auferlegt und werden neue M\u00f6glichkeiten des Eingriffs in das Leben des Einzelnen geschaffen, m\u00fcssen auf h\u00f6chster gesetzlicher Ebene, also vom Parlament als Legislative in einem <em>formellen Gesetz<\/em>, Regelungen getroffen werden.<\/p>\n<h3>Und was muss konkret enthalten sein?<\/h3>\n<p id=\"KI-Rechtsgrundlagen\">Diese Regelungen zum Predictive Policing m\u00fcssten zudem Folgendes festhalten (gen\u00fcgende Normdichte):<\/p>\n<ul>\n<li><em>zu welchen klar definierten Zwecken<\/em> personenbezogenes Predictive Policing eingesetzt werden kann;<\/li>\n<li><em>welche Aufgaben<\/em> damit erf\u00fcllt werden;<\/li>\n<li>exakt <em>welche Datenattribute<\/em> einer Person verwendet werden k\u00f6nnen (einzeln aufgef\u00fchrt!), um eine Vorhersage zu machen,<\/li>\n<li>auf welche <em>weiteren Datenbanken<\/em> allenfalls zugegriffen wird, um Daten abzugleichen oder zu kombinieren,<\/li>\n<li>auf <em>welchen Kriterien<\/em> die Vorhersage beruht und<\/li>\n<li><em>welche Rechtsfolgen<\/em> f\u00fcr die betroffene Person damit verbunden sind.<\/li>\n<\/ul>\n<p>Ist ein selbstlernendes System im Einsatz, ist auch sicherzustellen, dass die Nachvollziehbarkeit auf Dauer gew\u00e4hrleistet ist, u.a. um dem Recht der betroffenen Person auf Begr\u00fcndung eines beh\u00f6rdlichen Entscheids (Teil des Anspruchs auf rechtliches Geh\u00f6r, Art. 29 Abs. 2 BV) nachzukommen oder Diskriminierungen vorzubeugen (Art. 8 Abs. 2 BV). Daneben sind auch weitere grundrechtliche Anforderungen zu beachten.<\/p>\n<hr class=\"wp-block-separator\"\/>\n<p>Public Sector Law ber\u00e4t Gemeinwesen regelm\u00e4ssig bei gesetzgeberischen Projekten. Das Verfassen von Gesetzen im Wortlaut geh\u00f6rt zu unseren Kernkompetenzen. Kommen Sie mit uns ins Gespr\u00e4ch!<\/p>\n<hr class=\"wp-block-separator\"\/>\n<p>[1] Der Einfachheit halber basiert die hier verwendete Terminologie auf derjenigen der Studie \u00abEinsatz K\u00fcnstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen\u00bb, Schlussbericht vom 28. Februar 2021, Universit\u00e4t Basel, Prof. Nadja Braun Binder, in Zusammenarbeit mit AlgorithmWatch. Vgl. dazu S. 10-11 des Schlussberichts. <\/p>\n<p>[2] Monika Simmler, Simone Brunner, Kuno Schedler, \u00abSmart Criminal Justice \u2013 Eine empirische Studie zum Einsatz von Algorithmen in der Schweizer Polizeiarbeit und Strafrechtspflege\u00bb, Studienbericht vom 10. Dezember 2020, S. 6. Gerne weisen wir darauf hin, dass diese Studie in einem Detailgrad auf verschiedene in Polizei- und Justizwesen aktuell eingesetzte Anwendungen eingeht und diese auch auf ihre Legalit\u00e4t einsch\u00e4tzt, wie es vorliegend nicht m\u00f6glich ist. Entsprechend empfehlenswert ist die Lekt\u00fcre des ganzen Studienberichts. <\/p>\n<p>[3] Vgl. zum Ganzen Pierre Tschannen\/Ulrich Zimmerli\/Markus M\u00fcller, Allgemeines Verwaltungsrecht, 4. Aufl. Bern 2014, \u00a7\u00a019 n.\u00a012 ff. Zu den Funktionen des Legalit\u00e4tsprinzips ebenfalls sehr aufschlussreich ist der folgende Aufsatz: Isabelle H\u00e4ner, Die Einwilligung der betroffenen Person als Surrogat der gesetzlichen Grundlage bei individuell-konkreten Staatshandlungen, ZBl 103\/2002, S. 57 ff.<\/p>\n<p>[4] Vgl. dazu Tschannen\/Zimmerli\/M\u00fcller, \u00a7\u00a019 n.\u00a04.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Jedes staatliche Handeln braucht eine gesetzliche Grundlage. Dieser Beitrag liefert Hinweise dazu, wann und wie der staatliche Einsatz k\u00fcnstlicher Intelligenz in eine Rechtsnorm gegossen werden sollte. Der Rahmen Der Einsatz [\u2026]<\/p>\n","protected":false},"author":7,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-300","post","type-post","status-publish","format-standard","hentry","category-egovernment"],"_links":{"self":[{"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/posts\/300","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/comments?post=300"}],"version-history":[{"count":1,"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/posts\/300\/revisions"}],"predecessor-version":[{"id":348454,"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/posts\/300\/revisions\/348454"}],"wp:attachment":[{"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/media?parent=300"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/categories?post=300"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/publicsector.ch\/en\/wp-json\/wp\/v2\/tags?post=300"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}