Bereits seit einigen Jahren werden die Chancen und Risiken des Einsatzes Künstlicher Intelligenz vielfach diskutiert (u.a. hier); ein Thema, das mit dem breiten Einsatz generativer Künstlicher Intelligenz noch mehr an Aktualität gewonnen hat.
Am 16. Mai 2024 hat Caritas Aargau in Aarau eine Veranstaltung zu eben diesem Thema organisiert, in deren Rahmen Catherine Egli als Rechtsexpertin an der Podiumsdiskussion teilnahm; dies nebst Yannick Berner, Marcel Waldvogel und Ruth Treyer.
In den Diskussionen wird das Potenzial von KI dabei meist in der Entlastung von Arbeitsprozessen und allgemeinen Effizienzsteigerung sowie in der verbesserten Servicequalität (etwa durch Chatbots) gesehen. Als Risiken werden besonders das Diskriminierungspotenzial, Verstösse gegen Datenschutz und Datensicherheit, die Manipulationsmöglichkeiten (etwa durch Halluzinationen), fehlende Transparenz (etwa durch mangelnde Nachvollziehbarkeit der KI-generierten Inhalten) sowie die Haftungsfrage im Fall eines Schadens genannt.
Bei diesem Diskurs gilt es jedoch zu betonen, dass der Einsatz von KI in der Regel nicht zu völlig neuen Herausforderungen führt. Die genannten Risiken sind meist bestehende gesellschaftliche Herausforderungen, die durch den Einsatz von KI allenfalls besser sichtbar werden oder neues Gewicht erhalten, was sich insbesondere im Kontext der Diskriminierungsthematik zeigt. Dies bedeutet auch, dass in der Schweiz trotz mangelndem «KI-Gesetz», wie etwa kürzlich von der Europäische Union erlassen, nicht etwa ein Vakuum an rechtlichen Rahmenbedingungen besteht. Vielmehr ist die bestehende Rechtsordnung anwendbar.
Der vermehrte Einsatz von KI ist sowohl in der Privatwirtschaft als auch in der Verwaltung eine Tatsache. Bei der Diskussion um das Potenzial und die Risiken von KI ist die zentrale Frage daher nicht, ob KI angewendet werden soll, sondern wie. In welchen Bereichen soll KI eingesetzt werden dürfen und möchten wir gewisse Arten von KI-Anwendungen verbieten oder einschränken? Welche (zusätzlichen) Pflichten sollen beim Einsatz von KI anwendbar sein und welche Restrisiken sind wir als Gesellschaft bereit zu tragen?
Um diese Fragen zu beantworten, sollten nicht nur passiv die Entwicklungen in der Europäischen Union beobachtet werden, sondern auch aktiv ein gesellschaftlicher sowie politischer Diskurs in der Schweiz gefördert werden (umso gespannter warten wir auf den Bericht des Bundesrates zum regulatorischen Handlungsbedarf). Darauf basierend können und müssen anschliessend unsere rechtlichen Rahmenbedingungen angepasst werden, während der Fokus auf die digitalen Kompetenzen der gesamten Bevölkerung nie verloren gehen darf.
