Universität Basel

Juristische
Fakultät

Nachvollziehbare Algorithmen: ein Rechtsrahmen für den Einsatz von Künstlicher Intelligenz

Bei der Regulierung von Künstlicher Intelligenz (KI) stellen sich vielfältige und komplexe Fragen. Zentrale Herausforderungen sind die fehlende Transparenz und Nachvollziehbarkeit der Entscheidungen von KI-Systemen, die Risiken für den Schutz der Privatsphäre, die Gefahr von Diskriminierung und die Gefahr von Manipulation.

Unter der Leitung von Prof. Dr. Florent Thouvenin (Zürich) und Prof. Dr. iur. Nadja Braun Binder, MBA (Basel) sowie in Zusammenarbeit mit Dr. iur. Stephanie Volz, RA (Zürich) und Liliane Obrecht, MLaw (Basel) beabsichtigt dieses Forschungsprojekt, einen umfassenden Rechtsrahmen für den Einsatz von KI in der Schweiz zu schaffen.

Neben der Erarbeitung von neuen Möglichkeiten zur Auslegung und Anwendung des geltenden Rechts sollen allgemeingültige gesetzliche Bestimmungen und ausgewählte sektorspezifische Regelungen für die öffentliche Verwaltung und den Bereich der Medien entwickelt werden. Diese neuen Rechtsnormen werden den Entscheidungsträger*innen in Politik und Verwaltung sowie einer interessierten Öffentlichkeit in Form von White Papers bekannt gemacht. Die rechtswissenschaftlichen Erkenntnisse werden in den einschlägigen juristischen Fachzeitschriften publiziert.

Das Projekt wird von der Mercator-Stiftung unterstützt.

Als zentrale Resultate aus dem Projekt wurden im Juni 2024 fünf White Paper veröffentlicht. Zwei dieser White Paper befassen sich mit der Herstellung von Transparenz in der öffentlichen Verwaltung:

Weitere Projektresultate:

  • Am 10. November 2021 fand an der Universität Zürich die Kick-off Veranstaltung zu diesem Projekt statt. Die einzelnen Referate und die Podiumsdiskussion stehen in Form von Podcasts zur Verfügung. Das Event wurde zugleich als Strategy Lab der Digital Society Initiative (DSI) durchgeführt und es wurde ein Positionspapier präsentiert, das im August 2021 von einer interdisziplinär zusammengesetzten Gruppe mit Unterstützung des Strategy Labs erarbeitet worden war. Zentrales Thema der Veranstaltung war die Positionierung der Schweiz im europäischen und internationalen Umfeld, wobei unterschiedliche Interessengruppen zu Wort kamen. Den Tagungsbericht finden Sie hier.
  • Anfang 2022 ist der folgende Aufsatz erschienen: Braun Binder, Nadja/Kunz, Eliane/Obrecht, Liliane: Maschinelle Gesichtserkennung im öffentlichen Raum, sui generis 2022, S. 53-61.
  • Am 8. November 2022 fand die zweite öffentliche Veranstaltung zu diesem Projekt statt. Im Zentrum stand die Präsentation erster Zwischenergebnisse des Projekts sowie eine Präsentation durch Botschafter Thomas Schneider zum Konventionsentwurf des Europarates über den Einsatz von Künstlicher Intelligenz. Den Tagungsbericht finden Sie hier.
  • Am 22. November 2022 gab Nadja Braun Binder ein Interview im Echo der Zeit über künftige Entwicklungen des Einsatzes automatisierter Einzelentscheidungen in der öffentlichen Verwaltung.
  • Ebenfalls im November 2022 ist der folgende Aufsatz erschienen: Obrecht Liliane, Verfügung und automatisierte Einzelentscheidung – same same but different?, ex/ante 2022, S. 38-45.
  • Ende März 2023 ist der folgende Aufsatz erschienen: Braun Binder, Nadja/Obrecht, Liliane, Algorithmisch überprüfte Steuererklärung im ordentlichen gemischten Veranlagungsverfahren, ZSIS 2023 A1-2023, S. 1-16
  • Am 3. Mai 2023 hielt Nadja Braun Binder an der TRANSFORM 2023 einen Vortrag mit dem Titel «KI im öffentlichen Sektor – Fragen aus Sicht von Rechtsetzung und Rechtsanwendung». Die Folien zum Vortrag sind hier verfügbar. Das Video zum Vortrag ist hier abrufbar.
  • Am 10. Mai 2023 ist ein Blogbeitrag zur Automatisierung von Steuerverfahren auf Französisch von Nadja Braun Binder und Liliane Obrecht auf swissprivacy.law erschienen: Automatisation et systèmes de gestion des risques au sein des administrations fiscales cantonales, der hier online abgerufen werden kann.
  • Im Juli 2023 hat Liliane Obrecht einen Übersichtsartikel zur Regulierung von Künstlicher Intelligenz im Journal Nr. 5/2023 von SWISSMECHANIC verfasst.
  • Ende Mai 2024 ist der von Nadja Braun Binder, Liliane Obrecht und Grace Wittmer verfasste Beitrag «Vertrauensschutz von fehlerhaften Behördenauskünften durch Chatbots» auf iusNET erschienen. Er kann hier online abgerufen werden.
  • Im Juni 2024 ist der von Nadja Braun Binder, Nina Laukenmann und Liliane Obrecht verfasste Aufsatz «KI in der Verwaltung: Entwicklungen und Herausforderungen» im Jusletter IT erschienen.
  • Im August 2024 wurde der Beitrag «Die Begründung von Verfügungen beim Einsatz algorithmischer Systeme», verfasst von Nadja Braun Binder und Liliane Obrecht, in der SJZ publiziert.
  • Am 19. September 2024 wurden in der Welle 7 in Bern die Projektergebnisse präsentiert. Zentrale Themen stellten die Transparenz in Staat und Unternehmen, der Datenschutz, die Diskriminierung und die Manipulation dar. Es folgte eine Diskussion mit Vertreter:innen aus Politik, Zivilgesellschaft und Wirtschaft.
  • Im Oktober 2024 ist der Aufsatz «Transparenz über den staatlichen Einsatz algorithmischer Entscheidungssysteme», verfasst von Nadja Braun Binder und Liliane Obrecht, in der AJP erschienen.
Nach oben

Quick Links