Recht auf menschliche Entscheidung?

Recht auf menschliche Entscheidung?

Rapide technologische Fortschritte im Bereich der künstlichen Intelligenz laden dazu ein, rechtliche Entschei­dungs­kompe­ten­zen zunehmend von Menschen auf Maschinen zu verlagern. Zahlreiche unionsrechtliche und nationale Normen greifen hierdurch erweckte normative Irritationen auf und postulieren mensch­li­che Inter­ven­tionen in automatisierte Entscheidungsprozesse (z.B. Art. 22 DSGVO und § 35a VwVfG-Bund). Es ist jedoch bis­lang ungeklärt, welches verfassungsrechtliche Gut diese Normen schützen. Ihre unklare Ratio schafft Rechts­unsicher­heit: Wenn wir nicht wissen, warum rechtsstaatliches Entscheiden menschliche Interventionen erfordert, können wir weder zuverlässig erkennen, wo sie fehlen, noch worin genau sie bestehen sollen. Das Projekt adres­siert diese Rechtsunsicherheit, indem es untersucht, ob und inwieweit bestehende verfassungs- und menschen­recht­li­che Garantien ein Recht auf eine menschliche Entscheidung schützen. Ein solches Recht hätte erhebliche Auswirkungen auf moderne Instrumente des europäischen und nationalen Sicherheitsrechts, beispielsweise die Datenverarbeitungsregimes der PNR-Richtlinie und der ETIAS-Verordnung.
Die existierende rechtswissenschaftliche Literatur zur Rechtsautomatisierung konzentriert sich in der Regel auf konsequentialistische Kritik an den Ergebnissen automatisierter Entscheidungen. Sie beruht oftmals auf sche­ma­tischen Annahmen über vermeintliche kategoriale Unterschiede zwischen menschlicher und maschineller Kogni­tion. Diese Dissertation soll deshalb versuchen, den rechtswissenschaftlichen Diskurs mit tieferen Argumenten aus den Kognitionswissenschaften und der Philosophie des Geistes anreichern. Dabei untersucht sie zwei Begrün­dungs­stränge für ein Recht auf menschliche Entscheidung: Erstens einen substanzontologischen, inspiriert durch die Kritik Searles an den Computational Theories of Mind in seinem Chinese Room Argument – und zweitens einen normativ-relationalen, inspiriert durch Honnethsche Anerkennungstheorien der Menschenwürde. Das Projekt soll in der Auseinandersetzung mit diesen Begründungssträngen eine analytisch klare sowie normativ stabile dogma­ti­sche Konzeption für ein Recht auf menschliche Entscheidung entwickeln. Damit soll es auch für die Rechtspraxis einen interpretationsleitenden Beitrag zu offenen dogmatischen Fragestellungen leisten, wie der Automatisier­bar­keit des rechtlichen Ermessens, oder der Feststellbarkeit konkreter Gefahren durch automatisierte Predictive Policing Tools.
Methodisch bedient sich das Projekt interdisziplinären Wissens, der deskriptiven Untersuchung von Rechts­prakti­ken, klassischer gesetzlicher Auslegungsarbeit und konstruktiver dogmatischer Analyse. Es verortet sich auf dem Schnittpunkt aller drei Forschungsachsen der Abteilung Öffentliches Recht: Es untersucht eine sich aufgrund des Trends der Digitalisierung neu stellende Frage innerhalb der klassischen Grundrechtsdogmatik. Dabei problema­ti­siert es nicht nur akteurstheoretische Grundannahmen, sondern entwickelt auch praktische Leitlinien für die Interpretation von sicherheitsrechtlichen Eingriffsbefugnissen.

 

Forschungsergebnis: Promotion am MPI-CSL und an der Albert-Ludwigs-Universität Freiburg (2021–2024)
Projektsprache: Deutsch
Foto: © Natasha Connell/Unsplash

Weitere interessante Beiträge

Zur Redakteursansicht