Folgen von KI für Demokratie und politische Teilhabe

Abstract

Dieses Forschungsvorhaben ist Teil eines größeren Projekts am Institut für sozialwissenschaftliche Forschung – ISF München.

Prof. Dr. Jeanette Hofmann und Dr. Clara Iglesias Keller untersuchen die Beziehung zwischen künstlicher Intelligenz und demokratischen Institutionen mit besonderem Fokus auf das Zusammenspiel dieser Technologien und politischer Teilhabe.

Wenn man die Geschichte technologischer Infrastrukturen betrachtet, gibt es zwei Aspekte, die für diese Analyse von besonderer Bedeutung sind. Der erste bezieht sich auf die Ambivalenz, mit der sich neue Technologien präsentieren, einerseits mit ihrem Potenzial für Befreiung und andererseits dem Potenzial für Unterdrückung. Neben dem Versprechen auf wirtschaftliche Entwicklung und Wohlstand kann ihre Verbreitung die individuelle und kollektive Autonomie neu gestalten – entweder durch direkte Auswirkung auf Grundrechte oder durch die Veränderung sozialer Praktiken und Institutionen, die individuelle Entscheidungen auf unterschiedliche Weise prägen. Der zweite Aspekt befasst sich mit der Unsicherheit. Die Veränderungen, die durch neue Technologien ermöglicht werden, können zum Zeitpunkt ihres aktuellen Einsatzes nicht vollständig erfasst werden. Daher dürften der öffentliche Diskurs und politische Entscheidungen zur Entwicklung von KI-Systemen beitragen.

Debatten über den Einsatz und die Regulierung künstlicher Intelligenz neigen dazu, die Ungewissheit der Auswirkungen von KI in Bezug auf Risiken und Chancen darzustellen, wobei der gegenwärtige Stand von Technologie und Demokratie als üblicher Bezugspunkt dient. Die gesellschaftlich relevantesten Veränderungen neuartiger Infrastrukturen sind jedoch oft diejenigen, die unerwartet und transformativ sind in dem Sinne, dass sie die Institutionen verändern, die unsere Denk- und Handlungsweise strukturieren. Solche Veränderungen sind im Hinblick auf Risiken und Chancen nur schwer bis gar nicht vorhersehbar.

Um zu verstehen, wie sich die Verbreitung und Nutzung von KI-Systemen auf die politische Teilhabe auswirken können, ist es ratsam sich auf Anzeichen für transformative Veränderungen an der „demokratischen Schnittstelle“ zu konzentrieren - als die Kommunikations- und Organisationsprozesse - die Bürgerinnen und Bürger mit Institutionen der kollektiven Selbstverwaltung einbeziehen (Bennett et al. 2018: 1657). Insbesondere wird dieses Projekt drei Perspektiven hinsichtlich der Beziehung zwischen Techniken des maschinellen Lernens und politischer Partizipation untersuchen: (i) die Bedingungen für politische Teilhabe; (ii) als Mittel oder Medien zur Unterstützung der Beteiligung an demokratischen Prozessen und (iii) als Stimme der Bürger in den politischen Debatten, die derzeit die KI-Regulierung prägen.

Erstere – also Bedingungen politischer Teilhabe – bezieht sich auf die Trias individuelle Autonomie, KI und Demokratie – wobei KI sowohl individuelle Autonomie (und damit materielle Bedingungen politischer Partizipation) als auch demokratische Institutionen (daher Einfluss auf prozessuale Teilhabebedingungen) verändert. Letzteres ist auch indirekt durch Auswirkungen auf die Autonomie betroffen, da Einschränkungen individueller Rechte (z. B. Gleichberechtigung und das Recht darauf, nicht diskriminiert zu werden) auch den Zugang zu und die Ausübung von Beteiligungsmechanismen beeinflussen werden.

Das zweite Anliegen betrifft die Versprechungen der KI zur Förderung der individuellen Emanzipierung. Während sich die öffentliche Debatte derzeit auf die Gefahren von KI konzentriert, sollte berücksichtigt werden, dass diese Systeme auch die Demokratie stärken können, beispielsweise indem sie den Spielraum der Selbstverwaltung auf Prognosen ausdehnen.

Die dritte Perspektive bezieht sich auf politische Teilhabe und Repräsentation als Anforderungen an die Legitimität für KI-orientierte Richtlinien. Abgesehen davon, dass die Beteiligung von Interessengruppen an der Entscheidungsfindung ein bekannter Legitimitätsanspruch für Regulierungsprozesse ist (Schmidt 2013), gewinnt sie in einem Kontext, in dem politische Initiativen mutmaßlich das zu regulierende Objekt selbst gestalten, an Bedeutung.

Das Projekt besteht aus einer Literaturstudie zu jedem dieser Themen, wobei der Schwerpunkt auf deren Übertragung auf zukünftige Richtlinien liegt.

Laufzeit
2021-2022
Förderung
Institut für sozialwissenschaftliche Forschung – ISF München