Ageism in AI: new forms of age discrimination and exclusion in the era of algorithms and artificial intelligence (AGEAI)

Abstract

Der Einsatz von künstlicher Intelligenz (KI) birgt große Chancen für Wirtschaft und Gesellschaft. Sie birgt jedoch auch Risiken in Bezug auf soziale Gleichheit, Privatsphäre, Fairness und Verantwortlichkeit. Neuere Studien haben erhebliche rassistische und geschlechtsspezifische Verzerrungen in algorhythmischen Systemen ans Licht gebracht und gezeigt, wie sich KI negativ auf marginalisierte Gruppen auswirken kann. Überraschenderweise wurde die Kategorie Alter, die für die soziale Eingliederung und Gleichberechtigung in alternden Gesellschaften von entscheidender Bedeutung ist, in der Forschung und Politik zu KI-Voreingenommenheit weitgehend außer Acht gelassen.

Die COVID-19-Pandemie hat zudem gezeigt, dass ältere Menschen aufgrund ihres begrenzten Zugangs zu digitalen Ressourcen unverhältnismäßig stark sozial ausgegrenzt werden. Trotz dieser Erkenntnisse wird die Rolle von KI-Systemen bei der Verschärfung dieser Ungleichheiten erst seit Kurzem unter die Lupe genommen. Die Weltgesundheitsorganisation (WHO) hat Bedenken geäußert, dass unkontrollierte KI-Technologien den bestehenden Altersdiskriminierung in der Gesellschaft aufrechterhalten und die Qualität der Gesundheits- und Sozialfürsorge für ältere Menschen beeinträchtigen könnten (WHO, 2022). Das Ausmaß und die verschiedenen Formen von Altersdiskriminierung in der KI sind jedoch noch weitgehend unerforscht, so dass dies ein relativ unerforschtes Gebiet ist.

Um diese Lücke zu schließen, will sich unsere interdisziplinäre Studie mit dem Thema Ageism in der KI befassen und versuchen, die Implikationen und potenziellen Folgen für ältere Menschen und die Gesellschaft im Allgemeinen zu verstehen. Ziel des AGEAI-Projekts ist es, kritisch zu bewerten, wie Ageism in KI-Systemen, -Produkten, -Dienstleistungen und -Infrastrukturen wirkt, indem es sich auf kritische Bereiche des KI-Einsatzes konzentriert (Gesundheitswesen, Beschäftigungs-/Einstellungssysteme, Mobilität und Verkehr, Finanzdienstleistungen, Gesichtserkennung). Die in diesen Bereichen entwickelten KI-Technologien werden im vorgeschlagenen EU-KI-Gesetz (2022) als "risikoreich" eingestuft und müssen streng geprüft werden, um die Standards einer vertrauenswürdigen, menschenzentrierten und fairen KI zu erfüllen.

Main content
Relevante Publikationen