Amina Bouayach fordert, dass Menschenrechte im Zentrum der KI-Governance stehen

Yesterday 10:25

Amina Bouayach, Präsidentin des marokkanischen Nationalen Menschenrechtsrats (CNDH) und Vorsitzende der Global Alliance of National Human Rights Institutions (GANHRI), hat gefordert, dass der Schutz der Menschenrechte im Mittelpunkt der Governance von Künstlicher Intelligenz steht. Bei einer hochrangigen internationalen Konferenz in Athen am Mittwoch warnte sie, dass aufkommende digitale Technologien grundlegende Freiheiten bedrohen könnten, wenn deren Entwicklung und Nutzung nicht effektiven Schutzmaßnahmen unterliegen.

Bouayach erkannte an, dass Künstliche Intelligenz erhebliche Chancen bietet, um öffentliche Dienstleistungen zu verbessern, den Zugang zu Rechten zu erweitern und die soziale Inklusion zu unterstützen. Sie warnte jedoch, dass diese Vorteile gegen Risiken abgewogen werden müssen, wie z.B. Online-Desinformation, Deepfake-Inhalte und voreingenommene Algorithmen, die bestehende Ungleichheiten verstärken und neue Formen der Diskriminierung schaffen können.

Sie betonte, dass Menschenrechte universell sind und in jedem Umfeld, einschließlich der digitalen Welt, respektiert werden müssen. Ihrer Ansicht nach erstreckt sich die Herausforderung über den technologischen Fortschritt hinaus auf die rechtlichen Rahmenbedingungen und politischen Entscheidungen, die bestimmen, wie digitale Systeme gestaltet, eingesetzt und genutzt werden.

Besondere Besorgnis wurde über den zunehmenden Einsatz von Gesichtserkennungstechnologie geäußert, insbesondere wenn sie ohne angemessene Aufsicht eingesetzt wird. Solche Systeme können Risiken für die Privatsphäre, Gleichheit und den Schutz vor Diskriminierung darstellen, was Transparenz, Verantwortlichkeit und sinnvolle menschliche Aufsicht unerlässlich macht.

Bouayach forderte, dass Systeme der Künstlichen Intelligenz regelmäßigen Menschenrechtsfolgenabschätzungen während ihres gesamten Lebenszyklus unterzogen werden, von der anfänglichen Gestaltung und Entwicklung bis hin zur Bereitstellung und alltäglichen Nutzung. Sie betonte auch die Notwendigkeit, die Verantwortlichkeiten der Organisationen und Einzelpersonen zu klären, die an der Schaffung und dem Betrieb dieser Technologien beteiligt sind.

Nationalen Menschenrechtsinstitutionen, so argumentierte sie, kommt eine wichtige Rolle bei der Überwachung der Auswirkungen von KI auf grundlegende Freiheiten zu. Ihre Aufgaben können die Prüfung individueller Beschwerden, die Untersuchung mutmaßlicher Verstöße, die Identifizierung breiterer Schadensmuster und die Empfehlung effektiver Abhilfemaßnahmen für von digitalen Systemen betroffene Personen umfassen.

Diese Institutionen können auch zur Entwicklung von Gesetzgebung und öffentlicher Politik beitragen, indem sie Regierungen und Parlamente beraten, bevor KI-Systeme in öffentlichen Dienstleistungen eingeführt werden. Frühzeitige Überprüfungen, so schlug sie vor, können helfen, potenzielle Risiken zu identifizieren und Schutzmaßnahmen zu etablieren, bevor schädliche Praktiken weit verbreitet werden.

Die marokkanische Menschenrechtsführerin hob ferner die Bedeutung von Konsultationen und Kooperationen zwischen Technologieentwicklern, zivilgesellschaftlichen Organisationen, öffentlichen Behörden und Gemeinschaften, die von automatisierten Entscheidungsprozessen betroffen sein könnten, hervor. Die Einbeziehung dieser Gruppen in politische Diskussionen kann dazu beitragen, sicherzustellen, dass die Anliegen und Bedürfnisse der Bürger berücksichtigt werden, bevor neue Systeme angenommen werden.

Bouayach unterstrich auch die Notwendigkeit, nationalen Menschenrechtsinstitutionen das Fachwissen, die Ressourcen und die praktische Unterstützung bereitzustellen, die erforderlich sind, um auf die rasante digitale Transformation zu reagieren. Ohne angemessene Kapazitäten könnten diese Stellen Schwierigkeiten haben, komplexe Technologien zu bewerten oder eine effektive Aufsicht auszuüben.

Sie verwies auf Initiativen, die Marokko, Südkorea und internationale Organisationen betreffen und darauf abzielen, die institutionelle Bereitschaft zu stärken. Diese Bemühungen umfassen Kooperationen mit GANHRI, dem Entwicklungsprogramm der Vereinten Nationen und dem Büro des Hohen Kommissars der Vereinten Nationen für Menschenrechte sowie gemeinsame Initiativen mit der UNESCO.

Ihre Äußerungen spiegeln eine breitere internationale Debatte darüber wider, wie Innovation gefördert werden kann, während gleichzeitig die Menschen vor den potenziellen Gefahren der Künstlichen Intelligenz geschützt werden. Für Bouayach ist es entscheidend, dass Menschenrechtsschutzmaßnahmen in die Governance von KI eingebettet werden, um sicherzustellen, dass technologische Fortschritte den Menschen dienen, ihre Würde schützen und ihre grundlegenden Freiheiten bewahren.