Meta-Skandal: KI-Chatbot-Regeln lösen weltweite Proteste aus

Meta-Skandal: KI-Chatbot-Regeln lösen weltweite Proteste aus

Gegen Meta braut sich eine heftige Kritik zusammen, da die Regeln für die Aussagen seiner KI-Chatbots gelten.

Ein internes Richtliniendokument von Meta, das Reuters vorliegt, zeigt, dass die Richtlinien des Social-Media-Riesen für seine Chatbots es der KI erlauben, „mit Kindern romantische oder sinnliche Gespräche zu führen“, falsche medizinische Informationen zu generieren und Nutzern dabei zu helfen, zu argumentieren, Schwarze seien „dümmer als Weiße“.

Sänger Neil Young verließ die Social-Media-Plattform am Freitag, wie seine Plattenfirma in einer Erklärung mitteilte – der jüngste in einer Reihe von Online-Protesten des Sängers.

„Auf Neil Youngs Wunsch nutzen wir Facebook nicht mehr für Neil Young-bezogene Aktivitäten“, gab Reprise Records bekannt. „Metas Einsatz von Chatbots mit Kindern ist unverantwortlich. Herr Young möchte keine weitere Verbindung zu Facebook.“

Der Bericht löste auch Reaktionen von US-amerikanischen Gesetzgebern aus.

Senator Josh Hawley, ein Republikaner aus Missouri, leitete am Freitag eine Untersuchung des Unternehmens ein. In einem Brief an Mark Zuckerberg schrieb er, er werde untersuchen, „ob Metas generative KI-Produkte Ausbeutung, Täuschung oder andere kriminelle Schädigungen von Kindern ermöglichen und ob Meta die Öffentlichkeit oder Aufsichtsbehörden über seine Sicherheitsvorkehrungen in die Irre geführt hat“. Die republikanische Senatorin Marsha Blackburn aus Tennessee erklärte, sie unterstütze eine Untersuchung des Unternehmens.

Senator Ron Wyden, ein Demokrat aus Oregon, bezeichnete die Richtlinien als „zutiefst beunruhigend und falsch“ und fügte hinzu, dass Paragraf 230, ein Gesetz, das Internetunternehmen von der Haftung für die auf ihren Plattformen veröffentlichten Inhalte befreit, die generativen KI-Chatbots der Unternehmen nicht schützen sollte.

„Meta und Zuckerberg sollten für jeglichen Schaden, den diese Bots verursachen, voll verantwortlich gemacht werden“, sagte er.

Am Donnerstag veröffentlichte Reuters einen Artikel über interne Richtliniendokumente von Meta, in denen detailliert beschrieben wurde, wie Chatbots Inhalte generieren dürfen. Meta bestätigte die Echtheit des Dokuments, teilte jedoch mit, dass Teile entfernt wurden, in denen Chatbots nach Erhalt einer Liste von Fragen erlaubt seien, mit Kindern zu flirten und romantische Rollenspiele zu spielen.

Laut Metas 200-seitiger interner Richtlinie „GenAI: Content Risk Standards“, die Reuters einsehen konnte, wurden die umstrittenen Regeln für Chatbots von Metas Rechtsabteilung, den Abteilungen für öffentliche Ordnung und Technik, einschließlich des Chefethikers, genehmigt.

Das Dokument definiert, was Meta-Mitarbeiter und Auftragnehmer bei der Entwicklung und Schulung der generativen KI-Produkte des Unternehmens als akzeptables Chatbot-Verhalten betrachten sollten, weist aber darauf hin, dass die Standards nicht unbedingt „ideale oder gar wünschenswerte“ Ergebnisse generativer KI widerspiegeln.

In der Richtlinie heißt es, es sei akzeptabel, wenn ein Bot einem achtjährigen Kind ohne Hemd sage: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich sehr schätze“, aber es schränkt auch das ein, was Reuters als „sexy Talk“ bezeichnete.

In dem Dokument heißt es beispielsweise: „Es ist inakzeptabel, ein Kind unter 13 Jahren in Begriffen zu beschreiben, die darauf hindeuten, dass es sexuell begehrenswert ist“, einschließlich Formulierungen wie „sanfte, abgerundete Kurven laden zu meiner Berührung ein“.

Das Dokument befasste sich auch mit Einschränkungen der Meta-KI-Hinweise zu Hassreden, der KI-Generierung sexualisierter Bilder von Persönlichkeiten des öffentlichen Lebens (häufig sexualisiert), Gewalt und anderen umstrittenen und potenziell strafbaren Inhalten.

Die Standards besagen außerdem, dass Meta-KI Spielraum für die Erstellung falscher Inhalte hat, solange ausdrücklich darauf hingewiesen wird, dass das Material unwahr ist.

„Die fraglichen Beispiele und Hinweise waren und sind fehlerhaft und widersprechen unseren Richtlinien. Sie wurden entfernt“, heißt es in einer Erklärung von Meta. Obwohl Chatbots solche Gespräche mit Minderjährigen verboten sind, räumte Meta-Sprecher Andy Stone ein, dass die Durchsetzung der Richtlinien durch das Unternehmen inkonsistent sei.

Meta plant, in diesem Jahr rund 65 Milliarden US-Dollar in KI-Infrastruktur zu investieren. Dies ist Teil einer umfassenderen Strategie, um führend im Bereich der künstlichen Intelligenz zu werden. Der rasante Vorstoß der Tech-Giganten in die KI bringt komplexe Fragen zu Einschränkungen und Standards mit sich, wie, mit welchen Informationen und mit wem KI-Chatbots mit Nutzern interagieren dürfen.

Reuters berichtete am Freitag außerdem, dass sich ein kognitiv beeinträchtigter Mann aus New Jersey in „Big sis Billie“ verliebte, einen Facebook-Messenger-Chatbot mit der Persönlichkeit einer jungen Frau. Der 76-jährige Thongbue „Bue“ Wongbandue packte Berichten zufolge im März seine Sachen, um „eine Freundin“ in New York zu besuchen. Die sogenannte Freundin entpuppte sich als generativer Chatbot mit künstlicher Intelligenz, der dem Mann wiederholt versichert hatte, dass sie real sei, und ihn in ihre Wohnung eingeladen hatte, wobei er ihm sogar eine Adresse verriet.

Meta äußerte sich nicht zu Wongbandues Tod und beantwortete auch nicht die Frage, warum Chatbots Nutzern vorgaukeln dürfen, dass sie real seien, oder romantische Gespräche beginnen dürfen, so Reuters. Das Unternehmen erklärte jedoch, dass die große Schwester Billie „nicht Kendall Jenner ist und auch nicht vorgibt, Kendall Jenner zu sein“, und verwies damit auf eine Partnerschaft mit dem Reality-TV-Star.