Google zieht KI-Bilderzeugungsfunktion aus Google Earth wegen Bedenken hinsichtlich Fehlinformationen zurück
Google hat eine neu eingeführte KI-Funktion in Google Earth ausgesetzt, nachdem Forscher und digitale Verifizierungsexperten gewarnt hatten, dass sie ausgenutzt werden könnte, um überzeugende gefälschte Satellitenbilder zu erzeugen und Online-Fehlinformationen zu schüren.
Das Unternehmen gab bekannt, dass es das Tool nur einen Tag nach seiner Einführung vorübergehend entfernt hat, und erkannte an, dass die Funktion zwar legitime Anwendungen für Fachleute im Bereich Geodaten bot, aber auch Möglichkeiten für Missbrauch schuf, die stärkere Sicherheitsvorkehrungen erforderten.
KI-Tool sollte Satellitenvisualisierung transformieren
Die Funktion, genannt „Bild erstellen,“ ermöglichte es Nutzern, in praktisch jeden Ort auf der Erde hinein zu zoomen und KI-erstellte Satellitenvisualisierungen mithilfe von Google Earths Karten, Luftbildern und 3D-Geodaten zu erzeugen.
Google hatte die Fähigkeit als kreatives Tool für Anwendungen wie die Visualisierung historischer Szenarien, die Unterstützung von Immobilienprojekten und die Erstellung konzeptioneller geografischer Illustrationen beworben.
Fast unmittelbar nach der Veröffentlichung äußerten Forscher Bedenken, dass die Technologie die Unterscheidung zwischen authentischen Satellitenbildern und KI-generierten Inhalten verwischte.
Experten warnen vor wachsenden Risiken von Fehlinformationen
Analysten für Open-Source-Intelligenz und Spezialisten für Faktenprüfung argumentierten, dass die Funktion eine der vertrauenswürdigsten Quellen für geografische Verifizierung im Internet untergraben könnte.
Der Experte für digitale Ermittlungen Henk van Ess kritisierte die Hinzufügung von KI-generierten Bildern zu Google Earth und warnte, dass die Integration fiktiver Inhalte in eine Plattform, die lange als zuverlässige Referenz galt, das öffentliche Vertrauen gefährden könnte.
Ähnlich warnte der Analyst für Satellitenbilder Brady Africk, dass realistische KI-generierte Satellitenbilder schnell online verbreitet werden könnten, was es Journalisten, Forschern und Faktenprüfern zunehmend erschwert, authentische Beweise von gefälschten Bildern zu unterscheiden.
Experten warnten auch, dass die weit verbreitete Verbreitung überzeugender synthetischer Satellitenbilder das Vertrauen in geospatiale Beweise, die zur Dokumentation von Konflikten, Naturkatastrophen und humanitären Krisen verwendet werden, dauerhaft schädigen könnte.
Vorhandene Sicherheitsvorkehrungen erwiesen sich als unzureichend
Bevor die Funktion ausgesetzt wurde, betonte Google, dass KI-generierte Bilder unsichtbare digitale Wasserzeichen enthielten, die mit seinem Gemini-KI-Assistenten erkannt werden konnten. Das Unternehmen erklärte auch, dass das System Anfragen zu gefährlichen Themen blockierte und unter KI-Richtlinien arbeitete, die täuschende oder irreführende Inhalte untersagten.
Trotz dieser Schutzmaßnahmen zeigte unabhängiges Testen, dass das Tool weiterhin hochgradig überzeugende fiktive Satellitenbilder von sensiblen Standorten und militärischen Szenarien erzeugen konnte.
Die Ergebnisse intensivierten die Kritik von Organisationen, die sich auf Open-Source-Intelligenz und Forschung zu Fehlinformationen spezialisiert haben.
Frühere KI-generierte Bilder hatten reale Auswirkungen
Die Kontroverse spiegelt breitere Bedenken über den wachsenden Einfluss synthetischer Medien auf die öffentliche Diskussion wider.
In den letzten Jahren haben KI-generierte Bilder zu viralen Fehlinformationskampagnen beigetragen, einschließlich gefälschter Visualisierungen, die die Finanzmärkte kurzfristig verunsicherten, indem sie fälschlicherweise eine Explosion in der Nähe des Pentagon darstellten, sowie manipulierte Satellitenbilder, die während internationaler Konflikte verbreitet wurden.
Diese Vorfälle haben die Prüfung von generativen KI-Systemen, die fotorealistische Inhalte erzeugen können, die für authentische Beweise gehalten werden können, verschärft.
Google wählt Vorsicht
Als Reaktion auf die wachsende Kritik bestätigte Google, dass die KI-Bilderzeugungsfunktion aus Google Earth entfernt wurde, während das Unternehmen stärkere technische Sicherheitsvorkehrungen und Moderationsmechanismen entwickelt.
Die Entscheidung wurde von Organisationen, die sich auf digitale Verifizierung konzentrieren, einschließlich Gruppen, die sich mit Open-Source-Intelligenz und Konfliktüberwachung beschäftigen, begrüßt, die argumentierten, dass die Wahrung der Glaubwürdigkeit von Satellitenbildern für den Journalismus, humanitäre Ermittlungen und das öffentliche Vertrauen von entscheidender Bedeutung ist.
Der Vorfall hebt die wachsende Herausforderung hervor, vor der Technologieunternehmen stehen, während sie versuchen, generative KI-Fähigkeiten zu erweitern und gleichzeitig zu verhindern, dass Werkzeuge zur Erstellung überzeugender Fehlinformationen im globalen Maßstab eingesetzt werden.
-
18:00
-
17:30
-
16:30
-
15:20
-
15:00
-
14:40
-
14:20
-
14:00
-
13:20
-
13:00
-
12:40
-
12:20
-
12:05
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:40
-
09:25
-
09:10
-
08:35
-
22:00
-
21:30
-
20:30
-
20:00
-
19:30
-
19:00