Die australische Esafety-Kommission bezeichnete die Offenlegung von Google als „weltweit erste Einblick“ in die Art und Weise, wie Benutzer die Technologie zur Erzeugung von schädlichen und illegalen Inhalten (Datei) ausnutzen können Fotokredit: Reuters
Google hat die australischen Behörden darüber informiert, dass es weltweit mehr als 250 Beschwerden über ein Jahr erhalten hat, dass seine Software für künstliche Intelligenz verwendet wurde, um Deepfake -Terrorismusmaterial zu machen.
Der Tech-Riese im Alphabet-Besitz sagte auch, er habe Dutzende von Benutzerberichten erhalten, die Warn, dass sein KI-Programm. Gemini wurde nach Angaben der australischen Esafety Commission verwendet, um Kindesmissbrauchsmaterial zu schaffen.
Nach australischem Recht müssen Technologieunternehmen der ESEFETY -Kommission regelmäßig mit Informationen über Schadensminimierungsbemühungen oder Risikostrafen liefern. Der Berichtszeitraum deckte April 2023 bis Februar 2024 ab.
Da Openais Chatgpt Ende 2022 in das öffentliche Bewusstsein explodierte, haben die Aufsichtsbehörden auf der ganzen Welt bessere Leitplanken gefordert, sodass KI nicht verwendet werden kann, um Terrorismus, Betrug, DeepFake -Pornografie und andere Missbrauch zu ermöglichen.
Die australische Esafety-Kommission bezeichnete die Offenlegung von Google als “weltweit erster Einblick”, wie Benutzer die Technologie ausnutzen könnten, um schädliche und illegale Inhalte zu erstellen.
“Dies unterstreicht, wie kritisch es für Unternehmen ist, die KI -Produkte entwickeln, um die Wirksamkeit von Schutzmaßnahmen einzubauen und zu testen, um zu verhindern, dass diese Art von Material generiert wird”, sagte der Beauftragte von Esafety, Julie Inman Grant, in einer Erklärung.
In seinem Bericht sagte Google, dass es 258 Benutzerberichte über mutmaßliche A-generierte DeepFake-Terroristen- oder gewalttätige extremistische Inhalte erhalten habe, die mit Gemini hergestellt wurden, und weitere 86 Benutzerberichte, in denen die Ausbeutung oder Missbrauchsmaterial von AI-generierter Kinder behauptet.
Laut der Regulierungsbehörde wurde nicht gesagt, wie viele der Beschwerden es überprüft hat.
Ein Google -Sprecher sagte, er habe die Erzeugung oder Verteilung von Inhalten im Zusammenhang mit gewalttätigem Extremismus oder Terror, Ausbeutung oder Missbrauch von Kindern oder anderen illegalen Aktivitäten nicht zugelassen.
“Wir sind bestrebt, unsere Bemühungen zu erweitern, um die Australier online sicher zu halten”, sagte der Sprecher per E -Mail.
“Die Anzahl der Gemini -Benutzerberichte, die wir ESEFETY zur Verfügung gestellt haben, repräsentiert das globale globale Volumen der Benutzerberichte, nicht bestätigte Verstöße gegen die Richtlinien.”
Google verwendete Luken-Matching-ein System, das automatisch neu genehmigte Bilder mit bereits bekannten Bildern entspricht-, um mit Gemini hergestelltes Kindesmissbrauchsmaterial zu identifizieren und zu entfernen.
Aber es verwendete nicht dasselbe System, um Terroristen oder gewalttätiges extremistisches Material auszuwehren, das mit Gemini erzeugt wurde, fügte die Regulierungsbehörde hinzu.
Die Regulierungsbehörde hat Telegramm und Twitter, später in X umbenannt, für das, was sie in ihren Berichten als Mängel bezeichnete, bestraft. X hat einen Berufung über seine Geldstrafe von 610.500 US -Dollar (382.000 US -Dollar) verloren, plant jedoch erneut, Berufung einzulegen. Telegramm plant auch, seine Geldstrafe herauszufordern.
Veröffentlicht – 06. März, 2025 10:33 Uhr IST
Source link
