2024 war ein großes Jahr für die Demokratie, wobei die Wahlen in über 70 Ländern abgehalten wurden, die fast die Hälfte der Weltbevölkerung vertreten. Es wurde auch das Jahr der „KI -Wahl“ als Experten bezeichnet gewarnt des Chaos, dass die Desinformation von AI-generiert ist. Im Jahr 2023 der KI -Experte Oren Etzioni erzählt Vermögen“Ich erwarte einen Tsunami der Fehlinformation” und die Journalistin Maria Ressa sagte Die Welt steht vor einem „technisch fähigen Armageddon“.
Führende Technologieunternehmen haben sogar die geschaffen Tech Accord Bekämpfung der irreführenden Verwendung von KI bei Wahlen 2024 unter Berufung auf Anliegen darüber, wie der „absichtliche und unbekannte Erzeugung und Verbreitung von täuschenden KI -Wahlinhalten die Öffentlichkeit auf eine Weise täuschen kann, die die Integrität von Wahlprozessen gefährdet“. Rest der Welt Die Berichterstattung im Laufe des Jahres lässt darauf schließen, dass diese Bedenken übertrieben oder verlegt wurden.
Anfang 2024, Rest der Welt machen Sie sich auf den Weg, um eine zu erstellen KI -Wahlen Tracker Mit dem Ziel, zu verstehen, wie unterschiedlich KI -Tools verwendet wurden, konzentrierten sich der Schwerpunkt auf Ländern außerhalb des Westens. Das ganze Jahr über Reporter aus der ganzen Welt versammelt Einzigartige und bemerkenswerte Fälle der Art und Weise, wie KI – hauptsächlich generative KI – für Wahlen verwendet wurde. Bis zum Ende des Jahres umfasste der Tracker 60 Einträge aus 15 Ländern. Die Einträge beachten die Art der mit KI erstellten Medien, einschließlich Text, Bild, Audio und Video. Die Plattform (en) Der Inhalt wurde auf und verbreitet; und das fragliche Land.
Eher als eine umfassende Datenbank, unsere KI -Wahlen Tracker Erstellte einen handverlesenen Datensatz, der einen Einblick in die unzähligen Arten gab, wie Politiker und Bürger KI nutzten, um politische Inhalte zu schaffen, die zu Wahlen und nach den Wahlen führten. Die meisten der von uns gesammelten Beiträge konzentrieren sich in der ersten Jahreshälfte, da zuerst einzigartige Anwendungsfälle aufgetaucht sind und als viele größere Wahlen stattfanden.
Gegen Ende des Jahres stellten Experten fest, dass die schlimmsten Befürchtungen der Menschen über die negativen Auswirkungen der KI auf Wahlen nicht zustande kam. KI -Forscher schrieb im MIT Technology Review Das frühere Bedenken, dass ein Ansturm von Deepfakes und anderen Fehlinformationen von A-generierten Wählern die Wähler irreführend war. Meta gemeldet Im Dezember fand es auf seinen Plattformen nicht viel mit AI-generierte Fehlinformationen und konnte es entweder entfernen oder beschriften.
Experten, die mit gesprochen haben Rest der Welt Sagte, dass AI zwar keine katastrophalen Effekte hatte, die Wahlen schwankten, aber es gibt immer noch Gründe, besorgt zu sein, da gefälschte KI Unterscheidung KI -Inhalt aus authentischen Inhalten.
“Wenn es um KI und Wahlen (im Jahr 2024) geht, hatte ich buchstäblich den Satz” Es ist der Hund, der nicht bellte “gesehen, aber ich denke tatsächlich, dass dies eine bedeutende Überbeanspruchung ist”, sagte Vivian Schiller, Geschäftsführer von Aspen Digital, einem Aspen Institute -Programm, das sich auf Technologie konzentriert.
Zeugen, eine gemeinnützige Organisation in Brooklyn, die Menschen hilft, Technologie zu nutzen, um Menschenrechtsverletzungen zu dokumentieren, verfolgte auch die Verwendung von Deepfakes über Wahlen im vergangenen Jahr. “Wir sahen, dass es klare Verwerfungslinien gab, die sich um die Fähigkeit von Journalisten, Fakten und Zivilgesellschaft befassten, mit den Deepfake-Fällen umzugehen, zu erkennen und zu kommunizieren, die sie hatten”, sagte Sam Gregory, Executive Director der Organisation. Er bemerkte, dass KI -Erkennungstools nicht immer effektiv funktionierten, um schlüssige Ergebnisse zu liefern, und sie hatten nicht die Fähigkeit, mit unterschiedlichen Akzenten oder Hauttönen umzugehen.
In Indien gab es viele Beispiele von Menschen, die generative KI einsetzten, um Meme im Vorfeld der Parlamentswahlen des Landes im Juni zu schaffen. Nilesh Christopher, ein früherer Rest der Welt Der Reporter, der Vorfälle in Indien verfolgt hat, hat seit 2020 den Wahlinhalt der A-generierten Wahl in den Wahlen abdeckt. Im Jahr 2024 stellte er fest Video von Premierminister Narendra Modi transponierten mit Viggle AI auf Rapper Lil Yachty.
“Der verspielte Einsatz von KI oder die engagierorientierte Verwendung von KI war im Vergleich zu direkten politischen Verwendungen oder Schäden höher”, sagte Christopher, sagte Christopher Rest der Welt. “Es wurde ein weiteres Werkzeug, um Inhalte billig zu generieren.”
Einige der bemerkenswertesten KI -Anwendungsfälle waren für die Kommunikation durch Politiker. Ein paar Wochen vor der Wahl Pakistans im Februar verbannte der Oberste Gerichtshof die Mitglieder der ehemaligen Pakistan Tehreek-e-INSAF-Partei des ehemaligen Premierministers Imran Khan daran, sein traditionelles Symbol zu verwenden. Alle PTI -Kandidaten mussten neue, individuelle Symbole für Stimmzettel verwenden und Verwirrung unter den Wählern verursachten. Als Antwort erstellte die PTI a Chatbot Bürger zu informieren, wer ihr lokaler Kandidat war. Nach der Wahl lieferte Khan a Rede aus dem Gefängnis auch mit Hilfe der KI.
“Eine der mächtigsten Möglichkeiten, wie insbesondere generative KI und Bildherstellung dies tun können, ist, dass sie metaphorische Sprache in Bilder verwandeln kann”, sagte Gregory, sagte Gregory Rest der Welt. “Und ich denke, das ist so offensichtlich, was mit so viel von der politischen Beteiligung an einer Reihe von Geografien passiert.” In Südafrika zum Beispiel haben Social -Media -Nutzer KI zum Erstellen verwendet Bilder Wie das Land unter Julius Malemas Führung aussehen würde. In Ländern wie Indonesien, Sri Lanka und Indien, haben Benutzer und Politiker politische Persönlichkeiten mit KI für wiedererlangt Kommentar oder Kampagne Vermerke.
Die meisten Vorfälle Rest der Welt Die Verfolgung fiel in zwei Kategorien: Meme und Kommentare von Bürgern oder politische Kommunikation durch Kandidaten. Aber wir haben auch schädliche Verwendungen von generativem KI dokumentiert. In Mexiko zum Beispiel benutzte jemand generative KI, um einen falschen Akt zu erstellen Foto von Kandidat Mariana Rodríguez Cantú. In Taiwan hatte ein mit Peking verknüpfter Schauspieler die Ai-Generation verteilt Videos mit Desinformation über den ehemaligen Präsidenten Tsai Ing-Wen eine Woche vor der Wahl.
Selbst Inhalte, die zunächst weniger schädlich erscheint, können negative Konsequenzen haben. A-generierte Beiträge, die von einer Plattform zu einer anderen springen, oder auf derselben Plattform wieder veröffentlicht werden, können zu einem Zusammenbruch des Kontextes führen, bei dem sich Inhalte für eine Gruppe von Menschen über diese Blase hinausbreiten und falsch interpretiert werden. Zum Beispiel hat ein Social -Media -Nutzer KI zum Erstellen verwendet Fotos von indischen Parteiführern, die die Politik ihrer Gegner unterstützen. Der ursprüngliche Beitrag auf Instagram wurde mit der Bildunterschrift „Politik in einem parallelen Universum“ veröffentlicht und enthielt einen Haftungsausschluss, dass die Bilder mit Ai-generiert waren. Diese Bilder könnten jedoch irreführend sein, wenn sie ohne diesen Kontext geteilt würden.
Shukri Hassan, der südafrikanische Inhalte für analysierte Rest der WeltKI -Tracker sah eine ähnliche Situation in ihrem eigenen Leben. Während sie in der Lage war, eine AI-Generation sofort zu erkennen Video Von der ehemaligen Präsidentin Joe Biden drohte Sanktionen gegen Südafrika, einige Menschen in ihrer persönlichen Umlaufbahn hielten es für real.
“Zum größten Teil denke ich nicht, dass die Technologie noch so weit fortgeschritten ist, dass sie die Menschen überzeugend irreführen, bis sie ihre Stimmen ändern würden”, sagte Hassan. „Vor allem mit der älteren Generation ist es für sie schwierig zu verstehen, dass jemand einfach ein altes Video auf eine Plattform laden und diese Art von (gefälschtem) Bild erstellen kann.“
Ein neuer Bericht aus Indonesien, der auf Umfragen basiert, die von der Luminate Foundation und des Marktforschungsunternehmens Ipsos durchgeführt wurden, unterstrichen Bedenken hinsichtlich der breiten Öffentlichkeit nicht in der Lage, AI-generierte Inhalte zu identifizieren. (Luminate, die Projekte finanziert, um Governance- und Bürgerbeschäftigungsfragen weltweit zu unterstützen, untergeschrieben Rest der Welt‘Die Berichterstattung über die Schnittstelle von Technologie und Demokratie im Jahr 2024.) Von den 1.000 Befragten gaben 63% an, dass AI-generierte Inhalte das Potenzial hatten, ihre persönlichen politischen Ansichten zu beeinflussen. Aber von den 33%, die angaben, dass AI-generierte Inhalte nur wenig oder gar keine Auswirkungen auf ihre persönlichen Ansichten hatten, „geben 42% zu, dass sie nicht sehr/zuversichtlich sind, Inhalte zu identifizieren“, heißt es in dem Bericht.
In einem Dezember Bericht In Bezug auf globale Wahlinhalte auf seinen Plattformen stellte Meta fest, dass KI-Inhalte im Zusammenhang mit Wahlen weniger als 1% aller Fehlinformationen mit Fakten überprüft hatten. Einen Monat später kündigte das Unternehmen an schließen Seine Faktenprüfprogramme und die Wechsel zu den X-Style-Community-Notizen.
Schiller von Aspen Digital bemerkte, dass Meta – dem WhatsApp, Facebook und Instagram gehört – Ist Das Internet an vielen Orten auf der ganzen Welt. Meta selbst notiert dass seine „bestehenden Richtlinien und Prozesse bei den Wahlen 2024 das Risiko um den generativen KI -Inhalt verringern“. So sind Social-Media-Plattformen, die sich von der Überprüfung und Kennzeichnung von Inhalten als “generiert” entfernen, “äußerst beunruhigend”, sagte Schiller. “(X) ist sehr unzuverlässig geworden. Meta hat seine Inhalts Moderation gestoppt. Dies sind viele der entscheidenden Werkzeuge, die Menschen verwenden.”
Die Wahlen 2024 waren eine „Drehprobe“, sagte Schiller Rest der Welt. “2024 war ein Jahr, das in Bezug auf das Volumen der nationalen Wahlen auf der ganzen Welt einzigartig war, beispiellos. Aber die Wahlen gehen weiter”, sagte sie. “Es gibt ein weiteres Dutzend oder mehr nationale Wahlen, die im Jahr 2025 stattfinden. Deshalb wird die Raffinesse (von KI) nur größer.”
Source link
