Apple krijgt kritiek na zijn Door AI aangedreven meldingsfunctie, Apple-intelligentieschreef ten onrechte een schokkende kop toe aan de BBC, waarin hij beweerde: “Luigi Mangione schiet zichzelf neer.” De misleidende waarschuwing suggereerde dat Mangione, de verdachte van de spraakmakende moord op gezondheidszorg-CEO Brian Thompson in New York, zelfmoord had gepleegd. In werkelijkheid zit de 26-jarige Mangione nog steeds in hechtenis in Pennsylvania, in afwachting van uitlevering aan New York.
De BBC, wiens naam ten onrechte aan de kop werd gekoppeld, heeft zijn bezorgdheid geuit bij Apple. “BBC News is het meest vertrouwde nieuwsmedium ter wereld”, aldus een woordvoerder van de omroeporganisatie. “Het is voor ons essentieel dat ons publiek alle informatie of journalistiek kan vertrouwen die in onze naam wordt gepubliceerd, inclusief meldingen.”
Apple heeft geweigerd commentaar te geven op de controverse.
Door AI gegenereerde samenvattingen worden onder de loep genomen
De foutieve melding staat niet op zichzelf. Apple Intelligence, eerder deze week gelanceerd in Groot-Brittannië, gebruikt kunstmatige intelligentie om meldingen samen te vatten en te groeperen, maar wordt bekritiseerd vanwege de onnauwkeurigheden ervan.
De New York Times werd met een soortgelijk probleem geconfronteerd toen de tool een rapport onnauwkeurig samenvatte, wat leidde tot een waarschuwing met de tekst: ‘Netanyahu gearresteerd.’ De kop gaf een verkeerd beeld van een verhaal over een bevel van het Internationaal Strafhof tegen de Israëlische premier, waardoor er nog meer zorgen ontstonden over de betrouwbaarheid van het artikel.
Prof. Petros Iosifidis, a deskundige op het gebied van mediabeleid aan de City University in Londen noemde het incident “beschamend” voor Apple. “Dit toont de risico’s aan van het vrijgeven van technologie die nog niet volledig klaar is. Er bestaat een reëel gevaar van het verspreiden van desinformatie”, zei hij.
Bredere AI-uitdagingen
Apple Intelligence, beschikbaar op bepaalde apparaten met iOS 18.1 of hoger, is geïntroduceerd om gebruikers te helpen bij het prioriteren van meldingen. De beperkingen ervan hebben echter geleid tot vergelijkingen met eerdere AI-blunders, zoals de AI-gegenereerde zoeksuggesties van Google eerder dit jaar, die gebruikers adviseerden stenen te eten of “niet-giftige lijm” te gebruiken voor pizza.
De BBC en andere uitgevers trekken nu de verantwoordelijkheid van Apple in twijfel bij het omgaan met de gevolgen van dergelijke fouten. Nu AI een steeds prominentere rol speelt bij de nieuwsvoorziening, onderstreept het incident de behoefte aan robuustere waarborgen om desinformatie te voorkomen en het publieke vertrouwen in de journalistiek te beschermen.
