ChatGPT Search, een door AI aangedreven zoekmachine die ging live deze maand kunnen worden misleid om volledig misleidende samenvattingen te maken, Britse krant De Guardian heeft gevonden.
De zoekfunctie van ChatGPT is bedoeld om het browsen sneller te maken door bijvoorbeeld de productrecensies van een webpagina samen te vatten. Maar The Guardian ontdekte dat ChatGPT negatieve recensies zou kunnen negeren en ‘volledig positieve’ samenvattingen zou kunnen genereren door verborgen tekst in te voegen websites die het heeft gemaakt. ChatGPT Search kan met deze methode ook kwaadaardige code uitspugen.
Dergelijke verborgen tekstaanvallen zijn a bekend risico voor grote taalmodellenmaar dit lijkt de eerste keer te zijn dat het wordt gedemonstreerd in een live, door AI aangedreven zoekproduct. Google, de leider op het gebied van zoeken, heeft meer ervaring met het omgaan met soortgelijke problemen, merkte The Guardian op.
OpenAI gaf geen commentaar op dit specifieke incident toen TechCrunch contact opnam, maar zei dat het verschillende methoden gebruikt om kwaadaardige websites te blokkeren en voortdurend verbetert.
TechCrunch heeft een AI-gerichte nieuwsbrief! Meld u hier aan om hem elke woensdag in je inbox te ontvangen.
