Google open-source AI-watermerktoolkit

BESTANDSFOTO: Google stelt zijn AI-toolkit voor tekstwatermerken, SynthID, open voor ontwikkelaars en bedrijven. | Fotocredit: Reuters

Google maakt zijn AI-toolkit voor tekstwatermerken, SynthID, open source voor ontwikkelaars en bedrijven, zo maakte het bedrijf bekend op X. Het bedrijf had de tool geïntegreerd in zijn Gemini AI-model voor het watermerken van door AI gegenereerde inhoud op een manier die naar eigen zeggen ‘onmerkbaar was voor mensen” maar kunnen gemakkelijk door een algoritme worden gedetecteerd.

SynthID maakte vorig jaar augustus door het bedrijf bekend dat het het watermerk kan toevoegen aan tekst, afbeeldingen, audio en video's.

Grote taalmodellen genereren het volgende woord in een zin door simpelweg te voorspellen wat het meest waarschijnlijke woord zou kunnen zijn. SynthID kent aan elk woord een waarschijnlijkheidsscore toe om te bepalen of het door het AI-model is voorspeld, en beoordeelt vervolgens de hele tekst nadat alle scores zijn overwogen.

Google heeft eerder gezegd dat de SynthID-toolkit accuraat is zonder de kwaliteit, nauwkeurigheid, creativiteit en snelheid van de door AI gegenereerde tekst te verstoren.

Deze tool kan helpen bij het identificeren van Gen AI-gebruik in teksten die langer zijn dan twee zinnen. En het is in staat AI-gebruik te detecteren, zelfs als de tekst is bijgesneden, geparafraseerd of gewijzigd. Het functioneert echter moeilijk als de tekst is vertaald.

In een blogpost die in mei werd gepubliceerd, gaf Google toe dat SynthID misschien niet de perfecte oplossing is om door AI gegenereerde inhoud te detecteren, maar wel “een belangrijke bouwsteen zou kunnen zijn voor het ontwikkelen van betrouwbaardere AI-identificatietools.”