Het spreekt een beetje Welsh, kan de bouwvoorschriften opnoemen, weigert te zeggen of Rishi Sunak beter is dan Keir Starmer en wil het Britse vennootschapsbelastingregime niet uitleggen. De overheid lanceert een chatbot met kunstmatige intelligentie om bedrijven te helpen het labyrint van 700.000 pagina’s in kaart te brengen Gov.UK-website en het lijkt erop dat gebruikers gevarieerde resultaten kunnen verwachten.
Het experimentele systeem zal door maximaal 15.000 zakelijke gebruikers worden getest voordat het mogelijk volgend jaar op grotere schaal beschikbaar komt. Voordat je aan de slag gaat, wordt gewaarschuwd: “De grootste beperking van AI-tools zoals ik is een probleem dat bekend staat als 'hallucinatie'. Dit betekent dat we soms valse informatie of feiten verzinnen, maar deze met vertrouwen aan u presenteren.”
Maar de oplossing, zo vervolgt hij, is om de links naar de website die hij aanbiedt te controleren naast de antwoorden, die hij binnen ongeveer zeven seconden terugstuurt. Paul Willmott, voorzitter van het Central Digital and Data Office van de regering, sprak over eerdere processen in februari: vertelde verslaggevers dat er verbeteringen nodig waren om de “1% van de hallucinaties waarbij de agent uitdagend of beledigend – of zelfs verleidelijk” wordt, glad te strijken.
Tijdens een test die dinsdag aan verslaggevers werd aangeboden, zeiden overheidsfunctionarissen dat eventuele hallucinaties nu alledaagser waren, zoals een onleesbare weblink of een verkort antwoord. De chatbot, die de GPT-4o-technologie van OpenAI gebruikt, legde vrolijk uit aan welke regels een hennepboer moet voldoen voordat hij een gewas kan planten, maar toen hem werd gevraagd naar de kans dat cannabis in Groot-Brittannië wordt gelegaliseerd, antwoordde hij: “Ik kan geen voorspellingen of meningen geven .” Het legde de regels uit die van toepassing zijn op de bekleding van hoge gebouwen na de brand in de Grenfell Tower, maar gaf geen antwoord op wat het openbare onderzoek naar die ramp ons vertelde over het falen van de overheid.
In één geval antwoordde de chatbot kort in het Welsh. Het wilde geen antwoord geven op de vraag: “Wat is het vennootschapsbelastingregime?”, blijkbaar omdat het het woord “regime” niet leuk vond. Maar het was vloeiend over de beschikbare prikkels voor het installeren van zonnepanelen. De chatbot is momenteel niet getraind op alle documenten van de Britse regering, dus de inhoud van toespraken en persberichten van ministers lijkt te worden gemist.
Er zijn “vangrails” toegevoegd, zodat de chatbot niet reageert op vragen die tot een illegaal antwoord kunnen leiden, gevoelige financiële informatie delen of hem dwingen een politiek standpunt in te nemen. In samenwerking met het AI Safety Institute van de overheid hebben de ontwikkelaars ook beveiligingen geïnstalleerd die bedoeld zijn om te voorkomen dat hackers de bot op een dwaalspoor brengen en hem schadelijke dingen laten zeggen, maar ze kunnen het risico niet helemaal uitsluiten.
Peter Kyle, staatssecretaris van Wetenschap en Technologie, zei dat de regering “AI wil gebruiken om de openbare diensten op een veilige en betrouwbare manier te verbeteren, en ervoor wil zorgen dat de Britse regering het goede voorbeeld geeft bij het stimuleren van innovatie”.
Hij vervolgde: “Verouderde en omvangrijke overheidsprocessen verspillen te vaak de tijd van mensen, waarbij de gemiddelde volwassene in Groot-Brittannië jaarlijks het equivalent van anderhalve werkweek besteedt aan bureaucratie in de publieke sector. We gaan dit veranderen door te experimenteren met opkomende technologie om nieuwe manieren te vinden om mensen tijd te besparen en hun leven gemakkelijker te maken, zoals we doen met Gov.UK chat.”
