In mei begon het Openbaar Ministerie van de stad Buenos Aires generatieve AI te gebruiken om uitspraken te voorspellen voor een aantal openbare arbeidszaken die verband hielden met salariseisen.
Sindsdien hebben justitiemedewerkers van het kantoor voor controversiële administratieve en fiscale zaken van de stad Buenos Aires zaakdocumenten geüpload naar ChatGPT, dat patronen analyseert, een voorlopige classificatie biedt op basis van een catalogus met sjablonen en een beslissing opstelt. Tot nu toe is ChatGPT gebruikt voor 20 juridische straffen.
Het gebruik van generatieve AI heeft de tijd die nodig is om een zin op te stellen teruggebracht van een uur naar ongeveer tien minuten, zo blijkt uit recent onderzoek van het bureau.
“Wij, als professionals, zijn niet meer de hoofdpersonen. We zijn redacteuren geworden”, zegt Juan Corvalán, plaatsvervangend procureur-generaal in controversiële administratieve en fiscale zaken Rest van de wereld.
De introductie van generatieve AI-instrumenten heeft de efficiëntie op kantoor verbeterd, maar heeft ook geleid tot zorgen binnen de rechterlijke macht en bij onafhankelijke juridische deskundigen over mogelijke vooroordelen, de behandeling van persoonlijke gegevens en de opkomst van hallucinaties. Soortgelijke zorgen hebben zich ook voorgedaan echode buiten de Argentijnse grenzen.
“Wij, als professionals, zijn niet meer de hoofdpersonen. Wij zijn redacteuren geworden.”
“Elk inconsistent gebruik, zoals het delen van gevoelige informatie, kan aanzienlijke juridische kosten met zich meebrengen”, zegt Lucas Barreiro, een advocaat gespecialiseerd in de bescherming van persoonsgegevens en lid van Privéeen burgerlijke vereniging die zich inzet voor de verdediging van de mensenrechten in het digitale tijdperk Rest van de wereld.
Rechters in de VS hebben hun scepsis geuit over het gebruik van generatieve AI in de rechtbanken, met federale rechter Edgardo Ramos uit Manhattan gezegde eerder dit jaar dat “ChatGPT een onbetrouwbare bron bleek te zijn.” In Colombia en de Nederlandwerd het gebruik van ChatGPT door rechters bekritiseerd door lokale experts. Maar niet iedereen maakt zich zorgen: een rechter van het hof van beroep in Groot-Brittannië die ChatGPT gebruikte schrijven een deel van een vonnis zei dat het ‘heel nuttig’ was.
Voor Corvalán is de overstap naar generatieve AI het hoogtepunt van een jarenlange transformatie binnen het kantoor van de procureur-generaal van de stad Buenos Aires. In 2017 stelde Corvalán een groep ontwikkelaars samen om een AI-aangedreven systeem genaamd PROMETEA te trainen, dat bedoeld was om gerechtelijke taken te automatiseren en gerechtelijke procedures te bespoedigen. Het team maakte gebruik van meer dan 300.000 uitspraken en dossiers met betrekking tot huisvestingsbescherming, overheidsbonussen voor werkgelegenheid, het afdwingen van onbetaalde boetes en het weigeren van taxivergunningen aan personen met een strafblad.
De gevallen waarvoor het werd gebruikt, varieerden niet veel, en de resoluties waren meestal gestandaardiseerd. Juridisch personeel moest nog steeds de uitspraken van het programma beoordelen. Het duurde niet lang voordat de productiviteit op kantoor steeg bijna 300%waarbij juridische professionals ongeveer 490 zaken per maand kunnen behandelen, tegen ongeveer 130.
“Het was nooit bedoeld om mensen te vervangen. Er is altijd toezicht. In plaats daarvan is het een manier om onze banen te heroverwegen”, aldus Corvalán.
PROMETEA zou resultaten met een nauwkeurigheid van 90% kunnen voorspellen in minder dan 20 seconden, volgens a rapport door het Openbaar Ministerie van de stad. De implementatie van PROMETEA was een gamechanger, zegt Melisa Rabán, secretaris van het plaatsvervangend kantoor van de procureur-generaal voor controversiële administratieve en fiscale zaken.
“Er kwamen complexere gevallen binnen en we konden er goed aan werken in plaats van automatiseerbare taken uit te voeren”, vertelde Rabán Rest van de wereld.
Maar de efficiëntie van het programma had een prijs: elke nieuwe misdaadcategorie waarvoor PROMETEA werd ingezet, vereiste aanvullende training en ontwikkeling van algoritmen. Eerder dit jaar begon Corvalán PROMETEA af te bouwen ten gunste van ChatGPT. De twintig door haar opgestelde uitspraken zijn allemaal beoordeeld door een advocaat en goedgekeurd door de plaatsvervangend advocaat. De rechterlijke macht breidt het programma nu uit naar andere eenheden, waaronder het inkoopbureau, dat klachten van burgers beheert.
“Dit project gaat over het democratiseren van generatieve AI”, zegt Sofia Tammaro, griffier bij het plaatsvervangend parket en hoofdontwikkelaar van het project. Rest van de wereld. In Argentinië, dat achterop is geraakt bij de ontwikkelde wereld wat betreft de toegang tot de allernieuwste technologische ontwikkelingen, is dat geen geringe prestatie.
“Elk inconsistent gebruik, zoals het delen van gevoelige informatie, kan aanzienlijke juridische kosten met zich meebrengen.”
Deskundigen maken zich zorgen dat veel gebruikers niet over de noodzakelijke training en digitale geletterdheid beschikken om de snel veranderende technologie te implementeren, wat onder meer zou kunnen leiden tot vooroordelen tegen ondervertegenwoordigde gemeenschappen.
“Hoewel sommige kunnen worden verzacht, zullen andere naar voren komen, omdat de kern van de ontwikkelaars subjectieve beoordelingen zijn die het ontwerp van het model doordringen”, aldus Barreiro.
Het team van Corvalán probeert een aantal van de risico's die aan AI-modellen zijn verbonden, te beteugelen prevalentie van gegevensdiefstal en hacks. “We werken nog steeds aan een anonimiseringsproces voor de gevoelige gegevens die in de zaken worden aangetroffen”, aldus Tammaro.
Ook hallucinaties kunnen aanzienlijke juridische risico's met zich meebrengen. Gevallen waarin AI-systemen valse of irrelevante informatie genereren, komen ongeveer 17% van de tijd voor in juridische hulpmiddelen voor gen-AI, volgens een onderzoek van Stanford uit 2024. studie. Voor Corvalán kunnen deze alleen worden verzacht door programma's te gebruiken die een kleinere foutenmarge hebben, zoals PROMETEA, voor gevoelige gevallen, waaronder gevallen die verband houden met gender en huiselijk geweld.
“PROMETEA is ingebed in onze processen. De voetafdruk ervan zal nooit verdwijnen”, zegt Roberto Betancur, directeur IT en modernisering bij het openbaar ministerie van Buenos Aires. Rest van de wereld. “Het gaf ons een leidraad om te begrijpen hoe juridische beslissingen worden genomen.”
Voorlopig wordt PROMETEA gebruikt voor uitspraken met betrekking tot openbare werkgelegenheid en voor het beheer van onderzoek naar materiaal over seksueel misbruik van kinderen. Het gebruik ervan zal waarschijnlijk in de loop van de tijd afnemen.
“PROMETEA is als Blockbuster in een wereld waar Netflix in opkomst is. Deze transformaties vinden plaats op mondiale schaal”, aldus Corvalán.
