Een nieuwe startup die de plaag van deepfakes wil bestrijden vervalst bewijsmateriaal in the age of AI pronkt met zijn producten op het Startup Battlefield-podium op TechCrunch verstoort 2024 deze week. ForceVeld bouwt een reeks API's waarvoor patent is aangevraagd, genaamd MARQ, waarvan de eerste is ontworpen om inhoud te authenticeren.
Voor de context: een 2022 rapport van de Europese wetshandhavingsinstantie Europol voorspelde dat 90% van alle online-inhoud in 2026 door AI zal worden gegenereerd. Het internet wordt al overspoeld met gemanipuleerde inhoud – geheel machinaal gegenereerd of gemaakt met behulp van AI – waardoor grote technologiebedrijven gedwongen worden om nieuwe instrumenten ontwikkelen om het probleem aan te pakken. Googlen afgelopen maand heeft aangekondigd dat dit binnenkort zal gebeuren beginnen met het markeren van door AI gegenereerde afbeeldingen in zijn zoekmachine, in de voetsporen van Meta, die dit al deed op Facebook en Instagram – hoewel met twijfelachtige nauwkeurigheid.
YouTube biedt mensen nu de mogelijkheid om dat te doen verzoeken om verwijdering van de inhoud dat hun gezicht of stem simuleert.
Het probleem van ‘nep’-inhoud verdwijnt niet, en het is een probleem dat aanleiding heeft gegeven tot een hele reeks startups die het probleem op verschillende manieren aanpakken. zoals duidelijkheid, RealiteitsverdedigerEn Waarachtigdie de afgelopen jaren allemaal aanzienlijke bedragen hebben opgehaald bij grote geldschieters.
ForceField richt zich op zijn beurt op het apparaatniveau in plaats van op de inhoud – dit betekent elk datastroom, op elk apparaat waarop de technologie van ForceField aanwezig is. Dit kan een mobiele app zijn waarin de API van ForceField is geïntegreerd, of het videobeheersysteem van een bewakingscamera of de hardware van een drone. Deze kan in realtime 'ondertekenen en hashen voor verificatie'.
'Keten van hechtenis'
Het eerste product van ForceField, genaamd HashMarqverifieert inzendingen van inhoud en labelt deze als authentiek, voorzien van een authenticiteitsbadge. In plaats van tangentiële technieken te gebruiken zoals vijandige AI (dwz AI bestrijden met AI) of watermerkenbrengt de technologie van Forcefield een 'chain of Custody' tot stand om de herkomst vast te stellen door uit te zoeken of een specifiek stuk inhoud is gewijzigd. Dit gebeurt door te kijken naar metadata uit datastromen en verbonden apparaten. Waar we het hier over hebben is blockchain-technologie, hoewel ForceField-oprichter en CEO MC Spano (foto hierboven) benadrukt dat dit geen “web3” startup is.
“We maken gebruik van blockchain, we gebruiken geen munten of crypto – we zijn geen web3 bedrijf,” vertelde Spano aan TechCrunch. “We gebruiken blockchain op de meest aangeboren en doelgerichte manier, namelijk slimme contracten. We authenticeren alles wat wordt verzameld, zoals een video, foto, een audiobestand en een screenshot op een mobiel apparaat, maar we beveiligen en authenticeren ook alle multimedia die op een IoT wordt verzameld, wat van alles betekent, van een BlackBerry tot een robot. Maar alle streaminggegevens die worden verzameld, ondertekenen we, hashen we en vervolgens gebruiken we grootboektechnologie.”
Deze ‘slimme contracten’ leven op de blockchain (hoewel ForceField niet onthult welke) om hun veiligheid, transparantie en onveranderlijkheid te garanderen – ze kunnen niet worden gewijzigd. Zakelijke klanten – waaronder iedereen, van hoofdinformatiefunctionarissen tot vertrouwens- en veiligheidsteams – hebben toegang tot de technologie via een API of SDK die ze in hun eigen applicaties integreren. HashMarq dient dus feitelijk als een digitaal certificaat voor inhoud die de proefcontroles heeft doorstaan.
“We bouwen technologie voor de goeden – we verwachten dat de markt, dat wil zeggen overheden, ondernemingen, kleine bedrijven en zelfs individuen, zal moeten bewijzen dat wat ze in de wereld brengen echt is”, zei Spano. “Dit wordt vergeleken met wat Meta en andere bedrijven doen, waarbij ze in feite iets labelen dat door AI wordt gegenereerd.”
Waar kijkt de technologie van ForceField precies naar bij het beoordelen van de waarheidsgetrouwheid van een bepaald item?
„We kijken naar ongeveer 90 bewijspunten, maar ik kan ze niet allemaal delen“, zei Spano. “Het idee is dat we kijken naar de georuimtelijke intelligentie rond dat apparaat, wat er op dat moment was, welke signalen, welke andere apparaten en de tijd. Hoe laat verzamelde dit apparaat deze video specifiek? En hoe lang duurde het vanaf de verzameling tot de inzending? Die punten alleen al kunnen journalisten, nieuwsorganisaties of rechtshandhavingsinstanties zoveel meer vertellen dan wat ze oorspronkelijk zouden hebben, en het kan ook een geografische locatie aanwijzen.”
Hoewel ForceField in 2021 formeel tot bloei kwam, zegt Spano dat de ontstaansgeschiedenis van het product in 2018 plaatsvond toen ze werd aangevallen in New York City en vervolgens met grote obstakels werd geconfronteerd bij het verzamelen en indienen van het door de wetshandhaving vereiste bewijsmateriaal.
“Ik wist dat er camera’s waren, ik wist dat het bewijsmateriaal kon worden verzameld”, zei Spano. 'Maar toen ik met de NYPD te maken kreeg om het bewijsmateriaal te verkrijgen, kregen ze geen dagvaarding – dus moest ik zelf naar de eigenaar van de camera gaan om de beelden op te vragen. Ik heb het opgenomen met mijn telefoon, en toen ik die opname naar de NYPD veranderde, zeiden ze dat het niet toegestaan was. En toen besefte ik dat het rechtssysteem veel eerder begint dan bij de rechtbanken.”
En dit raakt de kern van het probleem dat Spano en ForceField proberen op te lossen – een probleem dat zelfs nog groter is geworden in het tijdperk van generatieve AI, waarin iedereen met een laptop plausibel, maar volledig nep ‘bewijsmateriaal’ kan creëren. ”
Proof-of-concept
Het is nog vroeg, maar ForceField ontwikkelt er een proof-of-concept (PoC) mee verzekeringsgigant Erieterwijl Spano zegt dat het bedrijf ook intentieverklaringen heeft ondertekend met drie extra klanten, met plannen om de PoC af te ronden en in het eerste kwartaal van 2025 commercieel te lanceren.
Hoewel verzekeringen in eerste instantie een grote markt voor ForceField zullen zijn, zegt Spano dat er met de komst van AI en de mogelijkheid voor vrijwel iedereen om authentiek ogende activa te creëren geen echte grenzen meer bestaan aan de sectoren waarin dit kan worden toegepast. Een burgerjournalist die bijvoorbeeld een video op zijn mobiele apparaat heeft vastgelegd, zou deze naar een nieuwszender kunnen sturen, die zou integreren met de API van ForceField om de authenticiteit van de brongegevens te bepalen. Ook rechtshandhavingsinstanties zouden de technologie kunnen gebruiken om de inzendingen van getuigen of slachtoffers te verifiëren.
Wat de financiering betreft, is het bedrijf tot nu toe gefinancierd via een mix van ‘bootstrapping’ (Spano heeft een eerder bedrijf verkocht) en kapitaal verstrekt door engelen, waaronder acteur Debra Messing, evenals Wilfredo FernándezX's hoofd overheidszaken en scout bij VC-firma Lightspeed. ForceField heeft ook geld ontvangen via haar deelname aan Techstars vorig jaar, terwijl het zojuist zijn eerste institutionele financiering heeft ontvangen via een strategische investering van zijn klant, Erie Insurance.
Spano zei ook dat ze tegen het einde van het jaar een startronde hoopt af te ronden, en voegde eraan toe dat ze gelooft dat een van de belangrijkste facetten van het bedrijf is dat het een volledig door vrouwen geleid bedrijf is in een door mannen gedomineerde ruimte.
„Er is een heel groot probleem met de financiering van solovrouwenteams hier in de VS“, zei Spano. “Ik ben de enige vrouw die dit soort technologie op dit moment bouwt, alle andere concurrenten worden allemaal geleid door mannen – dus het hebben van een vrouwenstem, en transparantie, en eerlijkheid, en waarheid… is erg belangrijk.”
