- Chinese onderzoekers passen Meta’s Llama-model aan voor gebruik door militaire inlichtingen
- ChatBIT toont de risico’s van open-source AI-technologie
- Meta distantieert zich van ongeautoriseerde militaire toepassingen van Llama
Meta’s Llama AI-model is dat wel open bron en vrij beschikbaar voor gebruik, maar de licentievoorwaarden van het bedrijf vermelden duidelijk dat dit model dat wel is uitsluitend bedoeld voor niet-militaire toepassingen.
Er zijn echter zorgen over de manier waarop open source-technologie kan worden gecontroleerd om ervoor te zorgen dat deze niet voor de verkeerde doeleinden wordt gebruikt en de laatste speculaties bevestigen deze zorgen, aangezien recente rapporten beweren dat Chinese onderzoekers met banden met het People’s Liberation Army (PLA) een militair gericht AI-model genaamd ChatBIT met behulp van Llama
De opkomst van ChatBIT benadrukt het potentieel en de uitdagingen van open source-technologie in een wereld waar toegang tot geavanceerde AI steeds meer wordt gezien als een nationale veiligheidskwestie.
Een Chinees AI-model voor militaire inlichtingen
Een recent onderzoek door zes Chinese onderzoekers van drie instellingen, waaronder twee verbonden aan de Academie voor Militaire Wetenschappen van het Volksbevrijdingsleger (AMS), beschrijft de ontwikkeling van ChatBIT, gemaakt met behulp van een vroege versie van Meta’s Llama-model.
Door hun parameters te integreren in het grote taalmodel Llama 2 13B, wilden de onderzoekers een militair gerichte AI-tool produceren. Daaropvolgende academische vervolgartikelen schetsen hoe ChatBIT is aangepast om militair-specifieke dialogen te verwerken en operationele beslissingen te ondersteunen, met als doel te presteren op ongeveer 90% van de capaciteit van GPT-4. Het blijft echter onduidelijk hoe deze prestatiegegevens werden berekend, aangezien er geen gedetailleerde testprocedures of veldtoepassingen zijn bekendgemaakt.
Analisten die bekend zijn met Chinese AI en militair onderzoek hebben naar verluidt deze documenten beoordeeld en de beweringen over de ontwikkeling en functionaliteit van ChatBIT ondersteund. Ze beweren dat de gerapporteerde prestatiestatistieken van ChatBIT overeenkomen met experimentele AI-toepassingen, maar merken op dat het gebrek aan duidelijke benchmarkingmethoden of toegankelijke datasets het een uitdaging maakt om de beweringen te bevestigen.
Verder blijkt uit een onderzoek van Reuters biedt een extra ondersteuningslaag, waarbij bronnen en analisten worden aangehaald die materialen hebben beoordeeld die PLA-gelieerde onderzoekers in verband brengen met de ontwikkeling van ChatBIT. Uit het onderzoek blijkt dat deze documenten en interviews pogingen van het Chinese leger onthullen om Meta’s open-sourcemodel opnieuw te gebruiken voor inlichtingen- en strategietaken, waardoor het het eerste gepubliceerde exemplaar is van een nationaal leger dat het taalmodel van Llama aanpast voor defensiedoeleinden.
Het gebruik van open-source AI voor militaire doeleinden heeft het debat over de potentiële veiligheidsrisico’s die verbonden zijn aan openbaar beschikbare technologie opnieuw aangewakkerd. Meta heeft, net als andere technologiebedrijven, een licentie verleend aan Llama met duidelijke beperkingen tegen het gebruik ervan in militaire toepassingen. Zoals bij veel open-sourceprojecten is het afdwingen van dergelijke beperkingen echter praktisch onmogelijk. Zodra de broncode beschikbaar is, kan deze worden aangepast en opnieuw worden gebruikt, waardoor buitenlandse overheden de technologie aan hun specifieke behoeften kunnen aanpassen. Het geval van ChatBIT is een duidelijk voorbeeld van deze uitdaging, omdat Meta’s bedoelingen worden omzeild door mensen met verschillende prioriteiten.
Dit heeft geleid tot hernieuwde oproepen binnen de VS voor strengere exportcontroles en verdere beperkingen van de Chinese toegang tot open-source- en open-standaardtechnologieën zoals RISC-V. Deze stappen zijn bedoeld om te voorkomen dat Amerikaanse technologieën potentieel vijandige militaire vooruitgang ondersteunen. Wetgevers onderzoeken ook manieren om Amerikaanse investeringen in de Chinese AI-, halfgeleider- en kwantumcomputersectoren te beperken om de stroom van expertise en middelen die de groei van de Chinese technologie-industrie zouden kunnen stimuleren, te beteugelen.
Ondanks de zorgen rond ChatBIT, twijfelen sommige experts aan de effectiviteit ervan, gezien de relatief beperkte gegevens die bij de ontwikkeling ervan zijn gebruikt. Het model is naar verluidt getraind op 100.000 militaire dialoogrecords, wat relatief klein is vergeleken met de enorme datasets die worden gebruikt om de modernste taalmodellen in het Westen te trainen. Analisten suggereren dat dit het vermogen van ChatBIT om complexe militaire taken uit te voeren kan beperken, vooral wanneer andere grote taalmodellen worden getraind op biljoenen datapunten.
Meta reageerde ook op deze rapporten en beweerde dat Llama 2 13B LLM, gebruikt voor de ontwikkeling van ChatBIT, nu een verouderde versie is, terwijl Meta al aan Llama 4 werkt. Het bedrijf distantieerde zich ook van de PLA en zei dat elk misbruik van Llama ongeoorloofd is. Molly Montgomery, Meta’s directeur openbaar beleid, zei: „Elk gebruik van onze modellen door het Volksbevrijdingsleger is ongeoorloofd en in strijd met ons beleid voor aanvaardbaar gebruik.“
Via Tom’s hardware
