Van het stroomlijnen van activiteiten tot het automatiseren van complexe processen, AI heeft een revolutie teweeggebracht in de manier waarop organisaties taken benaderen. Naarmate de technologie echter steeds gangbaarder wordt, ontdekken organisaties dat de haast om AI te omarmen onbedoelde gevolgen kan hebben.
A rapport van Swimlane onthult dat hoewel AI enorme voordelen biedt, de adoptie ervan het vermogen van veel bedrijven om gevoelige gegevens te beschermen heeft overtroffen. Nu bedrijven AI diepgaand in hun activiteiten integreren, krijgen ze ook te maken met de daaraan verbonden risico’s, waaronder datalekken, niet-naleving van de regelgeving en tekortkomingen in het beveiligingsprotocol.
AI werkt mee Grote taalmodellen (LLM's) die zijn getraind met behulp van enorme datasets die vaak openbaar beschikbare informatie bevatten. Deze datasets kunnen bestaan uit tekst uit bronnen als Wikipedia, GitHub en verschillende andere online platforms, die een rijk corpus bieden voor het trainen van de modellen. Dit betekent dat als de gegevens van een bedrijf online beschikbaar zijn, deze waarschijnlijk zullen worden gebruikt voor het trainen van LLM's.
Gegevensverwerking en openbare LLM's
Het onderzoek bracht een kloof aan het licht tussen protocol en praktijk bij het delen van gegevens in grote openbare taalmodellen (LLM's). Hoewel 70% van de organisaties beweert specifieke protocollen te hebben om het delen van gevoelige gegevens met openbare LLM's te waarborgen, is 74% van de respondenten zich ervan bewust dat individuen binnen hun organisaties nog steeds gevoelige informatie op deze platforms invoeren.
Deze discrepantie wijst op een kritieke tekortkoming in de handhaving en de naleving door werknemers van gevestigde beveiligingsmaatregelen. Bovendien is er een voortdurend spervuur van AI-gerelateerde berichten die professionals uitputten, en 76% van de respondenten is het ermee eens dat de markt momenteel verzadigd is met AI-gerelateerde hypes.
Deze overmatige blootstelling veroorzaakt een vorm van AI-moeheid en meer dan de helft (55%) van de ondervraagden geeft aan zich overweldigd te voelen door de aanhoudende focus op AI, wat aangeeft dat de industrie mogelijk haar aanpak ten aanzien van het promoten van de technologie moet veranderen.
Interessant genoeg is ervaring met AI en machine learning (ML)-technologieën, ondanks deze vermoeidheid, een cruciale factor aan het worden bij het aannemen van personeel. Opvallend is dat 86% van de organisaties aangeeft dat bekendheid met AI een belangrijke rol speelt bij het bepalen van de geschiktheid van kandidaten. Dit laat zien hoe ingebakken AI steeds meer ingeburgerd raakt, niet alleen in cyberbeveiligingstools, maar ook in de beroepsbevolking die nodig is om deze te beheren.
In de cyberbeveiligingssector hebben AI en LLM's een positieve impact gehad, aangezien volgens het rapport 89% van de organisaties AI-technologieën waardeert voor het vergroten van de efficiëntie van hun cyberbeveiligingsteams.
