Kriminella blir effektivare med AI
AI används även för att skriva skadlig programvara och utnyttja sårbarheter i olika system. En studie från University of Illinois Urbana-Champaign (UIUC) visade att forskare använde OpenAI GPT-4 för att autonomt utnyttja sårbarheter i verkliga system genom att mata modellen med CVE-rådgivningar. Studien visade att GPT-4 kunde utnyttja 87% av de testade sårbarheterna, vilket är en klar förbättring jämfört med tidigare versioner av AI-modellen. Denna kapacitet kan möjliggöra för cyberbrottslingar att snabbt och effektivt utnyttja nya sårbarheter, vilket utgör en allvarlig säkerhetsrisk.
AI och nationella säkerhetshot
Nationella säkerhetsmyndigheter världen över är medvetna om de potentiella riskerna med AI i händerna på kriminella och statsstödda aktörer. Microsoft och OpenAI har identifierat flera statsfinansierade grupper som använder AI för att förbättra sina cyberoperationer. Dessa inkluderar grupper från Ryssland, Nordkorea, Iran och Kina, som använder AI för allt från sårbarhetsanalys till att skapa phishing-e-postmeddelanden och samla in information om specifika organisationer.
Snabb anpassning och nya risker
Den snabba tillväxten av AI har lett till både stora framsteg och oavsiktliga konsekvenser. Exempelvis har AI-drivna sökmotorer rekommenderat bedrägerisajter, och säkerhetsforskare har upptäckt sårbarheter i flera AI-applikationer. Dessutom har juridiska problem uppstått kring innehåll som används för att träna stora språkmodeller (LLMs), med påståenden om upphovsrättsintrång från författare och medieorganisationer.
Den ökande användningen av AI hos cyberkriminella innebär en betydande utmaning för säkerhetsexperter och lagstiftare. Medan AI-teknologi kan erbjuda betydande produktivitetsvinster och effektivitet, utnyttjas dessa fördelar nu av kriminella för att öka omfattningen och sofistikeringen av sina attacker. Framtida strategier måste inkludera hantering av de unika hot som AI utgör, samtidigt som teknologins positiva potential maximeras för näringsliv och samhällsnytta.
Kommentera: