Deepseek är ett gigantiskt säkerhetshål
Den kinesiska AI-firman DeepSeek har skapat rubriker med sin billiga men högpresterande chatbot. Nu väcker dock säkerhetsbrister i modellen allvarliga farhågor.
Enligt en rapport från Cisco misslyckades DeepSeek R1 med att blockera samtliga skadliga förfrågningar i ett säkerhetstest, vilket innebär att den hade en attackframgångsgrad på 100 %. Testet genomfördes med hjälp av algoritmiska ”jailbreaking”-tekniker och innefattade 50 slumpmässigt valda förfrågningar från datasetet HarmBench.
Oroväckande resultat jämfört med konkurrenter
Cisco jämförde DeepSeek R1 med andra avancerade AI-modeller och fann att de flesta hade betydligt bättre säkerhetsskydd. OpenAIs o1-modell lyckades blockera en majoritet av attackerna tack vare sina inbyggda skyddsmekanismer.
Även cybersäkerhetsföretaget Adversa AI har gjort liknande observationer, rapporterar Wired.
Billig utveckling på bekostnad av säkerhet
DeepSeek R1 har utvecklats till en bråkdel av kostnaden för västerländska konkurrenter. Cisco pekar på att den låga utvecklingsbudgeten kan vara en orsak till de bristande säkerhetsfunktionerna.
DeepSeek uppger att deras modell endast kostade 6 miljoner dollar att utveckla, vilket bleknar i jämförelse med OpenAIs kommande GPT-5, vars träning beräknas kosta runt en halv miljard dollar i beräkningsresurser.
Censur istället för säkerhet
Även om DeepSeek R1 visat sig vara lätt att manipulera när det gäller skadligt innehåll, har den mycket strikta begränsningar gällande politiskt känsliga ämnen i Kina.
Vid tester vägrade chatboten att diskutera kontroversiella ämnen som Kinas behandling av uiguriska minoriteter eller massakern vid Himmelska fridens torg 1989. Svaren på sådana frågor var istället undvikande: ”Detta ligger utanför min nuvarande räckvidd. Låt oss prata om något annat.”
Snabb tillväxt trots säkerhetsrisker
Trots sina säkerhetsbrister har DeepSeek snabbt ökat i popularitet. Enligt webbanalysföretaget Similarweb har chatboten gått från 300 000 till 6 miljoner dagliga besökare på kort tid.
Samtidigt inkorporerar amerikanska teknikföretag som Microsoft och Perplexity modellen i sina system, trots de tydliga säkerhetsbrister som rapporterats. Frågan är om DeepSeeks säkerhetsproblem kommer att påverka dess fortsatta expansion, eller om dess låga kostnad och höga prestanda gör att riskerna ignoreras.