ChatGPT:s pålitlighet ifrågasätts – Inte i linje med GDPR

Juridisk AIChatGPT:s pålitlighet ifrågasätts – Inte i linje med GDPR

ChatGPT:s pålitlighet ifrågasätts – Inte i linje med GDPR

Sedan lanseringen av ChatGPT har användningen av denna chattbot ökat dramatiskt. ChatGPT används för olika ändamål, från läxlösning till forskningsuppgifter. Enligt OpenAI genererar applikationen svar genom att förutsäga de mest sannolika orden som skulle kunna följa på en användares fråga. Problemet är att det inte finns något sätt att garantera att informationen som ChatGPT ger faktiskt är korrekt. Denna typ av generativa AI-verktyg är kända för att regelbundet ”hallucinera”, det vill säga att de hittar på svar.

Juridiska krav på korrekthet

I EU är kraven stränga när det gäller korrekthet i personuppgifter, något som är fastställt i Artikel 5 i GDPR. Individer har också rätt till rättelse enligt Artikel 16 i GDPR om informationen är felaktig och kan begära att felaktig information raderas. Detta innefattar också rätten till tillgång enligt Artikel 15, där företag måste kunna redogöra för vilken data de har om individer och dess källor.

OpenAI:s utmaningar med GDPR

Maartje de Graaf, dataskyddsadvokat på NOYB (förkortning för None of your business), påpekar att det är problematiskt när falsk information om individer genereras. OpenAI har inte kunnat visa att de kan göra ChatGPT kompatibel med EU:s dataskyddslagar när det gäller behandling av individdata. Om systemet inte kan producera exakta och transparenta resultat, bör det inte användas för att generera data om individer.

Specifika fall och brister

Enligt en rapport från New York Times ”uppfinnar chatbotar information minst 3 procent av tiden – och upp till 27 procent”. Detta inkluderar felaktiga uppgifter om individers födelsedagar, vilket ChatGPT har gett felaktigt svar på upprepade gånger. Trots felaktigheten i datan som ChatGPT tillhandahållit om en klagandes födelsedatum, har OpenAI vägrat att rätta eller radera uppgifterna, och argumenterat att det inte var möjligt att korrigera datan.

Åtgärder och framsteg

NOYB har nu lämnat in en begäran till den österrikiska dataskyddsmyndigheten (DSB) för att utreda OpenAIs databehandling och de åtgärder som vidtagits för att säkerställa noggrannheten i den persondata som behandlas. Man begär också att DSB ska kräva att OpenAI följer den klagandes begäran om tillgång och att de anpassar sin behandling enligt GDPR.

Kommentera:

Kommentar

Type at least 1 character to search
Contact us:
Find us elsewhere: