AI-företag föreslår ’personlighetsintyg’ för att bekämpa AI
Forskare från Microsoft och OpenAI, tillsammans med andra aktörer, har föreslagit användningen av ”personlighetsintyg” som ett verktyg för att motverka bedrägeri och vilseledande information online. Enligt Shrey Jain, produktchef på Microsoft, utnyttjar illvilliga aktörer anonymitet för att lura andra online, och AI gör det allt enklare och billigare att skapa innehåll som är omöjligt att skilja från mänskligt genererat material.
Personlighetsintyg som lösning
Som en lösning på dessa utmaningar har Microsoft, OpenAI och ett flertal akademiska forskare föreslagit personlighetsintyg (PHCs). Dessa intyg fungerar som kryptografiskt autentiserade identifierare som ges till individer som anses vara legitima. Till skillnad från traditionella digitala certifikat är PHCs avsedda att vara pseudonyma för att skydda användarnas integritet.
En forskningsartikel, med fler än 30 författare från bland annat Harvard, MIT och Oxford, beskriver konceptet. Personlighetsintygen är tänkta att skydda användarnas integritet genom att vara icke-länkbara och svåra att spåra över olika tjänster. Trots detta medger forskarna att PHCs inte kan skydda mot den omfattande övervakning som redan finns online.
Teknisk implementering och möjliga användare
PHCs föreslås som en ramverk snarare än en specifik teknisk lösning, där olika organisationer kan erbjuda dessa intyg. Exempelvis skulle amerikanska delstater kunna utfärda PHCs till personer med ett skatteidentifikationsnummer, med eller utan biometrisk koppling.
Forskarna uttrycker oro för att internet inte är tillräckligt förberett för de utmaningar som AI kan medföra. Utan proaktiva åtgärder från allmänheten, regeringar och teknologer riskerar digitala institutioner att vara oförberedda när AI-baserade agenter används av illvilliga aktörer.
Kritik mot förslaget
Jacob Hoffman-Andrews, senior teknolog vid Electronic Frontier Foundation, beskriver förslaget som ”vilt dystopiskt”. Han varnar för att regeringars historiska oförmåga att rättvist tilldela sådana intyg kan leda till att vissa människor förnekas sin röst online. Dessutom påpekar han risken för att PHCs skulle kunna bli ett verktyg för regeringar att kontrollera vem som får yttra sig på nätet, särskilt i länder där regeringar har intresse av storskalig desinformation.
Utmaningar att övervinna
Författarna till forskningsartikeln erkänner att det finns utmaningar med PHCs, såsom att säkerställa rättvisa, stödja yttrandefrihet och undvika att ge för mycket makt till ekosystemets deltagare. Det krävs också att systemen är robusta mot attacker och fel.
Trots de utmaningar som återstår syftar PHCs till att minska storskaliga bedrägerier samtidigt som de skyddar användarnas integritet och civila friheter.
Kommentera: