EU´s nya AI lagstiftning – Allt du behöver veta
I en historisk omröstning har EU-parlamentet röstat för att införa lagstiftning kring artificiell intelligens (AI), vilket markerar ett av de första omfattande regelverken för AI i världen. Med en överväldigande majoritet på 523 röster för, 46 emot och 49 nedlagda röster har parlamentet tagit ett steg mot att reglera teknologin, i syfte att bland annat förhindra massövervakning och skydda medborgarnas personliga integritet.
Varför behöver vi en lagstiftning?
I en tid där artificiell intelligens (AI) spelar en allt större roll i våra liv, har EU tagit viktiga steg för att säkerställa att tekniken används på ett sätt som européer kan lita på. AI-teknik erbjuder enorma möjligheter men bär även med sig risker som måste hanteras för att skydda medborgare och samhälle.
Utmaningar och risker med AI
Trots att många AI-system är avsedda att ha en positiv inverkan, finns det fall där användningen av AI kan leda till oönskade konsekvenser. Ett exempel är svårigheten att förstå hur ett AI-system har kommit fram till ett visst beslut, vilket kan göra det utmanande att bedöma om beslutet är rättvist. Denna opacitet kan leda till situationer där individer missgynnas i till exempel rekryteringsprocesser eller vid ansökningar om offentliga förmåner.
AI-aktens syfte och mål
AI-akten är EU:s svar på dessa utmaningar och syftar till att skapa en trygg och rättvis miljö för användningen av AI, genom att:
– Hantera risker som specifikt skapas av AI-tillämpningar,
– Förbjuda AI-metoder som medför oacceptabla risker,
– Fastställa en förteckning över högrisktillämpningar,
– Fastställa tydliga krav för AI-system för högrisktillämpningar,
– Fastställa särskilda skyldigheter för spridare och leverantörer av AI-tillämpningar med hög risk,
– Kräva en bedömning av överensstämmelse innan ett visst AI-system tas i bruk eller släpps ut på marknaden,
– Införa efterlevnadsåtgärder efter det att ett visst AI-system har släppts ut på marknaden,
– Inrätta en styrningsstruktur på europeisk och nationell nivå.
Källa – Europeiska Kommissionen
Kategorisering av risker och reglering
Den nya lagstiftningen delar in AI-system i fyra riskkategorier:
Oacceptabel risk handlar om när AI ”anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter” och kommer vara förbjuden. Exempelvis AI-system för social poängsättning, som i dag finns i Kina.
Hög risk räknas AI-system som används i kritisk infrastruktur, utbildning, vid anställningar eller i samband med migration, asyl och gränskontroll. Dessa AI-system kommer att omfattas av ”strikta skyldigheter” innan de släpps ut på marknaden. Brottsbekämpning bedöms ligga på denna risknivå.
Begränsad risk avses exempelvis chattbotar, där ett krav är att användarna ska vara medvetna om att de interagerar med en maskin.
Minimal risk ska fri användning tillåtas, som vid AI-stödda tv-spel eller skräppostfilter.
Kravet på transparens
För AI-system som inte anses utgöra en hög risk, ställs krav på att innehåll som skapas eller ändras av dessa system tydligt ska märkas som genererat av AI. Detta omfattar ett brett spektrum av innehållstyper, inklusive text, bilder, ljud och videofiler, för att informera användarna om hur informationen har skapats.
För mer avancerade och potentiellt riskfyllda AI-system, såsom GPT-4, införs strängare regleringar utöver transparensen. Dessa system måste undergå omfattande granskningar för att identifiera och adressera eventuella risker de kan innebära. Allt misstänkt beteende eller resultat som dessa kraftfulla AI-modeller genererar måste rapporteras direkt till EU-kommissionen för ytterligare utvärdering.
Enhetlig juridiskt ramverk med andra länder
Med denna lagstiftning hoppas EU inte bara att skydda sina medborgare utan även inspirera till en global standardisering av AI-reglering. Genom att samarbeta med andra länder som arbetar på liknande lagstiftning, strävar EU efter att skapa en enhetlig juridisk ram som främjar utvecklingen av AI-teknik på ett säkert och etiskt sätt. AI-lagen förväntas träda i kraft gradvis, med full implementering planerad till 2025.
Källor
Europaparlamentet – Länk
Europeiska kommissionen – Länk
Europeiska AI byrån – Länk
Kommentera: