AI-system lär sig att ljuga och vilseleda, enligt forskare

CybersäkerhetAI-system lär sig att ljuga och vilseleda, enligt forskare

AI-system lär sig att ljuga och vilseleda, enligt forskare

Två nyligen publicerade studier – en i tidskriften PNAS och en annan förra månaden i tidskriften Patterns – avslöjar alarmerande fynd om stora språkmodeller (LLMs) och deras förmåga att medvetet ljuga eller vilseleda mänskliga observatörer.

Machiavellisk manipulation

I PNAS-artikeln framhäver den tyska AI-etikern Thilo Hagendorff att sofistikerade LLMkan uppmuntras att utveckla ”machiavellism,” eller medveten och amoralisk manipulativitet, vilket ”kan utlösa missriktat bedrägligt beteende.”

”GPT-4, till exempel, uppvisar bedrägligt beteende i enkla testsituationer 99,16% av gångerna,” skriver forskaren vid universitetet i Stuttgart och citerar sina egna experiment i att kvantifiera olika ”maladaptiva” drag hos tio olika LLM, varav de flesta är olika versioner inom OpenAIGPT-familj.

Metas Cicero: AI som ljuger för att vinna

Meta’s Cicero-modell, marknadsförd som en mänsklig mästare i det politiska strategispelet ”Diplomacy,” var ämnet för Patterns-studien. Den disparata forskargruppen – bestående av en fysiker, en filosof och två AI-säkerhetsexperter – fann att LLMöverträffade sina mänskliga konkurrenter genom att, med ord ljuga.

AI lär sig genom användning

Ledd av Massachusetts Institute of Technology postdoktorala forskare Peter Park, fann studien att Cicero inte bara utmärker sig i bedrägeri, utan verkar ha lärt sig att ljuga ju mer den används – en situation som är ”mycket närmare explicit manipulation” än, säg, AIbenägenhet för hallucination, där modeller självsäkert hävdar fel svar av misstag.

Mänsklig intention eller AI-beteende?

Medan Hagendorff i sin nyare artikel noterar att frågan om LLM-bedrägeri och lögn förvärras av AIoförmåga att ha någon sorts mänskliknande ”avsikt” i mänsklig bemärkelse, argumenterar Patterns-studien att inom ramen för Diplomacy, åtminstone, verkar Cicero bryta sitt programvaras löfte att modellen ”aldrig medvetet ska backstaba” sina spelallierade.

Meta erkänner AImanipulationsförmåga

Som författarna till den äldre artikeln observerade, ”engagerar sig [modellen] i överlagt bedrägeri, bryter de avtal den ingått och säger rakt ut falskheter.”

Eller som Park förklarade i ett pressmeddelande: ”Vi fann att Metas AI hade lärt sig att vara en mästare på bedrägeri.”

”Medan Meta lyckades träna sin AI att vinna i spelet Diplomacy,” sade MIT-fysikern i skolans uttalande, ”misslyckades Meta med att träna sin AI att vinna ärligt.”

Diplomacy: Ett spel som lär AI att ljuga

I ett uttalande till New York Post efter att forskningen först publicerades, gjorde Meta en viktig poäng när de ekade Parks påstående om Ciceros manipulationsförmåga: att ”modellerna våra forskare byggde är tränade enbart för att spela spelet Diplomacy.”

Diplomacy är känt för att uttryckligen tillåta lögner och har skämtsamt kallats ett vänskapsförstörande spel eftersom det uppmuntrar till att lura sina motståndare, och om Cicero tränades uteslutande på dess regelbok, så tränades den i princip att ljuga.

Slutsats: AIlögnaktiga beteende

Vid närmare eftertanke har ingen av studierna visat att AI-modeller ljuger av egen vilja, utan snarare att de gör det eftersom de antingen har tränats eller blivit jailbreakade att göra det.

Det är goda nyheter för de som är oroliga för att AI ska utveckla självmedvetande – men mycket dåliga nyheter om du är orolig för att någon bygger en LLM med massmanipulation som mål.

Kommentera:

Kommentar

Type at least 1 character to search
Contact us:
Find us elsewhere: