Ökad spam på Facebook: AI-genererat innehåll tar över flödet

Samhälle och politikÖkad spam på Facebook: AI-genererat innehåll tar över flödet

Ökad spam på Facebook: AI-genererat innehåll tar över flödet

Om du nyligen har stannat upp inför ett märkligt foto i ditt Facebook-flöde är du inte ensam. Många användare som tidigare besökte Facebook för att hålla kontakten med vänner och familj klagar nu över att slumpmässigt, spam-liknande innehåll — ofta skapat av artificiell intelligens — dyker upp i deras flöden.

Bilder som uppenbart är AI-genererade, som den nu ökända ”Shrimp Jesus”, och gamla inlägg från verkliga skapare som delas om av botkonton för engagemang, är vanliga. I andra fall delar sidor strömmar av till synes ofarligt men slumpmässigt innehåll, såsom memes eller filmklipp, som dyker upp varannan timme.

AI spam bild ”Schrimp Jesus”

Spam kan användas för att manipulera

Detta spam är mer än bara en irritation; det kan även utnyttjas i bedrägliga syften. Vissa spam-sidor verkar vara utformade för att lura användare, och i extrema fall kan dessa sidor som vinner följare användas av exempelvis utländska aktörer för att skapa splittring inför val, enligt experter på oäkta beteenden online.

Facebooks strategiändring bakom förändringen

Den här ökningen av spam sammanfaller med en medveten strategiändring hos Facebook de senaste åren. Efter kritik för att ha bidragit till valmanipulation och verkligt våld minskade företaget fokus på aktuella händelser och politik. Inspirerade av TikToks underhållningsfokus designade Facebook om sina användarflöden till en ”upptäcktsmotor” i hopp om att få användare att engagera sig med innehåll de annars kanske inte skulle se.

Den här pushen för mer ”upptäckbart” innehåll har lett till en algoritm som ofta lyfter fram ytligt, vilseledande eller AI-genererat innehåll.

AI-genererat innehåll fyller flöden

AI-genererade eller återanvända memes har dykt upp på Facebooks kvartalsvisa lista över mest visade innehåll. Inlägg med uppenbart AI-genererade bilder och förvirrande bildtexter får ibland tusentals likes, kommentarer och delningar. Illasinnade aktörer och ”engagement farmers” är snabba med att fylla Facebooks efterfrågan på nytt innehåll, och de senaste AI-verktygen gör det enklare än någonsin att snabbt skapa stora volymer av falska bilder och texter.

Meta: Så här arbetar vi mot spam

Facebooks moderbolag Meta arbetar för att minska spridningen av spam och säkerställa en positiv användarupplevelse. Meta uppmuntrar skapare att använda AI-verktyg för att producera innehåll av hög kvalitet som följer gemenskapens standarder. De agerar även mot de som försöker manipulera trafik genom oäkta engagemang, oavsett om de använder AI eller inte, enligt talespersonen Erin Logan.

Vad kan göras mot AI-spam?

Med AI-verktyg behöver illasinnade aktörer inte längre många personer för att snabbt skapa stora mängder falskt innehåll — tekniken gör det åt dem. För Facebook skulle det vara utmanande att identifiera alla AI-genererade bilder som laddas upp varje dag utan att göra misstag, särskilt i en tid då teknologin utvecklas så snabbt. Meta har också minskat sina resurser för att hantera falskt innehåll, vilket gör att de i högre grad förlitar sig på automatiserade moderationssystem som kan manipuleras.

Kommentera:

Kommentar

Type at least 1 character to search
Kontakta oss:
Hitta oss i sociala medier: