När känslorna blir en trojansk häst

Som skolbibliotekarier vet vi hur starkt berättelser påverkar oss. Just därför blir man bekymrad över hur sociala medier allt oftare fylls av AI-skapade bilder och texter. De är inte där för att informera – utan för att väcka känslor och styra våra klick.

Källkritikbyråns Jonathan Lundberg visar hur flera stora svenska Facebooksidor i själva verket styrs av en vietnamesisk reklambyrå, BeeUp – en så kallad klickfabrik. 

Under sommaren spreds gripande inlägg på svenska: gråtande sjuksköterskor, hjältar som offrat allt, och hundvalpar som ber om våra gilla-markeringar. Bakom fasaden dolde sig AI-genererade bilder och texter, som i sin tur ledde vidare till klicksajter fyllda med annonser. BeeUp driver över 1 600 Facebooksidor med omkring 10 miljoner följare och rekryterar innehållsskapare som är skickliga på att använda AI för att locka till engagemang. Låg produktionskostnad innebär hög vinst per klick.

Det är en växande industri, där många snarare ser det som en sport än som fusk: att lura algoritmerna och tjäna pengar på vilseledande innehåll blir ett slags bevis på att man är smart nog att överlista jättar som Meta.

Samtidigt har Meta dragit ner på sina modereringsteam och avslutat flera faktagranskningsprogram. Enligt branschanalytiker är det också ett politiskt spel – ett sätt att blidka de röster som länge hävdat att moderering innebär censur av konservativa åsikter. Resultatet blir en explosion av så kallat AI-slop: känsloladdat, men helt fabricerat innehåll.

Plattformarna bär ett tungt ansvar för att faktiskt följa sina egna policyer, men vi som användare måste också förstå att det finns en global industri som livnär sig på att vilseleda oss.

Och här kommer skolan in. Vi behöver prata med våra elever om det här. Hur känns det när man möter en sådan bild? Varför är det så svårt att låta bli att reagera? Och vad kan det få för konsekvenser om vi delar vidare utan att tänka efter?

Informationspåverkan i dag kommer ofta i förklädnad av något gulligt, sorgligt eller hjärtevärmande alternativt förfärande och upprörande. Men samma nätverk kan snabbt börja sprida konspirationsteorier och desinformation. Vårt uppdrag blir därför att hjälpa eleverna se förbi de där vädjande AI-förvrängda bilderna – innan de förvandlas till en perfekt fejkad verklighet.

-------

Lundberg, J. (2025, August 25). Vietnamesisk klickbetesfabrik bakom sommarens svenska AI-bluffar. Källkritikbyrån. https://kallkritikbyran.se/vietnamesisk-klickbetesfabrik-bakom-sommarens-svenska-ai-bluffar/

‌