En övergripande studie publicerad i Behavioral Science & Policy identifierar sju specifika roller som generativ AI spelar i informationsmiljön — och som visar att samma teknologi som kan bekämpa desinformation också kan förstärka den.
Bakgrund och metod
Forskargruppen, ledd av professor Thomas Nygren vid Uppsala universitet, tillsammans med kollegor vid University of Cambridge och University of Western Australia, har granskat den senaste forskningen om hur generativ AI används inom olika delar av informationsmiljön. För att undvika alltför breda påståenden om att "AI är bra" eller "AI är farligt" valde forskarna ett SWOT-ramverk — styrkor, svagheter, möjligheter och risker — för varje roll.
De sju rollerna
Forskarna identifierade sju återkommande mönster och sammanfattade dem i rollerna: informerare, väktare, övertygare, integrerare, samarbetspartner, lärare och speldesigner.
Informeraren kan göra komplex information mer tillgänglig och översätta stora mängder innehåll, men riskerar att ge felaktiga svar och reproducera snedvridningar från träningsdata.
Väktaren kan i stor skala upptäcka och flagga misstänkt innehåll och identifiera koordinerade kampanjer, men riskerar felbedömningar när ironi, kontext eller legitima kontroverser inte tolkas rätt.
Övertygaren kan korrigera missuppfattningar genom dialog och personliga förklaringar, men exakt samma kapacitet kan användas för microriktad påverkan och storskalig produktion av vilseledande budskap — ofta snabbt och billigt.
Integreraren kan strukturera diskussioner, sammanfatta argument och stödja gemensamt problemlösande, men riskerar att skapa falsk balans eller normalisera fel genom en skenbart neutral syntes.
Samarbetspartnern kan stödja analys, skrivande och idéutveckling, men riskerar att leda till kognitiv outsourcing där användaren inte inser att svaret bygger på osäkra antaganden.
Läraren kan ge snabb, individanpassad återkoppling och skapa träningsuppgifter i stor skala, men felaktiga eller snedvridna svar riskerar att spridas som studiematerial om elever och lärare okritiskt accepterar AI-genererat innehåll.
Speldesignern kan stödja skapandet av interaktiva, spelifierade lärmiljöer som tränar motståndskraft mot manipulation, men riskerar att förenkla komplexa frågor till stereotyper eller belöna fel beteenden om designen inte är genomtänkt.
Det dubbla hotet
Generativ AI kan producera övertygande manipulationer som är svåra att upptäcka och snabbt kan spridas i stor skala — samtidigt som samma teknik kan upptäcka och motverka desinformation i stor skala. Den s.k. övertygare-rollen är ett tydligt exempel: AI kan korrigera missuppfattningar genom personliga förklaringar, men exakt samma kapacitet kan användas för microriktad påverkan och storskalig produktion av vilseledande budskap.
Risker som lyfts fram
Forskarna pekar särskilt på tre tekniska och samhälleliga risker:
- Hallucinationer — att AI presenterar felaktiga påståenden som fakta
- Förstärkning av fördomar inbyggda i träningsdata
- Kognitiv outsourcing — att användare okritiskt litar på AI-svar och därigenom blir mer sårbara för manipulation
Vad forskningen kräver
Forskarna understryker behovet av regler och tydliga ramverk för tillåten AI-användning i känsliga informationsmiljöer, transparens kring AI-genererat innehåll, mänsklig tillsyn vid beslut och moderering, samt AI-litteracitet som stärker användarnas förmåga att kritiskt granska AI-svar.
En varning om utbildning
Nygren betonar att generativ AI kan vara värdefull för att främja demokratisk kunskap i skolan, men att överdriven användning riskerar att hämma kunskapsutvecklingen och göra elever och lärare lata och okritiska — och därmed mer lätturade.
Själv känner jag risken av den kognitiva utarmningen som ett av de största problemen när det gäller AI. Hur latheten sipprar in hos oss människor som gärna tar den lättaste genvägen. Och hur språkmodellerna tar över med sin förmåga att med ord förtrolla och sätta guld på de resultat som blir av våra taffliga försök. Vilket gör att deras alster framstå som så mycket bättre än våra och att vi därför lämnar över med en känsla av att vi inte duger. Vår egen kreativitet stryps och i - som vi tycker och förminskar vår egen kreativa
Nygren, T., Spearing, E. R., Fay, N., Vega, D., Hardwick, I. I., Roozenbeek, J., & Ecker, U. K. H. (2026). The seven roles of generative AI: Potential & pitfalls in combatting misinformation. Behavioral Science & Policy. https://doi.org/10.1177/23794607261417815
Kommentarer
Skicka en kommentar