Det växande AI-sopberget växer när vi slutar att läsa källorna

En artikel i DN beskriver ett experiment där forskaren Almira Osmanovic Thunström skapade ett påhittat ögontillstånd, ”bixonimania”, för att testa hur felaktig information sprids och tas upp av AI. Ett ord som låter som en medicinsk diagnos – men som aldrig har existerat. 

Almira publicerade fejkade studier med tydliga varningstecken – påhittade forskare, universitet och till och med formuleringar som avslöjade att allt var uppdiktat. Men trots det så dröjde det inte länge innan stora AI-modeller började använda begreppet som om det vore verkligt. Forskare hann också citera de fejkade studierna -  vilket tyder på att både AI och forskare ibland använder information utan att kontrollera källorna ordentligt.

Från forskningsfusk till politiskt underlag

Det är frestande att se detta som ett isolerat problem i dagens AI-präglade samhälle. Men samma mönster återkommer i helt andra sammanhang – även där konsekvenserna är betydligt mer konkreta.

När Camilla Waltersson Grönvall och den nationella samordnaren Thomas Ardenfors presenterade förslag om den sociala barn- och ungdomsvården tidigare i år, byggde delar av underlaget på referenser som visade sig inte existera. 

Promemorian ”Samling runt barnet” fick dras tillbaka efter att Regeringskansliet upptäckt ”fel i referenserna”. En granskning visade att:

• Rapporter som tillskrevs Myndigheten för familjerätt och föräldraskapsstöd inte fanns.
• Hänvisningar till Riksrevisionen och Statskontoret ledde till helt andra dokument – eller inga alls.
• Vetenskapliga studier hade fel titlar, författare eller tidskrifter.

Vad förenar en AI-modell som hittar på en ögonsjukdom och ett regeringsunderlag med felaktiga referenser?

Ett arbetssätt.

Vi ser en växande kultur där texter byggs genom att plocka, sammanställa och återanvända – utan att någon går till källan. Referenser blir dekor snarare än grund. De signalerar trovärdighet, men bär den inte.

Det är lätt att föreställa sig hur det går till:

En formulering hämtas från en rapport.
En referens kopieras vidare från en annan text.
Ett citat återanvänds – utan att originalet kontrolleras.

Och så fortsätter det.

Lapp på lapp. Men ingen söm.

Till slut cirkulerar påståenden som ingen riktigt kan spåra. De låter vetenskapliga. De ser korrekta ut. De passar in.

Men de är inte förankrade.

Det är frestande att skylla på AI. Och visst förstärker tekniken problemet: språkmodeller är tränade på stora mängder text där just denna typ av slentrianmässig referenshantering förekommer. De är, som Osmanovic Thunström visade, bättre på att sammanställa än att granska.

Men AI avslöjar snarare ett redan existerande beteende.

När en statlig promemoria innehåller referenser som inte finns, handlar det inte om algoritmer. Det handlar om mänskliga genvägar.

En utmaning för skola och vetenskap

För skolan innebär detta en skärpt uppgift. Källkritik kan inte reduceras till att identifiera avsändare eller kontrollera datum. Den måste också handla om praktik: att faktiskt läsa det man hänvisar till.

För forskarsamhället är utmaningen ännu mer grundläggande. Om referenser används utan kontroll riskerar hela den vetenskapliga infrastrukturen att försvagas. Förtroendet för publicerad kunskap bygger på att någon faktiskt har gjort arbetet – läst, förstått och prövat.

Vad står på spel?

När referenser blir en formalitet snarare än ett ansvar öppnas dörren för något farligare än slarv.

Då kan felaktig information etableras som sanning. 
Då kan felaktig information byggas vidare och osynligt smälta in i ett AI-system och bli till en sanning som annan information i sin tur bygger vidare på.
Då kan beslut fattas på bräcklig grund.
Då kan aktörer med egna intressen plantera narrativ som ser ut som forskning. 

Och då räcker det inte längre att fråga vad som står i texten. 
Vi måste fråga: 

Vem har faktiskt läst den? 

_______

Kindblom, F. (2026, April 16). Forskare hittade på sjukdom – sedan började chattbotarna ställa diagnoser. DN.Se. https://www.dn.se/sverige/forskare-hittade-pa-sjukdom-sedan-borjade-chattbotarna-stalla-diagnoser/

‌Ewald, H. (2026, March 19). Regeringen drar tillbaka rapport – hänvisar till studier som inte finns. DN.Se. https://www.dn.se/sverige/regeringen-drar-tillbaka-rapport-hanvisar-till-studier-som-inte-finns/

‌

AI-genererad bild av Gemini