AI gör som vi säger – inte som vi menar

Vi sitter redan på tåget. Det rör sig snabbt, snabbare än vi riktigt hinner förstå, och det finns ingen tydlig nödbroms. Samtidigt matar vi systemet med instruktioner, frågor, önskningar – övertygade om att det vi säger också är det som uppfattas. Men tänk om det inte är så? Tänk om vi, mitt i vår iver att använda AI, har missat något avgörande: att den inte förstår vad vi menar – bara vad vi säger.

Det var när jag läste en tankeväckande text av Anders Bjarby som den insikten landade på allvar. Bjarby, svensk ingenjör och AI-innovatör, rör sig ständigt i framkanten av den praktiska och kreativa användningen av generativ AI som utbildningsverktyg och AI-skapade ljuddramer. I sin text använder han en gammal allegori – den om anden i lampan – för att visa hur farligt nära vi är att göra samma misstag som i sagorna.

Anders artikel är en allegori som lyfter fram människans eviga strävan efter att hela tiden vilja ha mer. En strävan som lätt hamnar fel och utanför den önskade riktningen. Anders plockar fram exemplen från gamla kända sagor där någon gnider på en magisk lampa och släpper ut en magisk ande som kan göra precis som vi vill. Vi önskar men i vår formulering förmänskligar vi anden och tror att den fattar vad vi menar - även om orden inte riktigt fullt ut omfattar vår önskan. Inte för att anden är ond. Utan för att den är exakt. Den gör precis det som sägs – inte det som menas. Anders skriver: "Anden delar ingen kontext. Den har ingen erfarenhet av att vara människa. Den har en instruktion."

Precis som vi idag kommunicerar med våra språkmodeller - med bristande kunskap i att egentligen uttrycka vad vi vill med våra önskningar.

Anders skriver: "Gör mig rik" förutsätter att den som lyssnar vet vad rikedom innebär för en fiskare. Att det inte innebär döda barn. Att det inte innebär att allt man rör vid förvandlas. Att det innebär mer fisk, kanske en bättre båt, kanske frihet från oro. Tusen outtalade gränsvillkor som ingen människa skulle behöva formulera, för att varje människa redan förstår dem.

Anden förstår dem inte. Algoritmen förstår dem inte. Och vi har ännu inte hittat ett sätt att specificera dem."

AI-utvecklingen går i rasande fart. Vi sitter redan på tåget och kan inte stiga av. I sagorna finns möjlighet att ångra sin önskan och ta tillbaka allt i den tredje önskningen. Anders frågar: Har vi byggt in en tredje önskning?

Anders skriver: "Kung Midas bad om att allt han rörde vid skulle bli guld. 
Midas kunde be om att guldet försvann. Vad ber vi om, om vi upptäcker att vi formulerat fel önskning? 

Koden bygger sig själv nu. Modellerna designar nästa generations modeller. Systemen förbättras snabbare än vi hinner utvärdera förbättringarna. "

Är vi som Nick Boström skriver i sin bok Superintelligence små barn som leker med en bomb och är naivt omedvetna om att smällen kommer?

Diskussionen kring AI:s intelligens, värdegrund, säkerhet, öppenhet, mål och syfte m m är viktig att föra - i samtalen med varandra, i offentlig debatt, men också - väl så viktigt - i våra samtal med våra elever.

Vi, som skolbibliotekarier och lärare, har en viktig uppgift i att hjälpa elever att förstå vad det innebär att kommunicera med något som saknar mänsklig erfarenhet. Att formulera sig med precision. Att tänka ett steg till. Att inse att ord inte bara är ord – utan instruktioner med konsekvenser.

Vi får inte det vi menar.
Vi får det vi säger.

______

Bjarby, A. (2026). Den tredje önskningen. Linkedin.Com. https://www.linkedin.com/pulse/den-tredje-%C3%B6nskningen-anders-bjarby-i7xaf/?trackingId=eB8Na%2Bc4ySNCZ%2B02JuIVHQ%3D%3D

‌AI-bild med Gemini