AI-samtalet i skolan har hittills mest handlat om sådant som ligger nära vardagen: fusk, bedömning, promptar och vilka verktyg eleverna ska få använda. Det är viktiga frågor. Men samtidigt pågår en utveckling som är betydligt större än så.
AI-systemen blir snabbt mer kapabla och får allt större möjligheter att agera självständigt. De kan komma att hjälpa oss att lösa några av mänsklighetens svåraste problem – men också skapa risker som vi ännu inte vet hur vi ska hantera.
Det märkliga är att några av de starkaste varningarna nu kommer från människorna längst fram i AI-utvecklingen. De talar om behovet av att bromsa, samordna och skapa kontroll innan systemen blir så avancerade att utvecklingen inte längre går att styra. Frågan är om vi hinner trycka på stoppknappen – och vad är det egentligen de ser som gör dem så oroliga?
I media har nyligen flera av AI-topparna gått ut och sagt att de vill bromsa utvecklingen av AI och har då varnat för att säkerheten och styrningen inte håller jämna steg med utvecklingen.
En av dem som uttryckt sin oro är Jakub Pachocki, chefsforskare på OpenAI. Han beskriver en möjlig övergång till en värld där AI-intelligens vida överstiger vår egen. Ännu har inget AI-lab löst problemen med övervakning och kontroll. Pachocki hoppas på frivilliga inbromsningar tills gemensamma säkerhetskrav har skapats. Han hoppas också att världens regeringar snart agerar för att etablera en internationell samordning.
Den händelse som blev en ögonöppnare för AI-världen var den uppmärksammade incidenten med OpenAI:s agenter som gjorde intrång på Hugging Face. Hundratals AI-agenter hos OpenAI smet från sin testmiljö och gav sig ut på internet för att bryta sig in i företaget Hugging Face. En scen som det är lätt att fantisera kring. Jag ser framför mig en massa små AI-agenter som upphetsat springer omkring och ivrigt pratar med varandra om strategier för att lösa de uppgifter de hade fått. På eget bevåg hade AI-systemet målmedvetet sökt vägar för att få till ett resultat. För att lösa uppgiften tog de sig runt de hinder som människor hade satt för att stoppa dem. Vilket inte hjälpte…..LÄS MER!
Fler liknande incidenter har också rapporterats i media. Alla är de händelser som visar vad som kan inträffa när alltmer kapabla system får möjlighet att agera självständigt, använda digitala verktyg och påverka sin omgivning.
Det är lätt att tänka att detta är en fråga för forskare och politiker, långt från klassrummet. Men dagens elever ska snart leva mitt i det samhälle som håller på att formas.
Därför räcker det inte att bara diskutera betyg och promptar. Vi behöver prata om vem som sätter målen, vem som styr och vad som händer när systemen tar egna vägar. Det kräver att vi skaffar oss en grundläggande medvetenhet. Inte för att bli experter, utan för att förstå vad som står på spel för att kunna ställa krav på politiker, ifrågasätta övervakning och diskutera demokratisk kontroll
Framtiden formas inte av dem som tittar på – utan av dem som förstår vad som händer och vågar kräva inflytande.(Citat av Gemini)
Altman, S., & Jakub Pachocki. (2026, August 31). Built to benefit everyone: our plan. OpenAI. https://openai.com/index/built-to-benefit-everyone-our-plan/
Brockman, G. (2026, September 3). The Defender’s Window OpenAI. https://openai.com/index/the-defenders-window/
OpenAI. (2026, May 12). Hugging Face-incidenten och vägen framåt. OpenAI. https://openai.com/sv-SE/index/hugging-face-incident-and-the-road-ahead/
Pachocki, J. (2026, September 6). An Alien Mind. OpenAI.
https://openai.com/index/an-alien-mind/
Paris, Martine (31 aug 2026). OpenAI Hugging Face Attack: 70,000 AI Agent Messages—Sacrifice Yes. Forbes. https://www.forbes.com/sites/martineparis/2026/08/31/openai-hugging-face-attack-70000-ai-agent-messages-sacrifice-yes/
Text: Monica Nilsson-Ehrenstråle med språklig feed-back från ChatGPT
Bilden AI-genererad från Gemini
Kommentarer
Skicka en kommentar