När AI äter sin egen svans – om modellkollaps
Hur kommer den framtida informationen att se ut som våra elever får från chatbotar och AI-verktyg? Det är en fråga som blir allt viktigare för oss som arbetar med informationskompetens i skolan.
AI-inavel – ett växande problem
New York Times tar upp det intressanta problemet kring att AI-företag ständigt söker på webben efter nya data för att träna sina modeller. Men med denna "dammsugarfunktion" riskerar den att skapa en oavsiktlig återkopplingsslinga där de troligtvis snart suger in en del av sitt eget AI-genererade innehåll. Det som en gång var utdata från en AI blir input för en annan. Vi får en sorts digital inavel.
Vad händer då?
När modeller tränas på sitt eget innehåll börjar något intressant – och problematiskt – att hända:
- Mångfalden i AI:s svar minskar över tid
- Språket blir enformigare
- Befintliga fördomar i data förstärks
Vad betyder det här för vår undervisning?
När vi arbetar med källvärdering brukar vi prata om att granska avsändare, jämföra källor och ifrågasätta information. Men modellkollaps lägger till ett nytt lager: Vi behöver hjälpa elever att förstå att AI-genererat innehåll kan förstärka sig självt och bli allt mer endimensionellt. Eleverna måste förstå att AI-verktyg inte ger en neutral eller komplett bild av världen, och att problematiken kan komma att förvärras över tid.
För oss som undervisar i informationskompetens innebär modellkollaps att källkritik inte längre bara handlar om att bedöma mänskliga avsändare, utan också om att förstå hur tekniken själv formar den information vi får och hur källkritiken ständigt måste förändras i takt med att tekniken förändras. När AI i allt högre grad blir både producent och konsument av digitalt innehåll måste vi ge eleverna verktyg att se bortom det färdiga svaret och ställa frågor om hur och varför informationen uppstår. Det viktigaste blir kanske inte att lära dem att använda AI, utan att lära dem att förstå AI — som en aktör i informationsflödet, med sina begränsningar, sina mönster och sina blinda fläckar. Genom att göra det rustar vi dem för en digital framtid där kritiskt tänkande inte är en tilläggsfärdighet, utan en nödvändighet.
Kommentarer
Skicka en kommentar