Vi har lärt elever att vara kritiska mot innehåll. Men digital kompetens handlar inte bara om att granska information – utan också om att förstå hur mycket information tekniken samlar om oss och hur den kunskapen kan användas. Ju mer intelligent och personligt anpassad tekniken blir, desto viktigare blir det att vi också utvecklar vår egen digitala medvetenhet. En allt viktigare del av den digitala kompetensen blir därför att förstå relationen mellan människa och AI: inte bara vad AI säger, utan också vad AI vet om oss – och vad den kunskapen kan användas till.
Samtidigt som AI lär sig allt mer om oss börjar vi överlåta allt mer till AI. Den kan minnas våra tidigare samtal, sammanfatta våra tankar, hjälpa oss att formulera oss och fortsätta där vi slutade. Det kan vara en fantastisk hjälp – men det väcker också frågor om vårt eget minne, vårt tänkande och vårt omdöme. Vad händer med oss när tekniken både känner oss allt bättre och samtidigt tar över allt fler av de kognitiva uppgifter vi tidigare gjorde själva? Vad händer när AI minns mer om oss – samtidigt som vi själva behöver minnas mindre?
Det är frågor som elever behöver få möjlighet att fundera över. Här nedan finns några förslag att diskutera tillsammans.
Frågor att fundera vidare tillsammans med eleverna
- Hur väl känner informationssystemet dig?
Vad händer när en AI känner oss bättre än många människor gör? När den vet hur vi tänker, vad vi oroar oss för, vad vi drömmer om och vilka argument som brukar övertyga oss?
- Hur vet du om en AI hjälper dig eller försöker påverka dig?
Tekniskt sett handlar det om att ge bättre svar. Men samma kunskap skulle också kunna användas för att påverka oss. Om en AI vet exakt vilken ton, vilka ord och vilka exempel som fungerar bäst på just dig, blir gränsen mellan hjälp och påverkan mindre självklar.
Om en AI anpassar sig exakt efter dig – hur vet du om den hjälper dig eller försöker påverka dig? När blir AI:s anpassning till dig en fördel – och när kan det bli ett problem? Vad är skillnaden mellan att en lärare eller vän anpassar hur de förklarar något för dig och att ett AI-system gör det? Är det lättare att påverka någon när man vet mycket om personen?
- Vad gör AI med ditt eget tänkande?
En annan fråga gäller vårt eget minne.
Vad händer med ditt eget minne, din kunskap och ditt omdöme om AI alltid minns, sammanfattar och tänker vidare åt dig?
Om AI alltid kommer ihåg åt oss – våra anteckningar, våra projekt, våra tidigare resonemang – finns en risk att vi gradvis överlåter en del av vårt eget tänkande. Minnet är inte bara ett arkiv. Det är också en del av hur vi utvecklar kunskap, erfarenhet och omdöme. Kanske är den viktigaste frågan inte hur mycket AI kommer att minnas – utan hur mycket av vårt eget tänkande vi kommer att lämna ifrån oss.
SE även tidigare inlägg När AI börjar lära känna dig
Kommentarer
Skicka en kommentar