När AI-revolutionen river barriärer – står skolan fast i sina gamla ramar

Publicerad av Skolbiblioteksresursen - Monica Nilsson-Ehrenstråle
0

Smittade chatbotar

Publicerad av Skolbiblioteksresursen - Monica Nilsson-Ehrenstråle



Inte nog med att vi människor måste se upp så att vi inte blir smittade av olika virus som kan infektera oss. Våra AI botar riskerar också att bli infekterade!

Organisationen Newsguard, som spårar desinformation, rapporterar att flera ledande AI-chattbotar har blivit infekterade med rysk propaganda från det ryska nätverket Pravda. Open AI:s Chat GPT, X AI:s Grok, Mistrals Le Chat, Microsofts Copilot, Googles Gemini och Anthropics Claude – alla konstateras att de upprepat falsk information från det ryska nätverket.  Nätverket tros ha producerat 3,6 miljoner desinformationsartiklar förra året, vilket påverkat AI-modellernas innehåll. Enligt Newsguard skapades Pravda för att manipulera AI, men detaljer om de enskilda botarnas resultat har inte offentliggjorts.

Tänkvärt att ta upp med eleverna och diskutera i klassen. Kanske kan några av följande diskussionsfrågor ge tänkvärda insikter till eleverna.

AI:s sårbarhet för desinformation och ansvar

  1. Kan AI-chattbotar verkligen "smittas" av propaganda, eller fungerar det på ett annat sätt?
  2. Hur tror ni att AI-modeller lär sig och påverkas av den information de får tillgång till?
  3. Vem bär ansvaret när AI sprider desinformation – företagen bakom modellerna, de som matar in felaktig information, eller användarna?

Desinformationens påverkan

  1. Hur kan propaganda påverka AI-användare och samhällen i stort?
  2. Varför tror ni att någon skulle vilja manipulera AI-modeller med desinformation?
  3. Vilka konsekvenser kan det få om elever, lärare eller journalister använder AI som källa utan att granska informationen?

Källkritik och AI

  1. Vad kan vi göra för att upptäcka och hantera desinformation i AI-genererat innehåll? På vilket sätt kan vi praktiskt använda AI på ett kritiskt och medvetet sätt?
  2. Kan vi lita på att AI-företagen löser problemet, eller måste användarna själva vara extra vaksamma?

.......


McKenzie Sadeghi, & Isis Blachez. (2025, March 6). A well-funded Moscow-based global “news” network has infected Western artificial intelligence tools worldwide with Russian propaganda. Newsguardrealitycheck.com; NewsGuard’s Reality Check. https://www.newsguardrealitycheck.com/p/a-well-funded-moscow-based-global

‌


Kommentarer

Skicka en kommentar