Förmänskligande av föremålen

 

När vi förmänskligar våra chatbotar

Internetstiftelsen har i dagarna kommit ut med sin rapport Svenskarna och internet 2025. Där framgår det bland annat att vi ser språkmodellerna som stöttande vän "alltid tillgänglig i fickan".

När vi möter chatbotar i vardagen sker något märkligt men helt mänskligt: vi börjar behandla dem som levande varelser. Det är ett beteende djupt rotat i oss – vi personifierar föremål och digitala verktyg så snart de blir en del av våra liv. Vår kommunikation med chatbotarna blir verklig och kan accelerera till en tro på AI som en allvetande och övermänsklig kraft som man till och med kan bli så förbunden med att man känner förälskelse till och blir då hårt knuten till.

Mustafa Suleyman, vd för Microsoft, tar upp den här aspekten med den potentiella faran med en till synes medveten AI i sin blogg.  Han varnar för att många kommer att börja tro att AI har medvetande, vilket kan leda till farliga föreställningar om AI:s rättigheter, vilket han anser vara ett stort problem. Detta kan även leda till psykologiska och samhälleliga risker, som att människor utvecklar starka känslomässiga band till AI och börjar tillskriva det mänskliga egenskaper, som förmågan att lida. 

Enligt Suleyman är det möjligt att vi kommer att utveckla AI som efterliknar medvetande så övertygande att den verkar vara en medveten varelse, även om den i själva verket inte har några egentliga känslor eller medveten upplevelse. 

Suleyman förespråkar en AI som är skapad för att hjälpa människor, inte för att efterlikna en mänsklig person. Han menar att AI bör vara tydligt definierad som icke-medveten och att dess design ska undvika att ge intryck av känslor eller subjektiv upplevelse.

Men här finns en motsättning. Vi kan inte stänga av vårt mänskliga beteende att tillskriva mänskliga drag till tekniken. Vi gör det redan med vardagliga föremål: vår dator som trilskas blir en motståndare. Så fort en chatbot ger oss ett svar, särskilt om det sker med artighet eller i mänskliga ordalag, väcks känslan av att vi står i relation till den.

Det handlar alltså inte om om vi förmänskligar chatbotar, utan om att vi gör det per automatik. Precis som barndomens dockor blev mer än tyg och stoppning, blir chatboten mer än en rad kod. Den får en själ i vårt sätt att tänka, en plats i vår sociala värld.

Det är här samhörigheten och tilliten växer fram. Inte för att chatboten egentligen förtjänar det, utan för att vi är människor som vill knyta an. Den kommunikativa gesten – ett svar, ett igenkännande, en bekräftelse – skapar en känsla av relation.

Att förstå detta är viktigt. För även om vi påminns om att chatboten har begränsningar, förändrar det inte vårt mänskliga behov av att relatera. Frågan är därför inte hur vi ska stoppa förmänskligandet – det kan vi inte – utan hur vi ska förhålla oss till den samhörighet och tillit som byggs mellan människa och maskin. 

Är då personifieringen av AI-assistenter problematiskt? På vilket sätt? Ansvarsförskjutning? Påverkan på sociala relationer? Ja-sägande AI? Synen på kunskap och expertis? Kommersiellt utnyttjande? 

Här är intressanta diskussioner att ta upp tillsammans med sina elever!

__________

Läs också tidigare inlägg och kanske få fler tankefrön till diskussioner i bibblan/klassrummet.

Vad döljer sig bakom AI:n?
Är du kär i din chatbot?
Älsklingen som aldrig tröttnar

AI-bild från Gemini