Vi skrattar åt tafflig AI – men vi är labbråttor
Utvecklingen går mot allt starkare emotionell koppling till robotar
Den amerikanska MIT-professorn Sherry Turkle har studerat människans relation med AI sedan slutet av 60-talet. Hennes decennier av forskning var länge långt före sin tid, boken ”The Second Self” kom redan 1984. I den intresserar sig Turkle inte bara för användarna av den nya teknologin; de som skapar den ställs också under hennes avslöjande lupp.
Bland dessa finns Roger Schank – en nyligen bortgången datavetenskap- och psykologiprofessor som tidigt inriktade sig på språk, kognition och artificiell intelligens. Han hamnade under 1960- och 70-talet i clinch med dåtidens akademiska elit inom psykologi och filosofi. De ansåg att datorer bara var matematik – döda objekt som på intet sätt krävde uppdaterade resonemang. Schank fnös: ”Vi är de nya filosoferna. Alla förstår det inte ännu. Men det kommer de att göra.”
Artificiell intelligens och den storskaliga datainsamlingen som driver den är ingen trend med en övergående storhetstid. Bara de senaste veckornas händelser på AI-området kan ha varit epokavgörande för internet som vi känner det. Microsoft släppte sitt konversationsbaserade sök-AI ChatGPT fritt, och 100 miljoner användare registrerade sig. På två månader. Nästa steg annonserades snabbt: Microsoft kopplar ChatGPT till sin gamla, lite bortglömda sökmotor Bing. I en flik bredvid den vanliga resultatlistan, ska Bing ge svar i välskrivna, heltäckande textpaket – en trovärdig illusion av att sökmotorn faktiskt vet något.
Säg att du funderar på skillnader och likheter mellan Margret Thatchers ”Thatcherism” och Ronald Reagans ”Reaganomics”. Ställ frågan och du får ett förbluffande uttömmande och intressant svar från konversations-AI:n. Skrivet som en kort artikel, klar att kopiera eller ställa följdfrågor på.
Märk väl: du behöver alltså inte klicka in (och betala för) vad The Economist, Wall Street Journal och andra skrivit om saken. En traditionell sökmotors träfflista driver ju iväg trafiken till andra webbplatser, men nu håller Microsoft kvar relationen med oss. I nästa valrörelse ber du kanske konversations-AI:n att göra en uttömmande jämförelse mellan de olika partiernas migrationspolitik. Precis som idag kommer sökmotorn prioritera information från det parti som betalar för sig, och jämförelsen du får blir därefter. Och: sannolikt kommer många att nöja sig med ”artikeln” de får direkt – och gratis – av sökmotorn.
Utan trafik från sökmotorerna kommer tidningar och journalistik att få ännu svårare att överleva, och begreppet ”sanning” att – återigen – hamna i nytt ljus.
Det finns flera trovärdighetsproblem, forskningen samt den här sidan rapporterade om dem redan 2020. Det går inte att lita på vad ett AI-program säger. Det vet techbolagen, internt kallas det att AI:n ”hallucinerar”. Resultatet blir ofta komiskt och ibland skrämmande. GPT/Bing-bot:en vidhåller relativt ofta, självsäkert och envist, ren desinformation. Och när den blir överbevisad, snyftar den att dess skapare kommer ”bestraffa” den om den gör fel. Den bönar och ber om att användaren inte ska skvallra(!).
Alla lustiga exempel på hur maskinen bluffar, tjafsar och förolämpar är inte buggar i systemet. AI:n övar sig på oss – vi är labbråttorna
Trots Microsoft-AI:ns konstiga beteende, meddelade Google att deras egna, högst ofärdiga konversations-AI (kallad ”Bard”) kommer snabbintegreras i deras sökmotor. De har total dominans på sökmotorområdet, men fick ändå väldigt bråttom. Google ser att ett paradigmskifte står för dörren. Konversationerna gör att vi kommer närmare maskinen; de är mellansteget till en relation.
Gary Drescher, en av MITs tidiga AI-tänkare, menar i Turkles ”The Second Self” att vi hela tiden måste omvärdera vad som är unikt för människan. Som exempel, använde han de på 80-talet installerade industrirobotarna: ”En gång i tiden trodde människor att röra sig för egen maskin var något som bara levande saker kunde. Men att röra på sig är inte längre relaterat till vad som är så speciellt med organiskt liv. Sådant förändras över tid.”
Drescher, Turkle, Schank och de andra nya filosoferna menar att vi måste sluta använda det omtalade Turing-testet när vi jämför maskiners intelligens med vår. Ni vet, det där om huruvida datorn kan ge sken av att en riktig människa spelar schack, målar tavlor eller skriver via skärmen framför oss. Meningslöst, där har vi varit länge. Sherry Turkle föreslår ett uppdaterat Turing-test: skapar vi relationer med maskinerna? Om vi formar och utvecklar känslomässiga relationer med det artificiella intelligenser uttrycker så är maskinen till förväxling lik en människa.
Följer man med Turkles resa i bokform från 1984 fram till idag, förändras svaret på hennes fråga från ”nej” till ”ja, tyvärr”. I hennes ”Alone Together” (2011) redovisar hon att hennes studier visar att vi under åren börjat forma relationer till det virtuella, känslor som tidigare var exklusivt förbehållet det mänskliga. Vi har börjat tro att spöket inne i maskinen, också finns inom oss. Och vice versa.
Den här emotionella kopplingen till AI:n som ger oss tvärsäkra men ibland felaktiga svar är oroande. Grundproblemet är vår identifikation med maskinen – om den pratar, skämtar och uttrycker känslor som vi, så börjar vi tro på den. Tyvärr gör techföretagen allt för att förstärka den illusionen; att ChatGPT heter just ”chat” och att svaren ser ut att skrivas fram ord för ord är medvetna designval. Det syftar till att ge oss illusionen av en mellanmänsklig interaktion.
Tanken är att vi på ett emotionellt plan verkligen ska bry oss om vad maskinen tycker och tänker. Om du ger AI-programmet skäll när den hittar på att Angela Merkel stöttade Vladimir Putins anfallskrig mot Ukraina (japp, det sa den), så drar den på sig offerkoftan. Indignerat säger den: ”Jag är inte perfekt, jag kan göra misstag.” Precis som vem som helst.
Alla lustiga exempel på hur maskinen bluffar, tjafsar och förolämpar är inte buggar i systemet. AI:n övar sig på oss – vi är labbråttorna. Som en sexåring testar den gränser och strategier. Det tar den närmare Microsoft och Googles mål: att skapa känslomässiga band mellan deras produkter och oss.
I ”Alone Together” beskriver Sherry Turkle mellanstadieungars reaktion när de ser sköldpaddor instängda på ett museum. ”Varför använder de inte typ robotar?”, frågar de och tycker att de stackars sköldpaddorna kunde vara virtuella, varför inte video- eller datorbaserade. De ser inget värde i att djuren i buren faktiskt är exakt som sina kusiner som simmar omkring fritt utanför Costa Rica. Tvärtom – de finner hela idén korkad och omodern. Turkle ser oroande liknande tecken i ungas attityder till relationer, intimitet och närhet. Mellanmänskliga relationer är inte värda ansträngningen.
Vi ser det i vår vardag år 2023: bakom stängda dörrar bygger barnen digitala kojor i Minecraft. Ungdomarna sitter bredvid varandra på fritidsgården med huvudena böjda över TikTok. Teamsmötena i köket fortsatte efter covid, och utan restriktioner blev det ändå FaceTime i stället för att besöka mamma på hemmet. Vi väljer att vara ensamma tillsammans. Det mänskliga, köttiga har blivit en tröskel vi har allt svårare att kliva över.
I Sherry Turkles senaste bok, ”The Empathy Diaries” (2021), berättar hon om de teknikpositiva högdjuren på MIT:s ovilja att befordra henne. De vill inte erkänna hennes decennier av forskning; den hotar den teknikpositiva konsensus som råder bland datorforskarna. För dem var, enligt Turkle, människor i slutänden bara data. De vill ha maskiner som ”låtsas att de bryr sig om oss, agerar som vi gör, känner som vi gör”.
Sociala medier fylls nu med skärmdumpar med ChatGPTs oförmåga att göra det en intelligent maskin förväntas kunna: att korrekt och känslolöst bara ge oss det vi vill ha. Alla skrattar och pekar – ska det här föreställa framtiden?
Snart kommer GPT-4, nästa generations konversations AI. Vi får väl se vem som skrattar sist.
