Så uppfann AI både mig och mitt nya förlag
Ingen ska tro att källkritik biter på den nya desinformationen
Eftersom sol är så ohyggligt överskattat, tillbringade jag förra sommarens varmaste vecka i källaren. En bok om vår digitala samtid skulle ha ett omslag, så jag roade mig med att låta bild-AI:n MidJourney ta fram det. Men sedan gick jag all in: Vad händer om jag låter artificiell intelligens skapa själva förlaget också?
Så jag bad text-AI:n GPT-3 (numera populär som text-boten ChatGPT) ge ett namn till förlaget. Snabbt spottade den ur sig namnet ”Mödelstein & Letzing” med tillhörande bakgrundshistoria. Förlaget, som är medlem i Svenska Förläggareföreningen, grundades av Carl Mödelstein och Bo Letzing. Efter en schism mellan grundarna har Carl och hans fru, Petra Mödelstein, tagit över. (Plot twist: Petra är dessutom Bo Letzings dotter!) Intressant, sa jag – berätta nu om vilka författare förlaget har, förutom Mattias Beijmo?
Då hittade AI:n på författarna Eva Austermann-Hinnes och Knut Anagrius. AI:n gav dem biografier och bibliografier. Austermann-Hinnes novellsamling ”The Anatomy of Tonight” från 2010 och hennes ”The Good Heart” förtjänar särskilda omnämnanden; den senare skrev AI:n till och med ihop ett kapitel till.
Mattias Beijmo presenterades såklart också. Född 1952 växte han upp i efterkrigstidens Sverige som det femte av sex syskon. Hans böcker på förlaget är ”Du är som en vårdag” (2006), ”Salamanderns sång” (2010) samt en bok om Nils Fjällströms liv kallad ”Ingen i parken”. Han har belönats med poesipriset ”De nio maskrosorna”.
Efter jag fyllt på med deepfake-bilder på författarna, bad jag en annan AI-tjänst skapa en webbplats med texterna om förlaget och författarna. Sagt och gjort – modelsteinletzing.com var online efter någon timme. Så googlar man på Eva Austermann-Hinnes och Knut Anagrius så kan man nu fördjupa sig i dessa författares verk. Och på Wikipedia kan man läsa om Mattias Beijmos biografi över Nils Fjällströms liv. När jag nyligen skulle hålla ett föredrag, introducerade moderatorn mig med texten hon uppenbarligen hittat på Wikipedia.
Desinformation är inte misinformation. Det förstnämnda är den medvetet falska informationen, det andra är sådant vi sprider vidare i tron att det är sant. Att folk nu sprider AI:ns omedvetna lögner om den drygt 70-årige prisbelönte poeten är antagligen inget hot mot demokratin. Men jag har – i strikt undersökande syfte – lyckats få samma AI att producera trovärdig bullshit om att Angela Merkel inte fördömer Rysslands attack på Ukraina. Och mycket, mycket annat.
Jag går in på Wikipedia och skäms; självklart ska jag plocka bort mitt trams
Karl Rove, senior rådgivare till George W. Bush, ska ha sagt att supermakter inte behöver förhålla sig till fakta och verklighet: ”Vi är ett imperium nu, och när vi agerar skapar vi vår egen verklighet.” Detta var 2004, och snart 20 år senare är imperiets möjligheter tillgängliga för alla.
Häromveckan läckte ett internt memorandum på Google. Under rubriken ”Vi har ingen vallgrav” varnar en senior utvecklare för att vem som helst med en sysslolös kväll och en bra laptop kan träna och experimentera med språkmodeller lika bra som Googles egna. Den typ av språkmodeller Google och Microsoft haft kontroll över har blivit open source – öppna att använda för egna syften. Open source-utveckling är svårslaget; med diversifierad och frivillig arbetskraft över hela världen kan specialiserade AI:n utvecklas väldigt snabbt. Men hastigheten kommer med risker; vägen till ett desinformationslabb i var mans kök är kort. Att få desinformationen att bli misinformation är sedan en baggis. Twitterkonton att automatisera kostar några få dollar styck – googla ”aged twitter accounts” så ser du själv. Generativa AI:n kommer påverka det demokratiska klimatet i kommande riksdagsval. I andra länder ser vi nästa fas.
Jevgenij Prigozjin, chef över Wagner-gruppens legosoldater i Ukraina, grundade Internet Research Agency – en organisation specialiserad på produktion och spridning av pro-rysk desinformation. Tidigare har trollfarmen varit mycket kompetens- och resurskrävande, men nu minskar behovet av programmering och det mänskliga arbetet att producera trovärdiga lögner.
En AI-baserad programvara kan konstant spotta ur sig innehåll, inte minst riktat till den egna befolkningen; opinionen på hemmaplan är Putins värsta fiende. Men desinformationen handlar inte nödvändigtvis om att få människor att tro på något specifikt. En bättre taktik kan vara att få befolkningen sluta tro på någonting alls. Att med hjälp av AI-producerade bilder och video ”muddy the waters”, skapa konspirationer om allt och alla. För när vi inte längre tror på något, slutar vi utforska, protestera, demonstrera och rösta.
Studier visar att den ryska skolan saknar användbar internet- och mediekunskap. Såväl kunskapsmässiga som praktiska verktyg undanhålls eleverna. Om den unga befolkningen inte förstår den nya manipulativa medielogiken, tror de att allt som skärmen visar är sant.
Resultatet kan man exempelvis se i SVT:s intervju med den ryske drönarpiloten och krigsinfluencern Michail Lutjin. Soldaterna tror verkligen att de slåss mot en kabal av grymma, homosexuella EU-nazister som angripit Ryssland. Man skrattar och ryser på samma gång. Skönt ändå att liknande lögner såklart aldrig kan få fäste hos unga rekryter här i Sverige. I morgon ska de ju läsa en bok om källkritik i skolan! Puh. Vi kan lugnt återgå till ”Anne på Grönkulla” tills barnen – och vi – somnar om.
Jag går in på Wikipedia och skäms; självklart ska jag plocka bort mitt trams. De obetalda men nitiska wikipedianernas motstånd mot laviner av AI-producerad desinformation förtjänar enorm respekt. På annat håll avslöjar en kanadensisk yngling ryska desinformationsvideos med hjälp av open source-verktyg. Bevisen för Putins krigsbrott kommer till stora delar från frivilliga. De har metodiskt använt tekniska verktyg för att avslöja Wagnergruppens attacker på civila, bortförklarade av de ryska AI-trollens lögner. Hoppet lever.
Björn Wiman skrev förtjänstfullt i DN om framtiden. Att den – trots allt – aldrig är förutbestämd, men att det kräver att vi tar tillbaka fakta, tillit och mänskliga rättigheter. Jag instämmer, men det kräver agens. En förmåga och möjlighet som går förlorad samma stund som vi alienerar oss, avfärdar eller blundar för de krafter som släppts lös.
Om vi inte tyglar draken äter den upp oss.
