Risk att vi tappar kontrollen över AI? Det har redan hänt
”Artificiell intelligens innebär en större förändring än eld eller elektricitet”, sa Googles vd Sundar Pichai i veckan.
Ni kan vara lugna. Det här är inte ännu en text om ChatGPT och den innehåller inga tvärsäkra profetior om vad AI kommer eller inte kommer betyda för mänskligheten.
Är det någon slutsats man kan dra av Homo Sapiens 150 000 år på jorden är det ju att utvecklingen tar vägar som inte går att förutse. Linjen från historiens första lägereld till en ensam yngling i en lägenhet iförd VR-headset och chipsflottig t-shirt är trots allt inte spikrak.
”Här kommer 1970-talet – har Svensson en chans?” är titeln på ett tv-inslag från 1969 som finns på SVT:s Öppet Arkiv.
Det handlar om 60-talets digitala revolution och hur den utgjorde ett framtida hot mot den personliga integriteten. Eftersom vi pratar om kylskåpsstora pjäser med datorkraft motsvarande en miljondels Iphone är det lätt att småle åt den bekymrade tonen. Men premissen – att det där med ”data” kommer bli en jättegrej – var ju minst sagt korrekt.
I slutet av 2017 slogs världen med häpnad när Googles AI Alphazero lyckades besegra världens bästa schackdator efter att på bara 24 timmar ha lärt sig spelet på egen hand. Jag befann mig då i Silicon Valley och träffade en AI-forskare på Berkeley-universitetet som erkände att han blivit smått chockad av nyheten.
En annan Berkeley-profil inom AI, Eliezer Yudkowsky, varnade redan då för farorna.
När ett antal tech-kändisar, däribland Elon Musk, i mars skrev ett öppet brev där de uppmanade till att pausa all utveckling av avancerad AI avfärdades det av vissa som överdriven skrämselpropaganda. Eliezer Yudkowsky var inte med bland undertecknarna, inte för att han ansåg att författarna förstorar upp faran med AI utan för att de gravt underskattar problemet.
I ett eget brev framhåller han att forskare kan skapa en AI som är mer intelligent än människan utan att ens förstå det själva.
Teoretiskt skulle man kunna programmera all AI att tycka om människor, men enligt Yudkowsky vet vi ännu inte hur det skulle gå till. Det går inte ens att avgöra om en AI utvecklat ett ”medvetande”. Att OpenAI, företaget bakom ChatGPT, har som ambition att utveckla en AI som ska hjälpa oss att förse framtidens AI med ”rätt” värderingar borde vara anledning till panik, enligt Eliezer Yudkowsky.
Hans egen prognos är föredömligt rakt på sak: alla människor kommer dö. Hur då? Yudkowsky pekar på att det är fullt möjligt att digitalt skicka DNA-information till labb som börjar producera biologiskt material som i sin tur kan bli nya livsformer, farliga för människan.
Det kan låta skrattretande hysteriskt. Men vem kan med hundraprocentig övertygelse säga emot? Det är just att utvecklingen är omöjlig att förutse som är själva problemet, menar Eliezer Yudkowsky.
När djuren första gången såg de där svaga varelserna på två ben ta kontroll över elden viftade de säkert också bort det till en början. Nu kan de nog hålla sig för skratt. Fråga bara chimpanserna på Furuvik.
I debatten om AI finns ett felaktigt antagande, att människor via det politiska systemet har någon slags makt över utvecklingen. Idag kontrolleras den mest kraftfulla AI:n av en handfull privata techjättar som Google, Microsoft och Facebook.
Den andra supermakten på området är det icke-demokratiska Kina. Där används redan AI för fullt i kommunistpartiets viktigaste långtidsprojekt: att förhindra ett uppror mot kommunistpartiet. Automatiserade övervakningssystem och insamling av data för att avgöra vilka som kan behöva ”skolas om” i läger finns redan.
För några veckor sedan genomförde forskare i kinesiska Wuhan ett experiment där en AI under 24 timmar gavs full kontroll över en satellit och själv valde ut olika platser att titta närmare på. Den fastnade enligt tidningen South China Morning Post för olika militära mål, varför kunde forskarna inte förklara. Låter betryggande.
Var detta slutar vet ingen. Men AI är inte science fiction utan redan vardag, vilket succén för ChatGPT visat. Att AI kommer förenkla i tillvaron råder det ingen tvekan om.
Människorna bakom SVT-programmet från 1969 kunde nog inte ana hur rätt de skulle få när det gällde integriteten, idag övervakas varje steg vi tar av Apple, Google och Facebook. Men en forskares slutsats i slutet av programmet känns, trots att den har över 50 år på nacken, kusligt aktuell.
”Det är så stora positiva värden av den här utvecklingen att det är svårt att tänka sig, för att inte säga omöjligt, att den stoppas”.
Löpa risken att utrotas eller leva ett bekvämare liv? För den moderna människan tycks valet inte vara helt givet.