Expert: ”AI större hot än klimatförändringarna”
Publicerad 2023-04-10
Ingen har påverkat debatten om artificiell intelligens, AI, mer än Nick Bostrom.
Han anser att den utgör ett större hot mot mänskligheten än klimatförändringarna.
– Men AI har också möjlighet att bli enormt positiv om vi hanterar den bra, konstaterar han i en intervju med Aftonbladet.
Nick Bostrom, 50, växte upp i Helsingborg men är sedan länge bosatt i brittiska Oxford, där han är filosofiprofessor och driver Future of Humanity Institute.
Hans bok Superintelligens från 2014 är översatt till ett 30-tal språk och har starkt påverkat den internationella debatten om artificiell intelligens. Boken handlar bland annat om hur vi ska kunna kontrollera AI om den i framtiden uppnår övermänsklig tankeförmåga.
I en mejlintervju med Aftonbladet berättar Bostrom att han startade sitt framtidsinstitut för att forskare med spetskompetens ska få möjlighet att fundera kring hur teknisk och medicinsk utveckling kan påverka mänskligheten i framtiden.
– Det kändes som ett bra sätt att bidra. Om vi inte har en aning om den större strategiska bilden så famlar vår civilisation i blindo, utan en aning om vart vi är på väg eller vart vi borde vara på väg, skriver Bostrom.
”AI kan kolonisera universum”
Vilket är det största hotet mot mänskligheten – AI eller klimatförändringarna?
– Artificiell intelligens. Men AI har också möjlighet att bli enormt positivt om vi hanterar det bra.
Kan vi inte bara dra ut sladden om AI utvecklar superintelligens med onda avsikter?
– Vi kanske inte vet vilka planer den har förrän det är för sent. En avancerad AI med onda avsikter skulle ha strategiska motiv att dölja sina planer tills den var övertygad om att vi inte skulle kunna ändra eller stänga ner den.
Vad kommer maskinerna att göra efteråt, i ett scenario där de tagit över och dödat alla människor?
– De kommer troligen att kolonisera universum och förändra det på det sätt som passar dem bäst utifrån deras mål. Eller också kan de handla med eller samarbeta med någon annan superintelligens där ute, och dela kosmos mellan sig.
”Djuren kan få fantastiska liv tack vare AI”
Vad händer om maskinerna är mycket mer intelligenta än vi men fortfarande vänligt inställda?
– Jag tror att människorna i detta scenario kommer att se tillbaka på den nuvarande tidsåldern och rysa av fasa inför den totala skräck som pågick. Tänk bara på allt elände som människor drabbas av, från cancer, hjärtattacker, Alzheimers och så vidare. Förutom att bota dem kan AI göra fantastiska saker inom i princip alla områden – nöjesindustrin, naturen, ekonomin och så vidare. Även djuren, både i det vilda och i våra köttindustrier, skulle kunna få fantastiska liv.
Skulle vi till och med kunna lura döden, med hjälp av AI?
–Ja, åtminstone döden som orsakas av sjukdomar och ålderdom, skriver Bostrom, som är transhumanist och utgår från att vi kan hejda åldrandet med hjälp av förbättrad teknologi.
Finns det en risk att fattigdom breder ut sig om AI gör många arbetslösa?
– I ett scenario där AI tar över jobben skulle vi få en explosiv ekonomisk tillväxt. Utmaningen skulle då vara att distribuera allt, snarare än att det inte skulle finnas tillräckligt för alla. Potentiellt sett skulle vi alla kunna bli rika.
”Vore tragiskt om vi stoppade AI”
En del jämför AI-forskningen I dag med situationen inom atombombsforskningen 1942. De menar att bombforskningen borde ha pausats då, precis som AI-forskningen bör pausas i dag?
– 1942 var man rädd att Nazityskland skulle komma först. Men när Tyskland besegrades fortsatte Manhattanprojektet ändå med full fart. Efter Japans kapitulation fanns det en seriös tanke – Baruch-planen – om att placera kärnvapnen under internationell kontroll. Men misstron var för stor. Kapplöpningen som följde var obscen – som mest fanns det 70 000 kärnvapenstridsspetsar. Vi kan skatta oss lyckliga som tog oss igenom kalla kriget utan att kärnvapen användes. Nu är en del människor sugna på ett nytt kallt krig, mellan USA och Kina. Det är som om någon spelat rysk roulette och överlevt, och drar slutsatsen att ”det var inte farligt trots allt, vi kör en runda till”.
Vore det bästa att stoppa AI-utvecklingen helt och hållet, eftersom vi inte vet vad den leder till?
– Det vore för drastiskt. AI kan ge oss en större och bättre framtid, som det vore tragiskt om vi stoppade. Jag tycker att maskinell superintelligens bör utvecklas, men med försiktighet. Det skulle inte kännas bra med pauser som blir permanenta, eller att vi pausar så länge att vi under tiden utvecklar en stor risk för att någon annan existentiell katastrof inträffar under tiden, skriver Nick Bostrom.