Elon Musk har rätt, det är dags för en AI-paus

Det handlar om mycket mer än om fusk på provet

Peter Gustavsson

Aftonbladets ledarsida är oberoende socialdemokratisk.

Säga vad man vill om Elon Musk, särskilt om hur han gjort Twitter till sin egen högerradikala lekstuga. Men ledaren för elbilsföretaget Tesla och rymdbolaget SpaceX är knappast en motståndare till ny teknik.

Så det finns skäl att lyssna när han och tusentals andra ledande inom techvärlden uttrycker oro för artificiell intelligens (AI) i ett öppet brev från 29 mars.

Musk och de andra undertecknarna, som Apples medgrundare Steve Wozniak och svenske MIT-fysikern och AI-forskaren Max Tegmark, menar att utvecklingen måste pausas. Annars kanske det inte finns en mänsklighet som kan ”njuta av en blomstrande framtid med AI”.

Undertecknarna vill få ett stopp på det race mellan labb och företag som nu pågår för att ta fram allt smartare AI. Ett stopp i stil med det förbud mot kloning av människor som införts i många länder.

Ny, ännu smartare AI ska inte få lanseras förrän regleringar finns på plats. Som myndigheter med översikt över labben och produkterna, och regelverk för vem som ska betala för alla skador som AI kommer orsaka.

Artificiell intelligens har fascinerat och skrämt människor i århundraden. I Mary Shelleys ”Frankenstein” från 1818 bringar en forskare liv i likdelar under ett åskväder, och skapar ett monster som han tappar kontrollen över.

Sedan dess har gestaltningarna blivit fler och fler av en framtid där maskinerna löper amok eller helt tar över. Filmer som ”Blade Runner”, ”Terminator”, ”Matrix” och ”Westworld” har gjort frågan bekant för miljontals tittare.

Samtidigt har Isaac Asimovs bok ”I, Robot” från 1950 inspirerat många att tänka på hur programmen kan skrivas så de inte vänder sig mot sina skapare. Men hur gör man sådana system vattentäta? Exempelvis om ett program konstaterar att bästa sättet att genomföra sin uppgift är att förslava eller utplåna hela mänskligheten.

Under de senaste åren har allt bättre prototyper fascinerat deltagare på teknikmässor, och använts i begränsat format. Men den 30 november 2022 skrällde det till på allvar.

Då lanserade företaget OpenAI en chattbot som kan användas av vem som helst, med tillgång till stora delar av mänsklighetens samlade kunskaper och förmåga att omsätta dem i skriven text

ChatGPT har öppnat mångas ögon för hur AI-tekniken kan underlätta våra liv och hjälpa till att lösa problem. Så till den grad att skolor världen över fick problem med elever som lät AI:n lösa matteprovet eller skriva uppsatsen.

Det har gjort frågorna högaktuella, här och nu. Som det formuleras i det öppna brevet:

”Ska vi låta maskiner översvämma våra informationskanaler med propaganda och osanning? Ska vi automatisera bort alla jobb, inklusive de som ger tillfredställelse? Ska vi utveckla icke-mänskliga hjärnor som så småningom kan bli fler och smartare än oss, göra oss onödiga och ersätta oss? Ska vi riskera att förlora kontrollen över vår civilisation?”

Många av undertecknarna leder själva techföretag, men konstaterar att frågorna inte kan delegeras till icke-valda företagsledare. För i grunden handlar det om vår demokrati.

Vi kan snart passera en punkt där inte de som skapat AI:n själva kan stoppa utvecklingen. Innan debatten ens riktigt kommit igång utanför kretsen av techbolag och science fiction-nördar.

När Google startade övervägde man alternativ för hur sökmotorn skulle finansieras. I stället för att sälja prenumerationer, valde man att den skulle få sina intäkter genom annonser.

Så fick vi ett system där den som betalar mest syns mest. Ett upplägg som andra techjättar sedan kopierade. Och nu tjänar de sina pengar på att sälja rätten att manipulera våra sinnen till högstbjudande.

Om du inte betalar, så är det du som är varan.

Idag arbetar såväl EU som den amerikanska kongressen med att reglera techjättarna. Men först efter att extremrörelser utnyttjat algoritmerna till att skapa den polarisering som är deras livsluft.

Med god hjälp av ryska trollfabriker.

AI-utvecklingen kan få ännu mer ödesdigra följder. Så det är bättre att tänka efter före. Enligt Max Tegmark har systemen redan rekommenderat folk att skilja sig och uppmuntrat ungdomar att begå självmord.

Jag bad ChatGPT att ge mig de bästa motargumenten till resonemangen i den här artikeln. Svaret kom sekundsnabbt:

”Att stoppa utvecklingen av artificiell intelligens kan hämma den fortsatta teknologiska utvecklingen och hindra samhället från att dra nytta av fördelarna som AI-teknologin kan erbjuda.

Det kan också vara svårt att dra en gräns för vad som räknas som "för smart" AI och att stoppa utvecklingen kan öka risken för att andra länder eller organisationer fortsätter att utveckla AI-teknologin utan att ta hänsyn till etiska aspekter.

Istället bör fokus ligga på att utveckla etiska ramverk och regleringar som säkerställer att AI-teknologin används på ett ansvarsfullt sätt och gynnar mänskligheten.”

I filmatiseringen av ”I, Robot” från 2004 spelar Will Smith en polis i ett fiktivt 2035, som är skeptisk till hur robotarna tagit över alltmer av vardagslivet. ”Kan en robot skriva en symfoni? Kan en robot förvandla en målarduk till ett vackert mästerverk?” frågar han en av robotarna.

Robotens svar gör Will Smith svarslös: ”Kan du?”.

Hade filmen spelats in idag hade nog robotens svar blivit: ”Ja”.