Läcka: Skurkar kan utnyttja AI enklare än väntat

Joachim Kerpner

Ett läckt dokument från Google visar hur destruktivt AI är på väg att bli.

Skurkar kan enklare än väntat utnyttja artificiell intelligens för att lura till sig pengar.

Det beror på att textrobotar enkelt kan finjusteras av vem som helst.

Textrobotar tränade med artificiell intelligens och maskininlärning på så kallade stora språkmodeller har redan förändrat världen.

Men nu har en oförutsedd händelseutveckling inletts, som världen fått upp ögonen för tack vare ett läckt dokument från Google med titeln ”Vi har ingen vallgrav, och det har inte OpenAI heller”.

Dokumentet är skrivet av en icke namngiven Google-medarbetare, och har publicerats på många techsajter. Dokumentet utmanar de hypoteser som hittills tagits för givna om AI:s utveckling, bland annat att ett eller några få stora techföretag till slut kommer att få AI-världsherravälde.

Det stämmer inte, enligt Google-dokumentet. Även om det kostat hundratals miljoner kronor för Google, OpenAI och Microsoft att träna sina textrobotar med hjälp av stora språkmodeller, så är nästa steg i utvecklingen inte alls lika kostsamt, konstaterar tidningen The Economist.

För när textrobotarna nu blivit offentliga kan vem som helst med rätt kunskaper modifiera och finjustera dem. Och det kostar väldigt lite:

”Kraftfulla stora språkmodeller kan köras på en laptop; vem som helst som vill kan nu finjustera sin egen AI”, skriver The Economist.

Kommer inte gå att stoppa

Den här utvecklingen är både bra och dålig. Det minskar risken för en monopol-situation när det gäller textrobotar, gör det enklare för utvecklare att analysera hur AI-systemen fungerar och ökar säkerheten.

Men samtidigt blir det lättare för tjuvar och terrorister att skruva textrobotarna för sina egna syften: att lura människor med hjälp av artificiell intelligens, till exempel genom att härma din dotters röst.

”Det betyder att Västvärldens försök att stoppa fientliga regimer från tillgång till kraftfull AI-teknologi kommer att misslyckas. Och det gör det svårare att lagstadga kring och reglera AI, för nu är anden ute ur flaskan”, skriver The Economist.