Vad ska vi göra åt rasistiska datorer?
Vi lever i algoritmernas tid. De är nätets ansiktslösa makthavare och ju fler minuter vi lägger på datorer, smarta telefoner och surfplattor desto mer är vi i deras våld.
Information är makt.
En algoritm är en samling matematiska instruktioner, ett recept om man så vill, som man matar in i en dator för att den ska göra något.
Vissa instruktioner kan få en robot att baka sockerkaka, andra att spela upp musik i en viss ordning, en tredje att skicka luftvärnsrobotar.
Algoritmer styr vad du hittar på Google, vilka nyheter du läser på Facebook, vem du träffar via dating-appar och vilken reklam du ser. En osynlig hand som sorterar och strukturerar de våra liv.
Risk för återfall
Till slut kan man undra vem som egentligen styr vem.
Och svaret är nog inte riktigt vad vi vill höra.
Algoritmer används ofta av myndigheter som stöd för att fatta beslut. I USA utnyttjas exempelvis algoritmen Correctional Offender Management Profiling for Alternative Sanctions, eller "Compas" för att bedöma om brottslingar riskerar återfall.
Tanken från myndigheterna var att öka rättsäkerheten genom mer objektiva beslutsunderlag.
Men tji fick dem.
Förra åter gick journalister igenom 12 000 fall i Florida och upptäckte något intressant.
Hemligt innehåll
Svarta bedömdes ha betydligt större risk att återfalla än vita jämfört med verkliga återfall. Algoritmen var inte objektiv, den var rasist.
Vad ingen riktigt lyckas förstå är hur den blev det.
Men den troligaste förklaringen är att informationen som algoritmen bygger på, enkätsvar från brottslingar, information från myndigheter, bostadsadresser och sociala kontaktnät tillsammans pekar i en viss riktning.
Vi kan bara gissa, för algoritmens innehåll är hemligt.
Även militärt används algoritmer i allt högre utsträckning. De är nyckeln till det som ibland kallas "autonoma vapensystem" eller mördarrobotar.
Ett autonomt vapensystem är programmerat för en viss uppgift som att flyga drönare, skjuta ner missiler eller blixtsnabbt reagera på ett nytt hot.
Totalt autonoma system, som är helt oberoende av människor, ligger i framtiden men utvecklingen är på väg i den riktningen.
Artificiell intelligens
Följdfrågan blir då rimligen när vi tappar kontrollen?
Frågan har hemsökt världslitteraturen sedan Victor Frankenstein byggde och "programmerade" sitt monster i Mary Shelleys Frankenstein från 1818.
Hans algoritm hade så att säga vissa brister.
Men bortom fiktionen finns verkliga problem. Särskilt med utvecklingen av artificiell intelligens krävs att det finns regler och varningssystem på plats.
Vi måste sluta se utvecklingen som en naturlag och börja programmera in någon form av etik bland alla ettor och nollor. För datorer kan inte tänka kritiskt.
Elaka datorer?
Eller som Tage Danielsson skaldade i dikten "Om datorns eventuella elakhet" från 1975:
"De tänker som herrar, kristallklart och kallt.
Sån herre, sån hund. Och det värsta av allt:
Hur storvulna planer de än mäktar välva
ifrågasätter de aldrig sig själva".