AI-bilder normaliserar sexövergrepp på barn
Debattörerna: Det vi fruktade har blivit verklighet
Detta är en debattartikel. Det är skribenten som står för åsikterna som förs fram i texten, inte Aftonbladet.
Publicerad 2023-08-16
DEBATT. Nyligen fälldes en man för första gången i svensk domstol för att ha försökt skapa barnpornografiska bilder med hjälp av AI-teknik. Det många av oss fruktat har blivit verklighet – med hjälp av tekonologins framsteg skapas AI-genererade sexuella övergrepp mot barn.
En del anser att AI-genererade bilder som visar sexuella övergrepp på barn är mindre skadliga, eftersom det inte rör sig om verkliga barn. Men vad händer med utsatta barns möjlighet att identifieras i tid, när polisen tvingas lägga resurser på att urskilja datagjorda och verkliga övergrepp?
Enligt Europeiska unionens byrå för samarbete inom brottsbekämpning (Europol) sprids redan en stor mängd dataanimerade sexuella övergrepp mot barn, och de varnar för att riktiga offer riskerar att missas när animerade men verklighetstrogna bilder sprids.
I samband med domen varnade också svensk polis för att de kan komma att få problem med att skilja verkliga från animerade barn, och att barn som faktiskt blir utsatta inte hinner prioriteras.
Ända sedan internets början har efterfrågan på och spridningen av dokumenterade sexuella övergrepp mot barn ökat drastiskt. Så kallade ”barnpornografibrott” har visat sig svåra att stoppa, vilket till stor del beror på att bilderna är enkla och billiga att producera, och i och med internet har de dessutom blivit lättillgängliga.
AI-teknikens framfart innebär att både produktionen och spridningen riskerar att öka ännu mer, med dataanimerat material som säljs och köps i olika pedofilnätverk.
Det råder stora brister i moderering på hemsidor där övergreppsmaterial sprids och Ecpat varnar också för att förövare i krypterade forum tipsar varandra om hur de bäst samarbetar för att lära sig utnyttja tekniken.
Vi är många som är eniga om att dokumentation av sexuella övergrepp mot barn är en fruktansvärd handling och ett avskyvärt brott, som skapar långvariga trauman hos de barn som utsätts.
Nu pågår en diskussion om huruvida dataanimerade sexuella övergrepp ska innefattas av barnpornografibrottet och många är oense kring hur rigid lagstiftningen bör vara.
I dagsläget skapar oklarheter kring juridiskt ansvar och bristande ansvarsutkrävning en frizon där förövare snabbt kan sprida dataanimerat material.
Enligt Internet watch foundation menar forskare att dataanimerat sexuellt våld mot barn utgör lika stor skada som verkligt sexuellt våld: det spär på förövarens attraktionsmönster och ökar risken att begå ett verkligt övergrepp.
Fantasier om grövre och grövre våldshandlingar möjliggörs nu också genom AI-teknik. Det bidrar till en normerande effekt där dokumenterade sexuella övergrepp mot barn normaliseras och neutraliseras.
Teknikföretag har en nyckelroll i att förhindra spridningen AI-genererade bilder som visar sexuella övergrepp på barn. De måste utveckla och implementera effektiva verktyg för att upptäcka och ta bort dem från sina plattformar, och det måste ske nu.
Det räcker inte med att tillsätta mer resurser till polisens identifierande arbete, teknologin kommer alltid hinna före. Om inte hotet tas på allvar kan det få förödande konsekvenser för utsatta barn.
Ida Östensson, generalsekreterare ChildX
Zandra Kanakaris, generalsekreterare 1000 Möjligheter
Maria Näslund, verksamhetschef Treskablinoll
Cecilia Bödker Pedersen, generalsekreterare Storasyster
Lena Morin Nilsén, generalsekreterare nxtME
Hermine Holm, generalsekreterare Rise
Selma Koso, generalsekreterare Föreningen Paraply.org
Häng med i debatten och kommentera artikeln – gilla Aftonbladet Debatt på Facebook.