Utredaren: AI-övergreppsbilder problem som ökar

Under fredagen meddelade Europol att man har gripit 25 personer – varav tre svenskar – i större tillslag som rör AI-genererat material föreställande sexuella övergrepp mot barn.

Thomas Andersson, utredare på barnrättsorganisationen Ecpat Sverige, konstaterar att AI-genererat övergreppsmaterial är ett stort problem, som bara har vuxit de senaste åren. Detta märker man hos Ecpat Sverige, som har en webbaserad så kallad hotline där allmänheten kan anmäla alla former av sexuell exploatering av barn.

— 99 procent av alla tips som vi får in rör bilder eller film på nätet. Och i arbetet i den här hotlinen så har vi sett en stadig ökning, ungefär från 2021-2022 och framåt, av AI-genererat material. Jag skulle säga en ökning både vad gäller antalet bilder men också kvaliteten, alltså fotorealismen i bilderna.

"Stora mängder varje dag"

Thomas Andersson säger att han ofta får frågan om det inte är ett "bättre" alternativ med AI-genererade bilder, jämfört med riktiga bilder.

— När vi pratar om AI-genererat övergreppsmaterial så är det inte en sak, utan flera olika saker. Väldigt ofta när vi ser AI-genererat så ser vi egentligen det man kallar för AI-manipulerat material. Alltså att man tar bilder på existerande brottsoffer, barn som har utsatts för övergrepp som har fotograferats, och manipulerar de bilderna till nya positioner eller nya handlingar, säger han och fortsätter:

— Och konsekvenserna för barnet blir ju samma som annat övergreppsmaterial – det vill säga, när det här sprids på nätet så är det som att övergreppet aldrig får ett slut.

Används för utpressning

Thomas Andersson säger att man också ser att förövare använder sig av AI-verktyg för att exempelvis skapa manipulerade bilder på riktiga barn. Bilder som sedan används i syfte för att utöva utpressning mot barnen.

— Man pressar dem på pengar, annars kommer bilderna att skickas till personer de känner.

Thomas Andersson konstaterar vidare att konsumtion av övergreppsmaterial – oavsett om det är verkliga foton och filmer eller AI-genererat – driver på en efterfrågan på mer material. Vilket innebär att fler barn riskerar att utsättas för övergrepp.