AI-genererat övergreppsmaterial har blivit mer omfattande, vilket kan leda till att fler barn riskerar att utsättas för övergrepp. Konsumtion av övergreppsmaterial – fotograferat, filmat eller AI-genererat – driver på efterfrågan på mer material, säger Thomas Andersson från Ecpat Sverige.
Under fredagen meddelade Europol att man har gripit 25 personer – varav tre svenskar – i större tillslag som rör AI-genererat material föreställande sexuella övergrepp mot barn.
Thomas Andersson, utredare på barnrättsorganisationen Ecpat Sverige, konstaterar att AI-genererat övergreppsmaterial är ett stort problem, som bara har vuxit de senaste åren. Detta märker man hos Ecpat Sverige, som har en webbaserad så kallad hotline där allmänheten kan anmäla alla former av sexuell exploatering av barn.
— 99 procent av alla tips som vi får in rör bilder eller film på nätet. Och i arbetet i den här hotlinen så har vi sett en stadig ökning, ungefär från 2021-2022 och framåt, av AI-genererat material. Jag skulle säga en ökning både vad gäller antalet bilder men också kvaliteten, alltså fotorealismen i bilderna.
Thomas Andersson säger att han ofta får frågan om det inte är ett "bättre" alternativ med AI-genererade bilder, jämfört med riktiga bilder.
— När vi pratar om AI-genererat övergreppsmaterial så är det inte en sak, utan flera olika saker. Väldigt ofta när vi ser AI-genererat så ser vi egentligen det man kallar för AI-manipulerat material. Alltså att man tar bilder på existerande brottsoffer, barn som har utsatts för övergrepp som har fotograferats, och manipulerar de bilderna till nya positioner eller nya handlingar, säger han och fortsätter:
— Och konsekvenserna för barnet blir ju samma som annat övergreppsmaterial – det vill säga, när det här sprids på nätet så är det som att övergreppet aldrig får ett slut.
Thomas Andersson säger att man också ser att förövare använder sig av AI-verktyg för att exempelvis skapa manipulerade bilder på riktiga barn. Bilder som sedan används i syfte för att utöva utpressning mot barnen.
— Man pressar dem på pengar, annars kommer bilderna att skickas till personer de känner.
Thomas Andersson konstaterar vidare att konsumtion av övergreppsmaterial – oavsett om det är verkliga foton och filmer eller AI-genererat – driver på en efterfrågan på mer material. Vilket innebär att fler barn riskerar att utsättas för övergrepp.
Du måste vara inloggad för att kunna kommentera eller svara på andra kommentarer.