Bör AI-genererad verklighetstrogen barnpornografi förbjudas?

Jag blev rätt förvånad av att det inte verkar finnas någon tråd på detta tema.

Till saken: Både utredare på Europol och Interpol vittnar om att sedan DALL-E och dylika AI-modeller blivit tillgängliga för den bredare allmänheten så har man sett en markant ökning av AI-genererad barnporr som gjorts med dessa system. Man vittnar om att det inneburit en markant ökning av arbetsbörda då det inte alltid går att snabbt och enkelt fastslå att en bild är AI-genererade. Ibland är bilderna t.o.m. tillputsade manuellt i efterhand av den som genererat bilden för att rätta till exempelvis händer.

Det gör att utredare måste lägga en kontinuerligt växande del av ens resurser på att fastslå om barnet som visas på bilderna överhuvudtaget finns eller ej. Med anledning av detta, anser ni att innehav av AI-genererade verklighetstrogna bilder föreställandes barn som utnyttjas sexuellt bör sett till straffvärde likställas med innehav av barnpornografi där ett riktigt barn utsatts?

Nej för det finns inga offer.

Ja tveklöst, delvis för att inte behöva lägga utredningsresurser på att utreda vad som genuint material och vad som är AI-generat. Men ett starkare skäl: Det produceras hybridmaterial där AI används för att "förbättra" (i brist på bättre ord) genuint övergreppsmaterial. Då är det verkliga barn från tidigare övergrepp som är grund för materialet.

Sedan kommer nog snart fall där man lagt in bilder på ansikten på barn från något annat sammanhang - semesterbilder hämtade på sociala medier eller så. Kanske rent av kommer som en form av sexuellt trakasseri... Finns inga gränser för vad skit människor kan hitta på. Den mörkaste formen av deep fake porr.

(Edit: det är svår att säga i vad mån det finns verkliga offer - det beror på var AI-verktyget hittat förebilderna/underlaget)

Föreslår att du tar en titt på följande tråd: (FB) Försökte skapa barnporr med hjälp av AI – dömd i tingsrätt (juli 2023)

Det är väl redan straffbart oavsett om det är riktiga barn eller ej dvs teckningar odyl som föreställer BP.

Manga och anime tecknaren och översättaren som stod inför rätta för BP brott för jävligt länge sedan åtalades för att han innehade tecknad Mangaporr men friades såvitt jag vet då mangafigurer visserligen ser ut som barn eller ja jävligt barnsliga rent generellt och rätten tyckte väl att det var ett gränsfall då det var svårt att avgöra om de tecknade figurerna var över 18 eller ej.

Det är redan förbjudet. Frågan är om det bör vara så.

Det var inte det som var grejen.

https://sv.wikipedia.org/wiki/Mangam%C3%A5let

I Sverige är väl all barnporr redan olaglig oavsett om det är fotografier, AI-genererad eller tecknad. Det enda som inte är olagligt är rent text?

Fast tänk om man kunde släppa sitt efterlegade moralpredikande och helt enkelt tillåta AI-genererad barnporr. Sannolikt skulle andelen riktig barnporr minska markant, nästintill helt och hållet - vem skulle palla ge sig ut och förgripa sig på ett barn när man kan skriva ett litet snitsigt script och få ut snuskigare och bättre material på studs. Och då skulle de utredningsresurserna frigöras helt och hållet. Tänka sig. Inga skadade eller traumatiserade barn. Folk som kan lägga sin tid på vettiga saker.

Tack så mycket för länken, jag hade helt missat detta fall!

Oh de skulle få använda bilder på dina barns ansikten som utgångspunkt? Eller på dig som barn? Och hur ska en utredare veta vad som är ursprungligt övergreppsmaterial och vad som är AI-genererat "anonymiserat" material?

Sannolikheten för dina antaganden om effekterna av frisläppande avstår jag från att försöka bedöma så den diskussionen lämnar jag till andra.

Nja.

Troligen krävs ett enormt innehav av fotograferad barnporr, som AI:t behöver titta på, för att veta vad det ska generera för slags bilder. Man kan då möjligen argumentera för att det inte blir några nya offer, om bara gamla bilder används. Men indirekt kommer det finnas mängder av offer, och en slags nedärvd skuld, även i det nya materialet.

Men det går nog också tänka sig ett AI som tränas på "vuxenporr" och på icke pornografiska bilder på barn. Jag skulle tro det är mycket svårare dock, rent AI-tekniskt. Jag misstänker det skulle krävas en del forskning på området för att få fram en sådan teknik. Och jag kan inte riktigt se vem som skulle finansiera detta.