AI-appar klär av flickor nakna – Vad skolor och familjer bör veta om det allt vanligare fenomenet
| Tid att läsa:5 minuter
Harmlös underhållning eller sexuellt våld? Vem som helst kan klä av en annan människa naken med bara några få tryck på mobilskärmen. Den snabba utvecklingen inom AI-bildredigering har fört med sig ett fenomen till skolors och familjers vardag som väcker frågor hos många: vad ska man göra om det har skapats en artificiell nakenbild av en själv eller en närstående?
Ett färskt exempel på fenomenet kommer från Villmanstrand, där en minderårig pojke misstänks ha spridit AI-genererade nakenbilder på över hundra flickor. Fenomenet har synts i Someturvas första hjälpen -enhet redan i flera år. Vi skrev om ämnet för första gången år 2023. Under hösten har vi observerat att spridningen av både AI-genererade och äkta intima bilder har ökat i våra finländska kundskolor.
Könspräglade deepfakes
I appbutikerna kan man i dag ladda ner appar som ser ut som vanliga bildredigeringsappar med de erbjuder möjligheten att klä av en fullt påklädd person. År 2023 föreställde 99 procent av de intima deepfakes som spreds på nätet flickor och kvinnor. Apparna är ofta specifikt kodade för att manipulera kvinnokroppar; med många av dem går det inte ens att ”klä av” pojkar. Eftersom de är så enkla att använda är tröskeln för att skapa bilderna låg.
Många barn och unga testar dessa appar, utan att förstå handlingens allvar. Konsekvenserna för den som drabbas är undantagslöst verkliga och långtgående. Samtidigt används teknologin hänsynslöst som ett verktyg för maktutövning, mobbning och utpressning. I fenomenet sextortion, som blivit vanligare även i Finland, används nakenbilder för att pressa offret på till exempel pengar eller äkta nakenbilder.
Det handlar också om ett sätt att tysta människor: forskning visar att nättrakasserier påverkar hur de som utsätts vågar framträda på sociala medier eller i offentliga sammanhang. En person som har hotats eller utsatts för nätvåld kan också själv börja censurera vad hen publicerar på internet och i andra offentliga rum, eller till och med sluta arbeta eller gå i skola för att slippa bli utsatt.
Verkliga konsekvenser
En AI-genererad nakenbild är inte bara en falsk bild som man kan rycka på axlarna åt. För den som utsätts är handlingen precis lika kränkande som om en äkta nakenbild togs eller spreds utan lov. Det kan också kännas skrämmande och ångestfyllt att vem som helst kan råka ut för det.
Att bli utsatt för detta utlöser en stark skam, ångest och oro över var materialet sprids på nätet och om det kommer att dyka upp igen efter flera år. Enligt studier medför situationen lika djupa psykiska trauman som fysiskt sexuellt våld. Det är viktigt att den drabbade får allt stöd hen behöver i situationen.
Att skapa och sprida intima AI-bilder utan lov är ofta ett brott. Det finns anledning att koppla in polisen för att utreda ärendet även när den som skapat eller spridit bilden är under 15 år. Trots att personer under 15 år inte är straffrättsligt ansvariga i Finland bör situationen alltid hanteras under polisens ledning. Brottsmisstankar mot barn under 15 år kan styras till Ankarverksamheten, polisens förebyggande funktion som utreder vad som hänt och säkerställer stöd för alla parter.
Det är viktigt att skydda barn och unga från att bli brottsoffer, men också från att begå brott på grund av att de inte förstår konsekvenserna av sitt agerande. Det bästa sättet att skydda alla barn och unga är därför att gå igenom fenomenet och dess effekter i förväg.
EU ingriper mot apparnas funktioner
I december träder ett förbud i kraft i och med EU:s AI-förordning, som innebär att appar inte längre får ha funktioner som skapar nakenbilder. Detta gör apparna svårare att få tag på, men tar inte bort problemet helt. Det kan ändå minska mängden deepfakes som skapas av barn och unga märkbart, då tekniken inte längre är direkt tillgänglig på samma sätt.
Skolans handlingsplan: Hur agerar man direkt?
Hur ska man agera när information om AI-genererade bilder uppdagas i skolan? När informationen når skolans personal – oavsett om bilderna föreställer elever eller undervisningspersonal – bör åtgärderna vara snabba och konsekventa. Vi rekommenderar att skolan utarbetar en intern handlingsplan för sådana situationer. På så sätt är det i en skarp situation tydligt för alla hur man ska agera:
- Kontakt med chefen: Rektorn bör informeras om situationen, som kan sprida sig snabbt.
- Kontakt med vårdnadshavare: Information om situationen bör omedelbart förmedlas hem till både den drabbade eleven och den elev som misstänks för handlingen.
- Anmälningar till myndigheterna: Skolor har ofta en lagstadgad skyldighet att anmäla misstankar om sexualbrott mot minderåriga till polisen samt göra en barnskyddsanmälan.
- Lämna inte barnet eller den unga ensam: Händelsen kan väcka svåra känslor, särskilt hos barn och unga. Det lönar sig att ta hjälp av elevvårdspersonalens expertis när ärendet hanteras.
Även Someturva hjälper: Från vår första hjälpen -enhet får du snabbt skräddarsydda instruktioner av jurist och psykolog för den aktuella situationen. Vi ger rådgivning kring bland annat det förebyggande arbetet, stödet till berörda parter, bedömningen av skolans skyldigheter och informationen till vårdnadshavare.
Skrivet av
Experter vid Someturvas förstahjälpen-enhet