Raske fremskritt innen kunstig intelligens-teknologi har ført til at bilder av seksuelt misbruk av barn skapt og konsumert av pedofile har blitt «betydelig mer realistiske», har Internet Watch Foundation (IWF) sagt. Organisasjonen gjorde oppmerksom på denne alarmerende utviklingen i sin årsrapport for 2024.
Kraftig økning i AI-genererte utnyttelsesbilder
I følge en IWF-rapport ble det mottatt 2024 rapporter i 245 av AI-genererte bilder av seksuelt misbruk av barn som brøt med britisk lov. Dette tallet representerer en forbløffende økning på 2023 % sammenlignet med de 51 tilfellene registrert i 380. Disse rapportene inkluderer totalt 7 644 bilder og et lite antall videoer. Dette tallet blir enda mer alvorlig når du tenker på at en URL kan inneholde flere tilfeller av ulovlig materiale.
Et annet poeng som trekker oppmerksomheten i rapporten er at en stor del av disse bildene er «Kategori A»-materiale, definert som det mest alvorlige seksuelle overgrepsinnholdet mot barn. Denne kategorien dekker innhold som inkluderer penetrerende seksuell aktivitet eller sadisme og utgjør 39 % av det handlingsrettede AI-materialet som er vurdert av IWF.
Lovlig smutthull stengt, men faren består
I et betydelig grep for å møte denne bekymringsfulle utviklingen, gjorde den britiske regjeringen i februar det ulovlig å eie, lage eller distribuere AI-verktøy designet for å produsere materiale om seksuelle overgrep mot barn. Lovverket fylte et betydelig gap som hadde skremt politi og nettsikkerhetsaktivister. Det vil nå også være ulovlig å ha guider som lærer folk hvordan de kan bruke AI-verktøy for å lage overgrepsbilder eller hjelpe dem å misbruke barn.
IWF, som er basert i Storbritannia, men som har global autoritet, opplyser imidlertid at slike bilder produsert av kunstig intelligens i økende grad ikke bare sees på «det mørke nettet», men også på det åpne internett. Organisasjonen advarer om at det mest overbevisende AI-genererte materialet kan bli umulig å skille fra ekte bilder og videoer, selv for trente IWF-analytikere. Dette skaper alvorlige utfordringer med å oppdage og blokkere ulovlig innhold og fremhever det haster med å ta mer omfattende og effektive tiltak for å beskytte barn på nettet.
