Tri webové stránky používané na vytváranie obrázkov zneužívania zaznamenali 100 000 návštev Austrálčanov mesačne, hovorí dozorný orgán.
Zverejnené 27. novembra 2025
Kliknite sem a zdieľajte na sociálnych sieťach
zdieľať2
Internetovým užívateľom v Austrálii bol zablokovaný prístup k niekoľkým webovým stránkam, ktoré využívali umelú inteligenciu na vytváranie materiálov na sexuálne zneužívanie detí, oznámil tamojší internetový regulátor.
Tri stránky „nudify“ sa po oficiálnom varovaní stiahli z Austrálie, uviedla vo štvrtok komisárka pre elektronickú bezpečnosť Julie Inman Grantová.
Odporúčané príbehy
zoznam 4 položiekkoniec zoznamu
Grantova kancelária uviedla, že stránky navštevovalo približne 100 000 návštevníkov mesačne od Austrálčanov a vystupovali vo vysoko sledovaných prípadoch zobrazovania sexuálneho zneužívania detí generovaných AI, ktoré zahŕňali austrálskych študentov.
Grant povedal, že takéto služby „nahodenie“, ktoré používateľom umožňujú, aby sa obrázky skutočných ľudí zobrazovali nahými pomocou AI, mali v austrálskych školách „zničujúci“ účinok.
„V septembri sme podnikli opatrenia na presadzovanie práva, pretože tento poskytovateľ nezaviedol opatrenia, ktoré by zabránili používaniu jeho služieb na vytváranie materiálov na sexuálne zneužívanie detí, a dokonca išlo o marketingové funkcie, ako je vyzliekanie „akéhokoľvek dievčaťa“ s možnosťami vytvárania obrazu „školáčky“ a funkciami, ako je „sexuálny režim“,“ uviedol Grand vo vyhlásení.
Tento vývoj prichádza po tom, čo Grantova kancelária v septembri vydala formálne varovanie pre spoločnosť so sídlom v Spojenom kráľovstve, ktorá stojí za stránkami, a pohrozila občianskoprávnymi sankciami až do výšky 49,5 milióna austrálskych dolárov (32,2 milióna USD), ak nezavedie ochranné opatrenia na zabránenie zneužívania založeného na obrázkoch.
Grant uviedol, že Hugging Face, hostingová platforma pre modely AI, samostatne tiež podnikla kroky na dosiahnutie súladu s austrálskymi zákonmi, vrátane zmeny svojich podmienok služby tak, aby od držiteľov účtov vyžadovala, aby podnikli kroky na minimalizáciu rizík zneužitia ich platforiem.
Austrália stojí v popredí celosvetového úsilia predchádzať online ubližovaniu detí, zakazuje sociálne médiá osobám mladším ako 16 rokov a zasahuje proti aplikáciám využívaným na prenasledovanie a vytváranie falošných obrázkov.
Používanie AI na vytváranie nekonsenzuálnych sexuálne explicitných obrázkov vzbudzovalo rastúce obavy v súvislosti s rýchlym šírením platforiem schopných vytvárať fotorealistický materiál kliknutím myši.
V prieskume, ktorý minulý rok uskutočnila americká advokátska skupina Thorn, 10 percent opýtaných vo veku 13 až 20 rokov uviedlo, že poznajú niekoho, kto si na nich vytvoril falošné nahé snímky, zatiaľ čo 6 percent uviedlo, že sa stali priamou obeťou takéhoto zneužívania.
