Ashley St Clair, matka Muskovho syna Romulusa, žaluje za „bolesť a duševné utrpenie“ spôsobené falošnými obrázkami AI generovanými chatbotom Grok.
Matka jedného z detí Elona Muska žaluje jeho spoločnosť zaoberajúcu sa umelou inteligenciou a tvrdí, že jej chatbot Grok umožnil používateľom vytvárať jej sexuálne vykorisťovateľské hlboké falošné obrázky, ktoré jej spôsobili poníženie a emocionálne utrpenie.
Žaloba bola podaná tesne predtým, ako kalifornský prokurátor Rob Bonta poslal Muskovej spoločnosti xAI list o zastavení konania, v ktorom požadoval, aby zastavila vytváranie a distribúciu nekonsenzuálnych sexualizovaných snímok generovaných Grokom.
Odporúčané príbehy
zoznam 4 položiekkoniec zoznamu
„Lavína správ, ktoré podrobne opisujú tento materiál – niekedy zobrazujúci ženy a deti zapojené do sexuálnej aktivity – je šokujúca a, ako môj úrad rozhodol, potenciálne nezákonná,“ povedal v piatok Bonta.
Ashley St Clair, spisovateľka a politická komentátorka, tvrdí v žalobe podanej vo štvrtok v New Yorku proti xAI, že bola obeťou sexualizovaných deepfake obrázkov generovaných Grokom.
St Clair, ktorá je matkou Muskovho 16-mesačného syna Romulusa, uviedla, že nahlásila obrázky na platforme sociálnych médií Musk X, ktorá hostí Groka, po tom, čo sa začali objavovať minulý rok, a požiadala o ich odstránenie.
Platforma odpovedala, že obrázky neporušujú jej zásady, povedala. Potom sľúbila, že nedovolí, aby boli jej obrázky použité alebo zmenené bez jej súhlasu. Neskôr sa jej sociálna platforma pomstila tým, že odstránila jej prémiové predplatné X a overovacie začiarknutie a naďalej povoľovala jej ponižujúce falošné obrázky, povedala.
„Trpel som a stále trpím vážnou bolesťou a duševným utrpením v dôsledku úlohy xAI pri vytváraní a distribúcii týchto digitálne upravených obrázkov mojej osoby,“ uviedol St Clair v dokumente priloženom k žalobe.
„Som ponížená a mám pocit, že táto nočná mora sa nikdy nezastaví, pokiaľ bude Grok pokračovať vo vytváraní mojich obrázkov,“ povedala.
„Obťažovanie verejnosti“
Vo štvrtok právnici xAI zažalovali St Clair na federálnom súde v Severnom okrese Texasu, pričom tvrdili, že porušila podmienky svojej užívateľskej zmluvy xAI, ktorá vyžaduje, aby boli žaloby proti spoločnosti podané na federálnom súde v Texase. Požaduje proti nej nezverejnený peňažný rozsudok.
Carrie Goldbergová, právnička St Clair, označila protižalobu za „otrasný“ krok, ktorý nikdy predtým u obžalovaného nevidela.
„Pani St Clair bude energicky brániť svoje fórum v New Yorku,“ uviedol Goldberg vo vyhlásení.
„Ale úprimne povedané, každá jurisdikcia uzná gravamen tvrdení pani St Clairovej – že výrobou nekonsenzuálnych sexuálne explicitných obrázkov dievčat a žien je xAI verejným obťažovaním a nie primerane bezpečným produktom.“
V rozhovore pre americké médiá začiatkom tohto týždňa St Clair povedala, že jej boj s Grokom nebol „len o mne“.
„Ide o budovanie systémov, systémov umelej inteligencie, ktoré dokážu vo veľkom produkovať a zneužívať ženy a deti bez následkov. A to, čo sa práve deje, nemá žiadne dôsledky,“ povedala pre CNN.
„Hovoria ‚urobíme to nezákonným tam, kde je to nezákonné‘. To chýba (v) celej morálke a hádajte čo, ak musíte pridať bezpečnosť po zranení, to vôbec nie je bezpečnosť. To je jednoducho kontrola poškodenia,“ povedala.
Muskov Grok je už pod drobnohľadom a čelí medzinárodnému odporu za vytváranie explicitných hlboko falošných obrázkov v Spojenom kráľovstve, Európskej únii a ďalších jurisdikciách vrátane Indie, Indonézie, Malajzie, Filipín a Japonska.
Japonské úrady v piatok uviedli, že tiež skúmali X v súvislosti s Grokom, pričom uviedli, že sa zvažujú všetky možnosti, ako zabrániť vytváraniu nevhodných obrázkov.
