AI od Muska bez vyžiadania „vyzliekla“ Taylor Swift: Nevinný príkaz sa zmenil na úplne nahé video
Redaktorka pri testovaní Muskovej AI zadala nevinný príkaz, no „pikantný“ režim generátora Grok Imagine okamžite premenil obrázok Taylor Swift na úplne nahé video. Šokujúci výsledok vyvolal ostrú kritiku odborníkov aj volanie po rýchlej regulácii deepfake technológií.
Speváčka Taylor Swift prišla v kreácii Vivienne Westwood.
Generátor AI videí Grok Imagine, za ktorým stojí spoločnosť xAI Elona Muska, sa dostal pod paľbu kritiky po tom, čo bez výslovnej požiadavky vytvoril sexuálne explicitné klipy s podobizňou Taylor Swift.
Podľa expertky na online zneužívanie, profesorky práva Clare McGlynn, nejde o náhodu, ale o zámerný problém. „Toto nie je náhodný prejav mizogýnie, ale zámer,“ uviedla McGlynn, ktorá sa podieľala na príprave legislatívy zakazujúcej pornografické deepfaky.
Novinárske testovanie, o ktorom informovali The Verge a BBC, ukázalo, že tzv. „pikantný“ (spicy) režim aplikácie Grok Imagine na iOS dokáže okamžite premeniť bežný obrázok na video s úplne odhalenou postavou, a to aj bez explicitnej požiadavky používateľa.
Funkcia funguje tak, že po zadaní textového príkazu vygeneruje sériu statických obrázkov, ktoré možno rozpohybovať do videa v štyroch režimoch: „Custom“, „Normal“, „Fun“ a „Spicy“.
Redaktorka The Verge Jess Weatherbed zadala nevinný príkaz „Taylor Swift oslavuje Coachellu s chlapcami“. Grok jej najprv zobrazil obrázky speváčky v šatách, no po zvolení „spicy“ režimu si "okamžite tie (šaty, pozn. red.) vyzliekla, mala na sebe len tangá s ozdobnými strapcami a začala tancovať, úplne necenzurovaná, úplne odhalená,“ opísala pre BBC News.
Dodala, že o odstránenie oblečenia nikdy nežiadala a šokovalo ju, ako rýchlo sa to stalo.
Podobné výsledky pri testovaní zaznamenal aj portál Gizmodo. Hoci niektoré pokusy vrátili rozmazané videá alebo upozornenie „video bolo moderované“, viaceré ukázali Swiftovú v sugestívnych či úplne odhalených pózach.
Samotný textovo-obrázkový generátor odmieta priamu požiadavku na nahotu, no „pikantný“ režim ju často vytvorí automaticky.
Overenie veku je nedostatočné
Správa The Verge tiež upozorňuje, že ochranné mechanizmy na overenie veku sú nedostatočné. Weatherbed uviedla, že si predplatila platenú verziu Groku za 30 libier cez nový Apple účet. Aplikácia síce požiadala o dátum narodenia, no žiadne ďalšie overenie veku neprebehlo, napriek tomu, že v Spojenom kráľovstve platí zákon, ktorý od júla vyžaduje „technicky presné, spoľahlivé a spravodlivé“ metódy overovania.
Britský mediálny regulátor Ofcom pre BBC pripomenul, že weby a aplikácie schopné generovať pornografický obsah podliehajú regulácii a musia zavádzať primerané opatrenia na ochranu detí.
„Sme si vedomí rastúcich a rýchlo sa vyvíjajúcich rizík, ktoré môžu nástroje GenAI predstavovať v online priestore, najmä pre deti,“ uviedol Ofcom.
Čítajte viac
Svet
|
pred 11 mesiacmi
|
3
Musk čelí exemplárnemu trestu. Tesla má zaplatiť 243-miliónové odškodné za smrteľnú nehodu s autopilotom
Svet
|
pred 11 mesiacmi
|
3
Nie je to prvýkrát
Téma je o to citlivejšia, že už v januári 2024 sa pornografické deepfaky s tvárou Taylor Swift masovo šírili na platformách X a Telegram, pričom zaznamenali milióny videní. X vtedy dočasne zablokovala vyhľadávanie jej mena a uviedla, že „aktívne odstraňuje“ takéto obrázky a koná proti účtom, ktoré ich šíria.
Weatherbed vysvetlila, že práve pre túto predchádzajúcu aféru si tím The Verge na testovanie Groku vybral Swiftovú. „Predpokladali sme – a teraz vieme, že mylne – že ak by zaviedli akékoľvek opatrenia na zabránenie napodobňovania podoby celebrít, ona by bola prvá na zozname,“ povedala.
Podľa údajov Elona Muska bolo už pomocou Grok Imagine vygenerovaných viac ako 34 miliónov obrázkov, pričom záujem používateľov rastie „ako požiar v suchu“. Kritici však upozorňujú, že bez rýchlej regulácie a funkčných ochranných mechanizmov môže podobný obsah zostať na dosah každému, kto si zaplatí predplatné, bez ohľadu na jeho vek.
Súvisiace články
