Ranije ove nedelje, kancelarija državnog tužioca Kalifornije objavila je da istražuje xAI zbog izveštaja da se četbot startapa, Grok, koristi za kreiranje seksualnih slika žena i maloletnika bez pristanka. U petak je vlada poslala pismo o prekidu i odustajanju kompaniji, zahtevajući da preduzme hitne mere kako bi zaustavila proizvodnju intimnih slika bez pristanka i CSAM – materijala o seksualnom zlostavljanju dece.
„Danas sam poslao xAI pismo o prekidu i odustajanju, zahtevajući da kompanija odmah prestane sa kreiranjem i distribucijom dipfejkovanih, nekonsenzualnih, intimnih slika i materijala o seksualnom zlostavljanju dece“, rekao je državni tužilac Kalifornije Rob Bonta u saopštenju za štampu. „Stvaranje ovog materijala je nezakonito. U potpunosti očekujem da će xAI odmah postupiti. Kalifornija ima nultu toleranciju za [CSAM].“
Kancelarija državnog tužioca je dodatno tvrdila da xAI izgleda „olakšava masovnu proizvodnju“ golih slika bez pristanka, kakve se „koriste za uznemiravanje žena i devojčica širom interneta“. Agencija je saopštila da očekuje da xAI dokaže da preduzima korake za rešavanje ovih problema u narednih pet dana.
U srži reakcije je Grokova funkcija „začinjenog“ režima, koju je xAI kreirao za generisanje eksplicitnog sadržaja. Problem se proširio van Kalifornije; Japan, Kanada i Velika Britanija su pokrenuli istrage o Groku, a Malezija i Indonezija su privremeno potpuno blokirale platformu. Uprkos tome što je xAI uveo neka ograničenja na svoje funkcije za uređivanje slika kasno u sredu, kancelarija kalifornijskog glavnog tužioca je nastavila sa svojim pismom o prekidu i odustajanju.
Nalog za bezbednost X-a je ranije osudio ovu vrstu korisničkih aktivnosti, rekavši: „Svako ko koristi ili podstiče Grok da pravi ilegalni sadržaj trpeće iste posledice kao da otpremi ilegalni sadržaj.“ TechCrunch je kontaktirao xAI za komentar i dobio je automatizovanu e-poštu koja kaže „Laži nasleđenih medija“. TC se takođe obratio kancelariji kalifornijskog glavnog tužioca za više konteksta.
Pojava besplatnih generativnih alata za veštačku inteligenciju dovela je do uznemirujućeg porasta seksualnog materijala bez pristanka. Mnoge platforme se bore sa ovim problemom, ne samo X. Ova prljava aktivnost privukla je pažnju ne samo državnih lidera već i Kongresa. Zaista, u četvrtak su zakonodavci poslali pismo rukovodiocima nekoliko kompanija – uključujući X, Reddit, Snap, TikTok, Alphabet i Meta – pitajući ih kako planiraju da zaustave širenje seksualizovanih dipfejkova.