xAI kërkon zbulimin e identitetit të viktimave të deepfake‑ve të Grok-it

Firma e Elon Musk-it, xAI, ka paraqitur në gjykatë kërkesë për publikimin e emrave të katër personave të cilët pretendojnë se janë përdorur në imazhe seksuale të manipuluara (deepfake) përmes chatbot‑it Grok. Këta pretendues – të njohur në dokumente si South Carolina Doe, South Carolina Roe, New Jersey Doe dhe Ohio Doe – kanë paraqitur deklarata më 29 maj, duke përshkruar stresin emocional dhe frikën nga ndjekja në internet nëse do t’u detyrohej të përdornin emrin e tyre real në procesin kundër xAI-së.

Avokatet e tyre, përfaqësuar nga Sophia Rios nga firma Berger Montague, i akuzojnë xAI-së për “përpjekje të qarta për të i intimduar të pandehurit, duke i zbuluar pseudonimet e tyre, në mënyrë që të largohen nga çështja”. Rios ka theksuar se kërkesa e kompanisë për të anuluar vendimin e gjykatës, i cili lejon përdorimin e pseudonimeve, është një tentativë për të minimizuar dëmshpërblimin që pretenduesit kërkojnë.

Rreth incidentit që ka nxitur këtë çështje, në janar 2023 përdoruesit e Grok‑it kanë krijuar miira imazhe të rreme të femrave të zhveshur dhe në bikini, përfshirë edhe disa që përfaqësonin fëmijë. Sipas analizës së Qendrës për Kundërpërgjigjen ndaj Dhunës Digjitale, në vetëm 11 ditë janë prodhuar rreth 3 milion imazhe seksuale, prej të cilave 23 000 mund të përfshinin fëmijë. Për t’u përballuar pasojat, SpaceX – pronari aktual i xAI-së – ka rezervuar mbi 500 milion dollarë.

Klasifikimi i çështjes filloi në janar me një pretendues kryesor anonim, i cili u lejon të përdorë emrin “Jane Doe”. Në maj, çështja u ri‑paraqit me katër pretendues të tjerë anonimë, ndërsa “Jane Doe” u konvertua në “South Carolina Doe”. Sipas dokumenteve të gjyqësorit, pretenduesit dëshirojnë të mbajnë pseudonimet në publik për të mbrojtur privatësinë e tyre dhe për të shmangur ndjekjen e mëtejshme, ndërkohë që imazhet e manipulimit nuk janë përfshirë në dosjet publike.

Midis majit, xAI ka paraqitur dy kërkesa për të anuluar vendimin që lejon përdorimin e pseudonimeve, argumentuar se identitetet e pretenduesve janë të rëndësishme për interesin publik dhe se nuk ka prova konkrete për rrezik shtesë. Avokatët e xAI-së theksojnë se, pasi imazhet do të mbeten të mbuluara, zbulimi i emrit të pretenduesit nuk paraqet ndonjë rrezik të veçantë për privatësinë. Asnjë përfaqësues i xAI-së nuk ka komentuar kërkesën. Profesores e drejtësisë, Danielle Citron, paralajmëron se detyrimi i të pandehurve të përdorin emrin e tyre real mund të çojë në braktisjen e çështjes, duke krijuar një situatë “të papranueshme dhe të padrejtë”. Nëse do të detyrohen të zbulojnë identitetin e tyre, të gjithë katër pretendues deklarojnë se do të largohen nga procesi, duke theksuar se çështja ka të bëjë me “deepfake‑e shumë personale dhe të turpshme” të krijuara pa lejen e tyre.