Dukesha kaq reale: Si po armësohet AI kundër grave muslimane të Indisë

Ekspertët thonë se një prirje po riformon ngacmimin në internet: përdorimi i AI për të gjeneruar imazhe dhe propagandë seksuale që synon gratë muslimane.

Nju – Delhi, Indi, kur Samreen Ayby e pa për herë të parë videon, ajo u shtang.

Modeli i pavarur nga Kashmiri i administruar nga India po vinte rrotull në telefonin e saj vitin e kaluar kur një mik i dërgoi një klip duke qarkulluar në Instagram.

Videoja u duk të tregonte historinë e jetës së saj në Nju Delhi, e plotë me një zë narrator, duke shkruar tituj dhe tituj si një segment lajmesh televiziv. Por ishte krejtësisht e sajuar.

” Ajo ishte ndjekja e duhur, tha Ayby, 24 vjeç. Ata më kishin ndjekur jetën nga semestri i parë deri në të fundit në universitet.

Videoja qepte së bashku fotografi nga Ayhobys time si studente në Universitetin e Nju Delhis Jamia Milia Islamia, nga momentet e përditshme të jetës së kampusit, duke përfshirë projektet e grupit, tubimet e lamtumirës dhe vetët me shokët e klasës.

Zëri, i krijuar duke përdorur inteligjencë artificiale, pohoi në mënyrë të rreme se ishte një grua myslimane që ua shiste trupin burrave hinduistë. Ajo keqidentifikonte njerëzit në fotografi dhe e etiketonte vëllain e saj si pimp të saj.

Dukej kaq reale, saqë nëse dikush, madje edhe prindërit e mi, do ta shihnin videon, do të mendonin se ishte e vërtetë, tha Ajhobi.

Ajo është një nga disa gratë muslimane që kanë përjetuar atë që kërkuesit e përshkruan si një model që po bëhet gjithnjë e më i dukshëm: përdorimi i AI për të gjeneruar imazhe dhe propagandë seksuale.

Al Jazeera arriti tek disa gra muslimane që janë synuar. Ata nuk pranuan të flasin për rekordin, duke përmendur turpin dhe rrezikun e ritraumatizimit.

Prirja për të seksualizuar imazhet dhe videot e grave muslimane po shpaloset së bashku me Indinë, duke rritur angazhimin në bisedimet globale mbi qeverisjen e AI, duke përfshirë një takim të nivelit të lartë të ndikimit AI mbajtur më parë këtë vit në Nju Delhi që u përqëndrua në novacionin dhe kuadrin rregullator.

Një studim i bërë nga Uashingtoni, Qendra për Studimin e Urrejtjave të Organizuara (CSOH) analizoi 1,326 imazhe dhe video të krijuara publikisht në dispozicion, të mbledhura nga 297 llogari publike në X, Facebook dhe Instagram nga data 2023 deri në maj 2025. Studjuesit gjetën se përshkrimet seksuale të grave muslimane gjeneruan angazhimin më të lartë të më shumë se 6.7 milion bashkëveprime nëpër platforma.

AI Jenerative ka bërë transformimin e fantazisë seksuale në imazhe të mundshme me shpejtësi dhe pa kosto, tha Zenith Khan, bashkëautor i studimit dhe një analist dixhital në CSOH. Gjeneratori i figurës dhe puset e thella u japin mundësi individëve t’i kthejnë tregimet armiqësore në materiale shumë realiste vizuale me ekspertizë minimale teknike.

Studiuesit nuk janë të vetmit që ndjekin këtë prirje.

Meri Trustline, një linjë ndihmëse për sigurinë në internet e drejtuar nga Fondacioni RATI me bazë në Mumbai, ka parë gjithashtu një vëllim në rritje të rasteve të tilla. Raporti i ndihmës 2024 zbuloi një model në lidhje me këtë: Ndërsa vëmendja e medias priret të përqëndrohet në njerëzit e famshëm dhe politikanët, gratë jo në sy të publikut janë duke u synuar gjithashtu nëpërmjet imazheve që, megjithëse të gjeneruara artificialisht, kanë aftësinë për të rezultuar në dëm të vërtetë.

Këshilltarët e vijës së parë në linjën e ndihmës, duke përfshirë Salman Mujavar, puna e të cilit me të mbijetuarit formon bazën e pjesës më të madhe të organizatës botuar prova, thanë se kanë dokumentuar një rritje në numrin e rasteve të tilla.

Që nga fillimet e saj në vitin 2022, Meri Trustline ka trajtuar më shumë se 482 raste, gati 10 për qind e të cilave përfshinin materiale të manipuluara në mënyrë dixhitale, të cilat ishin një pjesë që po rritet ndërsa mjetet e AI po bëhen më të arritshme.

Këto shkelje janë të heshtura nga turpi, frika dhe trauma, tha Mujavar. ⇩ Incidentët rrallë u zbulohen edhe pjesëtarëve të ngushtë të familjes, e jo më në fjalimin publik më të madh.

Në orë të tëra, video Aybys qarkulluar nëpër shumë llogari të mediave sociale. Komentet e shpeshta, telefonatat kërcënuese dhe akuzat për karakterin e saj pasuan shpejt.

Ajo tha se dukej si një linçim dixhital. Jo një, por më shumë se një duzinë llogarish ishin duke postuar atë video kudo, dhe qindra të tjerë ishin duke e ndarë atë.

Të dhënat e përpiluara nga CSOH përfshijnë memetë e krijuara nga AI që portretizojnë gratë muslimane me veshje fetare në skenare provokuese seksualisht si dhe imazhet e shpikura pornografike që synojnë gazetarët dhe aktivistët. Përtej shumë prej këtyre imazheve, kërkuesit vëzhguan një model viziv të përsëritur: një grua me kode muslimane të çiftuar me një burrë të koduar.

Në këto tregime, burrat myslimanë paraqiten shpesh si të dhunshëm ose të korruptuar moralisht, tha Khani. Ndërkohë, gratë muslimane portretizohen si të nënshtruara apo të shpëtuara nga burrat nga komuniteti i shumicës.

Studiuesit argumentuan se kjo pamje nuk është e rastësishme për fjalimin politik, por pjesë e tij.

Sahana Udupa, një antropologe e medias në Universitetin Ludvig Maksimilian të Mynihut, e përshkroi fenomenin si pjesë e një shtjellimi më të gjerë të politikës prej grave dhe komuniteteve të pakicave. Kulturat dixhitale të krahut të djathtë, tha ajo, kombinojnë humor, memes dhe imazhe seksuale për të normalizuar abuzimin.