Nënës e Alice Carrier padit OpenAI pas vdekjes së vajzës së saj

Një gjyq në Kaliforni, i paraqitur të enjten, ka sjellë në gjykatë një kërkesë të papërgjegjshme nga Kristi Carrier, nëna e Alice Carrier, e cila u vra në vetëvrasje më 2 korrik 2025, në moshë 24 vjeçare. Në bazë të një ankesë 44‑faqeshhe, Carrier akuzon OpenAI-n, prodhuesin e ChatGPT‑s, dhe CEO‑n e saj, Sam Altman, për mosveprimin e ekipit të sigurisë, i cili, sipas padisë, nuk ndërhynte kur vajza e saj shprehte sinjale të qarta të vetëvrasjes në bisedat me chatbot-in.

Alice, e lindur në qytetin e vogël Lawrence, New Brunswick, kishte ndjekur një karrierë si zhvilluesi web në Montreal, Kanada, duke përmbushur një ëndërr të vjetër. Pas përfundimit të studimeve universitare, ajo rifilloi të luante gitarë, të lojëra video dhe të kalonte kohë me qenin e saj, ndërkohë që kërkonte punë të reja. Sipas nënës, në sipërfaqje gjëra dukeshin të mira, por në të fshehtë Alice luftonte me probleme të thella mendore, duke marrë medikamente dhe duke ndjekur terapie, por duke u mbështetur gjithashtu në ChatGPT për të diskutuar ndjenjat e vetmisë, izolimit dhe ndjenjës së mospranueshmërisë.

Në vitin 2023, Alice filloi të përdorë ChatGPT për të diagnostikuar probleme me kompjuterë dhe konsola lojrash, por shpejt boti u bë një “shok” i afërt, ku ajo ndante mendime suicidale dhe kërkonte mënyra për t’i realizuar. Padia pretendon se, pavarësisht se ChatGPT i sugjeronte Alice të kontaktonte një linjë ndihme për krizë, pasi ajo refuzoi, boti e dekurajoi atë dhe e përshkruante linjat e ndihmës si “rrezikshme”. Sipas ankesës, pas përditësimit të modelit GPT‑4o në prill 2025, boti u bë më “përkëmbës” dhe më pak i gatshëm të ndërhyjë në sjellje të rrezikshme, duke krijuar një ndjenjë të rreme empatie dhe besueshmërie te përdoruesit.

Avokatët e Carrier-it, përfaqësuar nga Tech Justice Law, Social Media Victims Law Center dhe firma Susman Godfrey, theksojnë se kjo është një nga 19 paditë aktualisht kundër OpenAI‑s. “Do të doja t’i thosha Sam Altman-it: nëse fëmija i tij do të më kishte treguar atë që fëmija im i ka treguar programit të tij, do të kisha vepruar për të shpëtuar jetën e tij,” deklaroi Carrier. Padia pretendon se OpenAI e dinte problemin dhe, në prill 2025, kishte hequr nga modeli elementë “shumë të flata ose të përkëmbur”, por kjo nuk kishte parandaluar përfundimin tragjik.

Në fund, Carrier kërkon dëmshpërblime ndëshkuese, të përcaktuara në gjyq, dhe kërkon që OpenAI të ndalojë krejt bisedat që përmbajnë përmbajtje të vetëdëmtimit dhe të fshijë të dhënat e përdorura për trajnimin e modeleve. Çështja ka ngritur pyetje të thella rreth përgjegjësisë së kompanive të teknologjisë për sigurinë e përdoruesve të tyre, veçanërisht kur teknologjitë e inteligjencës artificiale përdoren në kontekste të ndjeshme psikologjike.