Raporti i KPMG për AI përfshi citime të trillueshme, rriten halucinacionet e AI-së

Ekipi i GPTZero ka nxjerrë në pah një trend alarmues: raportet qeveritare, punimet akademike dhe studimet e tjera po mbushen me “halucinacione” të gjeneruara nga inteligjenca artificiale. Kjo është raporti i dytë i kompanisë që analizon fenomenin e citimeve të rreme, të quajtura nga studiuesit “vibe citing”.

Incidenti më i freskët përfshin një raport të publikuar nga KPMG mbi AI-në agjente, i cili u zbulua se përmban gabime të prodhuara nga AI, citime të rreme dhe studime rastesh që nuk përputhen me realitetin. Siç theu ekipi: “Nga 45 citimet në raport, vetëm pesë tregojnë në burime reale”, ndërsa pjesa e mbetur është ose krejtësisht e trilluar ose e shtrembëruar në mënyrë të konsiderueshme. Termi “vibe citing” i referohet citimeve të rreme që duken të besueshme, por janë prodhuar nga algoritmet gjenerative, shpesh duke përzier referenca reale me tituj të përkthyer gabimisht ose autorë të gabuar.

Kërkuesit argumentojnë se këto citime të rreme janë në fakt halucinacione dhe kanë pasoja të drejtpërdrejta. “Një njeri nuk do të paraprakisht të përkthente titujt, të ngatërronte temën me autorin ose të përsërite informacionin në shumë pjesë,” shtuan ata, duke theksuar se “vibes have consequences”. Duke qenë se KPMG ka një ndikim të gjerë, gjetjet e tij mund të përmenden në media globale, blogje dhe biseda, duke përhapur potencialisht dezinformacion. Përveç kësaj, raporti po përdoret edhe në modelet e gjuhës së madhe (LLM), duke e amplifikuar më tej gabimin.

Raporti i vitit 2025 i një studimi të Komisionit Presidential të SHBA-së për “Make America Healthy Again” (MAHA) gjithashtu përfshinte “shënime të përziera ose të trilluar”. GPTZero përfundon se “vibe citations” janë një kërcënim i qartë dhe i menjëhershëm për studiuesit, akademikët, konsulentët, studentët dhe çdo përdorues interneti që kërkon informacione të sakta. Në këtë kontekst, nevojitet vigjilencë e madhe në verifikimin e burimeve për të parandaluar përhapjen e dezinformacionit në botën digjitale.