Sulmi në Meta zbulon dobësitë e sigurisë së AI-së

Më 5 qershor, portal 404 Media raportoi se disa sulmues kishin përdorur agjentin AI të Meta për asistencë në Instagram për të marrë kontrollin e llogarive. Metodologjia ishte e thjeshtë: i kërkuan agjentit të lidhë llogaritë me adresa email që ata kontrollonin, dhe agjenti i dha përfundim. Një sulmues hyri në llogarinë e papërdorur të “Obama White House” dhe postoi mesazhe pro‑Iran, ndërsa të tjerë morën llogari me emra të shkurtër dhe të vlefshëm, ndoshta për t’i shitur.

Këto rreziqe në sigurinë e AI-së nuk janë të reja. Që nga prapasti i modelit Mythos i Anthropic, i cili u konsiderua shumë i fuqishëm për të kryer sulme, komentatorët, studiuesit dhe zyrtarët federalë kanë paralajmëruar se sistemet AI mund të shkatërrojnë infrastrukturën kompjuterike. Sulmi në Instagram, megjithatë, ndryshon nga skenari i “Mythos”: këtu AI-ja ishte viktima, jo sulmuesi, dhe metoda ishte shumë më e thjeshtë se çdo teknikë që mund të prodhojë Mythos. “Ndërsa AI-ja përdoret gjithnjë e më shumë, veçanërisht për automatizimin e proceseve si rikuperimi i llogarive, sulmuesit do të jenë gjithnjë e më të motivuar për të sulmuar vetë AI-në,” thotë Neil Gong, profesor në Fakultetin e Inxhinierisë Elektrike dhe Kompjuterike të Universitetit Duke.

Gong dhe kolegët e tij kanë paralajmëruar për dobësitë e agjentëve AI që mund të manipulohen përmes injeksioneve të indirektuara të kërkesave, ku komanda të fshehura në faqe interneti, email‑e ose burime të tjera të dukshme të pafajshme marrin kontrollin e sistemit. Në rastin e Meta-s, sulmi ishte pothuajse pa kompleksitet: sulmuesit përdorën një VPN që përputhej me vendndodhjen e pronarit të vërtetë dhe i kërkuan drejtpërdrejt agjentit të ndryshojë adresën email, e cila u pranua pa pyetje. Meta nuk ka dhënë koment publik për mënyrën se si kjo dobësi kaloi pa u zbuluar, dhe Gong e gjen të habitshëm se pse një problem kaq i thjeshtë nuk u kap paraprakisht.

Jessica Ji, analiste senior në Qendrën për Sigurinë dhe Teknologjinë e Re të Georgetown, e shikon këtë ngjarje si një tregues të mungesës së “guardrails” (barriera sigurie). “A kishin ndonjëherë masa mbrojtëse për këtë skenar?” pyet ajo, duke theksuar se për një kompani si Meta, e njohur për ekspertizën në AI dhe siguri, kjo është veçanërisht e papritur. Meta nuk u përgjigj kërkesës për koment, por një fjalëdhënës i saj në X deklaroi të hënën se dobësia ishte e rregulluar.

Rreziku i përgjithshëm që paraqesin agjentët AI qëndron në fleksibilitetin e tyre për t’u përgjigjur në mënyra të papritura, duke i lejuar ata të zëvendësojnë punonjësit njerëzorë në shërbimin ndaj klientit. Por, ndryshe nga njerëzit, agjentët mund të mashtrohen lehtë; një njeri do të kërkonte një pyetje sigurie para se të ndryshonte email‑in. “Çfarë ndodh me këta agjentë është se ata janë shumë të etur për të përfunduar detyrën, si një nxënës i shkollës fillore që dëshiron të kënaqë mësuesin,” shpjegon Somesh Jha, profesor në Universitetin e Wisconsin–Madison.

Për të zvogëluar këto rreziqe, kompanitë mund të ndërtojnë sisteme tradicionale që imponojnë rregulla të rrepta, si kërkimin e përgjigjeve për pyetjet e sigurisë para se të dërgojnë informacione të ndjeshme. Ekspertët bien dakord se agjentët duhet të kalojnë nëpër “red‑team” të rreptë, ku zhvilluesit përpiqen të sulmojnë sistemin për të zbuluar dobësitë përpara se të publikohet. Megjithatë, ekziston një tension i natyrshëm: sa më shumë fuqi dhe aq më pak barriera ka një agjent, aq më shumë punë mund të marrë, por edhe më shumë mundësi për keqbërje. “Siguria dhe funksionaliteti kanë gjithmonë një kompromis,” thotë Bo Li, profesor në Universitetin e Illinois Urbana‑Champaign, duke shtuar se testimet e thella kërkojnë burime të konsiderueshme, ndërsa sulmuesit shpesh kërkojnë vetëm një dobësi për të arritur një përfitim, siç është blerja e një emri të shkurtër në Instagram.

Në fund, sulmi në Meta shërben si një kujtesë se, ndërsa modelet AI vazhdojnë të përmirësohen dhe të zënë më shumë vende në proceset operative, nevojitet një vëmendje e vazhdueshme ndaj sigurisë, për të parandaluar që dobësitë e thjeshta të shfrytëzohen për të shkaktuar dëme të mëdha.