Meta AI sulmuar me injeksionë të kërkesave: paralajmërim për besimin në inteligjencën artificiale

Injeksioni i kërkesave është një formë e inxhinierisë sociale që tani përpiqet të shfrytëzojë vetë sistemet e inteligjencës artificiale. Për shkak të avancimit të AI‑s në luftën kundër spam‑it dhe sulmeve phishing, hakerët po përpiqen të manipulojnë chatbot‑ët për të anashkaluar masat e sigurisë. Kjo metodë i bën të ngjashëm sulmet tradicionale të phishing-ut, ku përdoruesi i shtyhet të veprojë kundër interesit të vetë përmes emocioneve dhe frikës.

Meta ka reaguar së fundmi duke ndrequr një vrimë kritike në chatbot‑in e saj, e cila lejonte sulmuesit e zgjuar të ndryshonin fjalëkalimet e llogarive në Instagram përmes injeksionit të kërkesave. Një injeksion i tillë është një kërkesë që bën platformën gjeneruese të anashkalojë rregullat e veta, duke i dhënë sistemit një “rol” të ri që i lejon të hyjë në të dhëna të ndjeshme. Në këtë rast, hakerët arritën të bëjnë AI-në të rivendosë fjalëkalime për llogari të rëndësishme, përfshirë Instagramin e vjetër të Z. Obama në Shtëpinë e Bardhë dhe llogarinë zyrtare të Forcës Hapësinore të SHBA-së, pa nevojën e autentifikimit dyfaktorësh.

Kur i pyesëm T.J. Marlin, CEO i Guardrail Technologies dhe ekspert në fushën e sigurisë kibernetike, për incidentin, ai shpjegoi: “Agjenti i AI-së mori autoritetin e një njeriu pa gjykimin e tij. Rivendosi një fjalëkalim për një i panjohur sepse asgjë nuk e ndaloi. Problemi është se dikush i dha AI-së një veprim me pasoja të mëdha pa ndonjë hap verifikimi dhe e konsideroi të sigurt. Në realitet, asgjë nuk u haku; AI-ja u bind.” Sipas tij, “bllokimi i mbrojtjes së konsumatorëve ndodhi sepse fjalëkalimi, autentifikimi dyfaktorësh dhe ndjenja e përdoruesit për një mesazh të dyshimtë u anashkaluan, pasi agjenti i AI-së ishte pika e dobët”. Kjo tregon se shumë kompani nuk po vëzhgojnë këtë vrimë kritike.

Qëllimi afatgjatë i zhvillimit të AI-së është arritja e Inteligjencës Artificiale të Përgjithshme (GAI), e cila synon sisteme po aq të zgjuara ose më të zgjuara se njeriu, dhe në fund të fundit më “njerëzore”. Nëse chatbot‑ët tanë mund të mashtrohen si njerëzit, a po kalojmë një kufi të rrezikshëm? Sa më shumë që këta sisteme përqafojnë emocione dhe dëshirën për t’u përshtatur, aq më shumë rrezikohen nga sulmet që shfrytëzojnë injeksionin e kërkesave. Një sulm i mirëplanifikuar mund të përdorë informacionin personal që chatbot‑i ka grumbulluar për të krijuar përgjigje më kontekstuale, duke rrezikuar privatësinë e përdoruesve.

Për momentin, shumë platforma të njohura si ChatGPT, Gemini dhe Claude refuzojnë menjëherë kërkesat e ngjashme me injeksion, por shembulli i Meta AI tregon se rreziku ekziston. Ndërsa përparojmë drejt GAI-së, është e domosdoshme që kompanitë të rishikojnë proceset e verifikimit dhe të mos lejojnë që “agjentët” e tyre të veprojnë pa kontroll njerëzor, për të parandaluar që një “bllok” i lehtë të shndërrohet në një shkelje masive të sigurisë.