OpenAI lanson “Lockdown Mode” për mbrojtjen nga injeksionet e kërkesave

OpenAI ka prezantuar një veçori të re, të quajtur “Lockdown Mode”, e cila synon të ofrojë mbrojtje shtesë kundër sulmeve të tipit “prompt injection”. Këto sulme përfshijnë udhëzime keqdashëse për chatbot-et që fshihen në faqe interneti, dokumente të ngarkuara ose burime të tjera përmbajtjeje.

Mënyra Lockdown çaktivizon disa funksionalitete të avancuara të ChatGPT-së: shfletimi i drejtpërdrejtë në internet (përdoruesi mund të shohë vetëm përmbajtje të ruajtur në cache), marrja dhe shfaqja e imazheve nga webi (gjenerimi i imazheve mbetet i mundur), kërkimi i thellë dhe modaliteti i agjentëve. Sipas OpenAI-së, edhe me këtë modalitet aktiv, modeli mund të mbetet i ndjeshëm ndaj injeksioneve që shfaqen në përmbajtje të cache-uar ose në skedarë të ngarkuar, duke ndikuar në sjelljen ose saktësinë e përgjigjeve.

Qëllimi i “Lockdown Mode” është të ulet probabiliteti që të dhëna të ndjeshme të shpërndahen gjatë përdorimit. “Lockdown Mode nuk është i destinuar për të gjithë,” deklaron OpenAI. “Është projektuar për individë dhe organizata që trajtojnë të dhëna të ndjeshme dhe kërkojnë mbrojtje më strikte nga rreziqet e nxjerrjes së të dhënave përmes injeksioneve të kërkesave.”

Aktualisht, funksionaliteti po zbatohet në llogaritë e vetë-shërbimit të ChatGPT Business, si dhe në llogaritë personale që plotësojnë kriteret e përcaktuara nga kompania. OpenAI ka njoftuar se do të vazhdojë të monitorojë efektivitetin e këtij modaliteti dhe të përmirësojë mbrojtjen kundër kërcënimeve të reja në botën e inteligjencës artificiale.