OpenAI prezanton “Lockdown Mode” për mbrojtjen e të dhënave të ndjeshme nga sulmet me injeksion të kërkesave

OpenAI ka njoftuar një veçori të re, “Lockdown Mode”, e cila synon të ofrojë mbrojtje shtesë kundër sulmeve të tipit “prompt injection”, ku udhëzime dëmpruese për chatbot-et fshihen në faqe interneti ose në burime të tjera përmbajtjeje. Në këtë mënyrë, funksionet si shfletimi i drejtpërdrejtë në internet, marrja dhe shfaqja e imazheve nga webi, kërkimet e thella dhe modaliteti i agjentëve çaktivizohen, ndërsa përdoruesit mund të vazhdojnë të krijojnë imazhe me modelin e brendshëm.

OpenAI thekson se, edhe me “Lockdown Mode” të aktivizuar, ChatGPT mund të mbetet i ndjeshëm ndaj injeksioneve të kërkesave, të cilat mund të shfaqen në përmbajtje të ruajtur në cache ose në skedarë të ngarkuar dhe të ndikojnë në sjelljen ose saktësinë e përgjigjeve. Qëllimi kryesor është të ulet probabiliteti që të dhëna të ndjeshme të shpërndahen gjatë procesit të përgjigjes së modelit.

Mënyra “Lockdown” nuk është e dedikuar për të gjithë përdoruesit. Ajo është projektuar për individë dhe organizata që trajtojnë të dhëna të ndjeshme dhe kërkojnë një mbrojtje më të fortë kundrejt rrezikut të nxjerrjes së të dhënave përmes injeksioneve të kërkesave. Aktualisht, OpenAI po e implementon këtë funksion në llogaritë e biznesit të ChatGPT që ofrohen në vetë-shërbim, si dhe në llogaritë personale që plotësojnë kriteret e përcaktuara.