Anthropic ndalon modelin e ri AI pas shqetësimeve të sigurisë nga autoritetet amerikane

Anthropic ndalon modelin e ri AI pas shqetësimeve të sigurisë nga autoritetet amerikane

Anthropic ka vendosur të ndalojë përdorimin e modelit të ri të inteligjencës artificiale, Claude Fable 5, pasi autoritetet federale të SHBA-së kanë shprehur shqetësime për sigurinë. Në një deklaratë të publikuar në faqen e saj, kompania ka konfirmuar se është marrë urdhër për të ndaluar përdorimin e programit nga shtetasit e huaj, duke e përshkruar atë si “shumë i fuqishëm”. Si pasojë, Anthropic duhet të çaktivizojë menjëherë si Fable 5 ashtu edhe versionin e tij Mythos 5 për krejt klientët, për të garantuar përputhshmërinë me kërkesat.

Ndërkohë, Anthropic është në një proces gjyqësor me administratën e Trump-it, pasi ka mosmarrëveshje me një urdhër për ndalimin e agjencive qeveritare nga përdorimi i mjeteve të saj AI. BBC ka kërkuar koment nga Departamenti i Tregtisë së SHBA-së, por autoritetet e sigurisë kombëtare nuk kanë dhënë detaje specifike. Kompania ka shpjeguar se qeveria ka marrë në dijeni një metodë për “jailbreaking”, pra kalim të kufizimeve të softuerit, e cila mund të shfrytëzohet për të shfrytëzuar dobësi të vogla në sistem. Sipas Anthropic, këto dobësi janë të thjeshta dhe mund të zbulohen edhe nga modele të tjera publike pa nevojë për ndonjë anashkalim.

Claude Fable 5 është një variant i Claude Mythos, një program AI që konkurron me ChatGPT të OpenAI dhe Gemini të Google. Para se të publikohej, Anthropic kishte theksuar masat e “sigurisë” që kishte zbatuar për të parandaluar sulme kibernetike, megjithatë liderë nga sektorët financiar, teknologjik dhe qeveritar kishin shprehur shqetësime pas një versioni privat të lansuar në prill për testim të dobësive. Qasja e kufizuar në fazën paraprake ishte e rezervuar për disa organizata, pasi kompania e konsideronte mjetin aq inteligjent sa mund të përdorej për të sulmuar ose për të hyrë në sisteme kompjuterike.

Bashkimi Europian, i cili mori qasje në Mythos në fillim të qershorit pas disa javësh negociatash, ka shprehur se zhvillimi i fundit thekson nevojën për “sovranitet teknologjik” në Evropë. Zëdhënës i Komisionit Evropian, Thomas Regnier, ka deklaruar se po vlerësojnë deklaratën e Anthropic dhe po analizojnë implikimet, ndërkohë që Komisioni ka nisur masa për të reduktuar varësinë e BE-së nga SHBA-ja dhe Azia në teknologjitë kyçe, përfshirë AI-n.

Gina Neff, profesorja e Inteligjencës Artificiale të Përgjegjshme në Universitetin Queen Mary të Londrës, ka paralajmëruar se kufizimi i aksesit në model mund të ngadalësojë zhvillimin dhe testimin e sigurt të sistemeve AI, si dhe të pengojë