Anthropic hedh në qarkullim kornizë me burim të hapur për zbulimin e cenueshmërive me AI

Anthropic ka publikuar një implementim referencë për zbulimin dhe rregullimin autonom të cenueshmërive në kod, i bazuar në përvojat e fituara nga bashkëpunimi me ekipet e sigurisë në disa organizata qëndërkohë që po testojnë versionin Claude Mythos Preview. Dokumentacioni i plotë, përfshirë një postim në blog me praktikat më të mira dhe një “cookbook” për ndërtimin e ciklit të thjeshtë “rekon → gjej → triaj → raporto → rregullo”, është i disponueshëm për lexuesit e interesuar. Projekti në GitHub nuk është më i mirëmbajtur dhe nuk pranon kontribucione të reja.

Për organizatat që kërkojnë një zgjidhje të menaxhuar, Anthropic ofron produktin e hostuar Claude Security, i cili skanon depoja të kodit për cenueshmëri, përdor një pipeline verifikimi në shumë faza për të reduktuar alarmet e rreme dhe lejon menaxhimin e gjetjeve nëpër fazat e triajit, validimit të rregullimit dhe prodhimit të rregullimeve të shpejta. Implementimi i hapur mund të përdoret me çdo API Claude (përfshirë Amazon Bedrock, Google Vertex dhe Azure), duke lejuar ndërtimin e një pipeline-i të personalizuar për zbulimin e cenueshmërive.

Për çështjet e sigurisë, funksionet /quickstart, /threat-model, /vuln-scan dhe /triage lexojnë dhe shkruajnë vetëm skedarë në repo, ndërsa /patch punon vetëm në gjetjet statike dhe kërkon një sandbox gVisor për ekzekutimin e kodit të synuar. Udhëzimet për konfigurimin e sandbox-it dhe dokumentacioni i detajuar janë të disponueshëm në dosjet docs/security.md dhe docs/agent-sandbox.md. Ekipet e sigurisë që kanë përfituar më shumë nga ky mjet janë ato që kanë filluar menjëherë, duke ndjekur një plan të strukturuar: ditën e parë për të testuar ciklin e plotë në mënyrë interaktive, ditën e dytë për një ekzekutim autonom në një bibliotekë të njohur me cenueshmëri, dhe ditët e treta deri në të pestën për personalizimin e pipeline-it në kodin e tyre të brendshëm. Edhe pse pipeline-i është projektuar kryesisht për cenueshmëri në kujtesë në kod C dhe C++, struktura e tij mund të përshtatet për skenarë të tjerë sigurie.