Anthropic kërkon ndalim global të zhvillimit të IA, paralajmëron rrezikun e vetë-përmirësimit

Kompania Anthropic po thërret laboratorët kryesorë të inteligjencës artificiale që të rishikojnë ritmin e zhvillimit, duke paralajmëruar se modelet “frontier” po përparojnë aq shpejt sa mund të arrijnë të përmirësohen vetë pa ndërhyrje njerëzore. Sipas të dhënave të brendshme të kompanisë, inxhinierët e Anthropic sot prodhojnë në mesatare tetë herë më shumë kod në një tremujor se në periudhën 2021‑2025, një tregues i qartë të përshpejtimit të aftësive të modeleve.

Kjo tendencë ka pasoja të mëdha. Një sistem IA që mund të ndërtojë versionet e tij të ardhshme do të përbëjë një hap historik për shkencën, shëndetësinë dhe fusha të tjera, por në të njëjtën kohë rrit rrezikun që njerëzit të humbin kontrollin mbi teknologjinë. Anthropic thekson se nëse mund të arrihet një ngadalësim i koordinuar global, do të ndihmojë shoqërinë të përgatitet për sfidat etike dhe të sigurojë që mekanizmat e mbikëqyrjes dhe kontrollit të jenë në vend.

Për këtë qëllim, Instituti Anthropic do të kryejë kërkime në bashkëpunim me organizata të tjera dhe do të ndërtojë sisteme që lejojnë verifikimin e ndalimit ose ngadalësimit të zhvillimit të IA në nivel global. Këto mjete do të garantojnë që asnjë aktor i pakujdesshëm të mund të përfitojë nga një “ngadalësim” për të përparuar në fshehtësi. Nëse do të ekzistojnë mekanizma të tillë verifikues, Anthropic është i gatshëm të ngadalësojë ose të ndalojë përkohësisht projektet e tij, nëse edhe të tjerët në skenën “frontier” veprojnë në mënyrë të ngjashme dhe e verifikojnë këtë.