Antropike ecën mbrapsht në politikën që mund të ketë pësuar ç’është e mundur, duke përdorur Klaud

Antropike po zvarritet në një politikë që do të kishte konkurentë të kufizuar nga përdorimi i modelit të saj të ri AI, Klod Fible 5, për të zhvilluar modele të tjera të AI. Kompania ndryshoi kurs pasi masa mori mbështetje të rëndësishme nga komuniteti kërkimor i AI .

“Ne jemi duke ndryshuar Febëll 5-0 mbrojtje për zhvillimin kufitar LLM për t’i bërë ato të dukshme. Antropike tha në një deklaratë në WIRED. Kemi bërë një shkëmbim të gabuar dhe kërkojmë falje që nuk kemi gjetur ekuilibrin e duhur.

Antropic publikoi Claude Fible 5, një version të modelit të saj të fundit AI me traversa shtesë të sigurisë të projektuar për të parandaluar keqpërdorimin, më parë këtë javë. Disa nga mbrojtjet që Antropike vendosi ishin të papritura: Kompania tha se do t’i revokuonte përdoruesit që bënë pyetje rreth sigurisë kompjuterike, biologjisë apo kimisë ndaj një modeli më pak të aftë të AI për të reduktuar shanset e dikujt që përdor AI të përparuar për të kryer një sulm në internet ose për të ndërtuar një biovaaponë.

Por për kërkuesit që përpiqeshin të përdornin Klaud Fable 5 për zhvillimin kufitar të AI, Antropiç përshkroi një metodë të ndryshme. Firma do ta ulte qëllimisht modelin në mënyra që ishin të padukshme për përdoruesin. Masa do të sabotojë efektivisht kërkuesit që përpiqen të përdorin Klod për të trainuar modelet konkurruese të AI, të cilat Antropike në mënyrë të qartë ndalojnë në kushtet e saj të shërbimit .

Antropike tani thotë se ai ndryshon kurs dhe se Klod Fibëll 5-0 ruan për zhvillimin e AI do të jetë i dukshëm për përdoruesit. Nëse kompania dyshon se një përdorues po përpiqet të përdorë Klod-in për të ndërtuar një AI shumë të aftë, ajo do t’i paralajmërojë ata ose do të refuzojë kërkesën, ose do t’ia kthejë përdoruesit në një model më pak të aftë.

Antropiç e ktheu politikën pasi mori mbështetje të ashpër nga komuniteti kërkimor i AI. Antropiç ka ndërmarrë tashmë hapa për të kufizuar konkurrentët nga përdorimi i Klod për të ndërtuar modele të mbyllura dhe të hapura, por kritikët thonë se degradimi i heshtjes së performancës së modeleve për disa përdorues shkoi një hap tepër larg. Agjenti Claudeus Codding është bërë një mjet i favorizuar midis zhvilluesve, duke përfshirë ata që punojnë në projektet e kërkimit të burimeve të hapura AI, dhe kërkuesit i thonë WIRED se politika më e fundit mund të ketë çuar në një të ardhme shqetësuese në të cilën vetëm një grusht laboratorësh kryesorë të AI mund të kryejnë kërkime të përparuara të AI.

Dean Ball, një shok i lartë në Fondacionin për Novacionin Amerikan dhe një ish këshilltar i Shtëpisë së Bardhë në AI, shkroi në një postim në X se performanca e vlerësimit në kërkimin ML * pa i thënë përdoruesit se është tronditëse dhe një vështrim i tmerrshëm. Ai vazhdoi në një post tjetër se sabotimi sekret i politikës pengon qëndrimin e përgjithshëm të Antropikës, sepse kufizon kërkuesit e AI nga bashkëpunimi në sigurinë e AI.

U ndjeva sikur Antropiç po i thoshte publikut, ne nuk i besojmë askujt tjetër për të bërë kërkime të AI. Ne jemi të vetmit që duhet të bëjmë kërkime të AI-it, thotë Uill Braun, drejtuesi i kërkimit në burimin e hapur Inteleksioni i Parë. Duket sikur po fillojnë të ngrenë shkallën pas tyre.

Braun tha se politika do t’i kishte lënë gjithashtu zhvilluesit në errësirë rreth asaj në se po shkelnin rregullat e Antropikës, pasi kompania do t’i paralajmëronte ata kur të krijoheshin masat mbrojtëse të saj. Ai shtoi se kufizimet mund të kenë patur pasoja të gjera. Për shembull, ai vuri në dukje ekosistemin në rritje të firmave të vlerësimit të partive të treta që provojnë modelet kufitare për sigurinë, ecurinë dhe besueshmërinë që mund të ishin penguar në qoftë se Antropiç në mënyrë të fshehtë degradoi modelin e saj.

Antropiç tha se ai zbatoi masat sepse Klod është bërë gjithnjë e më efektiv në përshpejtimin e kërkimit të AI. Në një blog të kohëve të fundit, kompania tha se është e shqetësuar se AI mund të përmirësojë aftësitë e saj më shpejt se shoqëria mund të përshtatet me to. Antropiç argumentoi se do të ishte mirë që bota të kishte mundësinë të ngadalësonte ose të ndërpriste përkohësisht zhvillimin e kufirit AI për të lejuar strukturat shoqërore dhe kërkimin e shtrirjes për të vazhduar më tej.♫

Këto masa mbrojtëse i pengojnë kundërshtarët e huaj të përdorin modelet tona më të afta në mënyra që paraqesin rreziqe të rënda sigurie. SHBA dhe aleatët e saj mbajnë një avantazh në copëzat kufitare dhe softuerin shumë të optimizuar që i drejton ato me potencial të plotë, tha kompania në një deklaratë ndaj WRED. Për shembull… Kur vendosim nëse do t’i bëjmë ato të dukshme apo të padukshme, u përballëm me një zgjedhje. Një mbrojtje e fshehur është më e vështirë për t’u hetuar dhe për të punuar. Kjo do të thotë se masat mbrojtëse mund të vihen në shënjestër shumë më ngushtë.

Antropike thotë se për shkak se kjo mbrojtje rreth zhvillimit të AI është tani e dukshme, ajo duhet të hedhë një rrjetë më të gjerë, që do të thotë kërkesa më të mira mund të shkaktojë mbrojtjen e saj. Kompania thotë se punon për t’i bërë klasifikimet më të sakta sa më shpejt të jetë e mundur.

Në kutinë tuaj: Java tregon lajmet më të mëdha në perspektivë

Pentagoni nuk bëri pothuajse asgjë për të ndaluar armiqtë nga ndjekja e trupave amerikane

Historia e madhe: A mundet që normat të kenë një kod të ndjeshëm?

Një grup hakerash po helmon një kod të hapur burimi në një kod të paprekshëm