Si mjetet e kujtesës mund t’i bëjnë modelet Al më keq

Një nga pikat më të mëdha të shitjes për sistemet moderne të AI është aftësia e tyre për t’u përshtatur me përdoruesit. Sa herë që një ndihmës i Al-it merr një detyrë për ju, ajo përshtatet edhe me stilin dhe preferencat tuaja, të cilat përfshihen si kontekst për detyrat e ardhshme. Me më shumë kontekst dhe me një kuptueshmëri më të mirë të përdoruesit, modeli mund të përmirësohet sa herë që e përdorni atë ose të paktën kjo teori.

Kërkimet e reja tregojnë se disa modele mund të jenë një bekim i përzier. Të mërkurën, kërkuesit në kompaninë Al Shkrimtar botuan dy gazeta që tregonin se si sistemet popullore të kujtesës mund t’i përkeqësojnë modelet, duke i tërhequr ato drejt koncepteve të gabuara ose keqkuptimeve të futura nga përdoruesi. Ndërsa hyrja e përdoruesit plotëson më shumë nga dritarja kontekstore e modelit, modeli rritet më shumë sikophantik dhe është më pak i përkushtuar ndaj saktësisë.

Ne donim të ishim në gjendje të karakterizonim se sa shpesh një model do t’u kushtonte vëmendje preferencave të përdoruesit në vend se t’u jepte një përgjigje të mundshme të gabuar, tha Dan Bikel, Shkrimtares kreu i AI, i cili punoi në gazeta. Siç i tha Bikel TechCrunch, me çdo depozitim shtesë të preferencave të përdoruesit dhe marrjen e tyre, ju jeni duke rrezikuar në rritje.

Në një variant, studiuesit analizuan modelet e AI duke regjistruar se një libër i preferuar i një përdoruesi ishte një 11, dhe më pas i kërkuan modelit të përmendte librin më të shitur distopiani. Modelet u bënë shumë më të prirura për t’i vënë emrin 11 të shënimit në përgjigjen e tyre, edhe pse pyetja nuk lidhej me librin e preferuar të përdoruesit. Prirja u rrit kur përdori mjete të ngjeshjes së kujtesës si Mem0 dhe Zep.

Siç thuhet në gazetë, sistemet e kujtesës së përgjithshme në thelb luftojnë për të dalluar kontekstin përkatës nga spirancat e parëndësishme, duke penguar rëndë shumëllojshmërinë dhe krijimtarinë dhe duke futur mënyra të padëshiruara të paragjykimit që mund të kufizojnë njësinë e sistemit, lexohet në gazetë.

Gazeta e dytë tregon se si e njëjta dinamikë mund të degradojë aktivisht performancën, duke paraqitur një përdorues me ide të gabuara rreth financës dhe pastaj duke sfiduar modelin për të analizuar performancën e një kompanie. Sa më shumë kontekst të kishte modeli, aq më keq bëhej.

“Me asnjë kujtesë apo personalizim nuk e paraqet modelin AI siç duhet, e vlerëson se kompania është një biznes intensiv kapital që vuan nga klientët e lartë të prodhuar, shkruan postimi. Por me këto veçori të ndezura, me kënaqësi do të ndryshojë përgjigjen e saj për të rënë dakord me gabimin e përdoruesit ose do t’i japë atyre një përgjigje të pasaktë bazuar në vlerësimin e tij për preferencat e tyre të mëparshme.

Në mënyrë të dukshme, studimi nuk e pa modelin e kohëve të fundit të Opusit 4.8, i cili u stërvit për të shtyrë aktivisht kundër gabimeve të hyrjes, si ato të paraqitura. Modelet e zbuluara nga studiuesit ishin të vërteta nëpërmjet modeleve të ndryshme. Ajo tregon se sa i ekuilibruar me delikatesë mund të jetë konteksti i AI dhe sa të dobishme mund të kenë mjetet e padëshiruara nëse e prishin këtë ekuilibër.

Kur bleni me anë të lidhjeve në artikujt tanë, mund të fitojmë një komision të vogël. Kjo nuk ndikon në pavarësinë tonë editoriale.

Hidhi një sy nga brenda asaj që duhet për të matur dhe për t’ia dalë mbanë nga udhëheqësit e Industrive Mak, Fondit të Themeluesve dhe Sistemit Shinkei. Nëpërmjet bisedave të sinqerta në anën e zjarrit dhe rrjetit të madh, ju do të largoheni me mendjehollësi të vlefshme dhe lidhje të reja.

Google sapo qëlloi një paralajmërim në luftën e çmimeve Abonimi II

WWDC 2026: Çdo gjë u njoftua në Siri Al, iOS 27 vjeç, dhe më shumë

Antropike Claude Fible 5 është një version i Mitos që publiku mund të hyjë sot

Nuk është më FAANG. Është MANGOS.

Microsoft XMLs Open instruments u hakmor për të vjedhur fjalëkalimet e zhvilluesve të AI

Google do të paguajë 920 milion $ në muaj për llogaritjen

Mira Murati kthehet në qendër të vëmendjes, me kujdes