Nëse rregullat e transparencës së IA do të dobësohen, ekipet e teknologjisë së ndërmarrjeve do të trashëgojnë rrezikun

Rreparenca e AI vendos dobësimin e përgjegjshmërisë me turne ndaj ndërmarrjeve

Për udhëheqësit e teknologjisë së ndërmarrjeve, debati i tanishëm rreth rregullave të AI-së rreth Evropës mund të tingëllojë mashtruesisht i thjeshtë. Nëse rregullatorët vonojnë disa kërkesa me rrezik të lartë të AI-it apo zbutin pjesë të barrës së përputhjes, mund të duket sikur vendosja duhet të bëhet më e lehtë, me më pak nivele raportimi dhe më pak pengesa midis provës së konceptit dhe prodhimit.

Kur shikimi në rrezik të lartë IA-së bëhet më i dobët apo më i ngadaltë, rreziku nuk zhduket. Ajo lëviz poshtë rrjedhës, në organizatat në fakt duke vendosur sistemet.

Drejtimi i Brukselit për zbatimin e bën këtë veçanërisht të qartë: fleksibiliteti rregullator në letër nuk përkthehet në përgjegjshmëri të reduktuar në praktikë. Bizneset janë ende përgjegjëse për atë që bëjnë ata.

Kjo ka rëndësi sepse shumica e organizatave nuk i vendosin mjetet e AI në vakum. Ata po e përdorin atë në komunikimet e klientëve, hyrjet operative të punës, kontrollet e përputhjes, trajtimin e dokumenteve, proceset e pretendimeve dhe mbështetjen e vendimeve të brendshme, ku prodhimi ka pasoja reale dhe ku modeli e mori atë gabim, nuk është një përgjigje e pambrojtur.

Bordit, ekipet e rrezikut dhe pronarët operativë do t’u duhen ende përgjigje të njëjtave pyetje bazë pavarësisht nga: pse sistemi e prodhoi këtë prodhim, çfarë i dha formë këtij vendimi, çfarë ndodh kur është e pasigurt dhe a mund të shqyrtohet arsyetimi i tij pas faktit?

Barra po zhvendoset nga zbatimi i shkresave tek provat operacionale

Supozimi i vjetër ishte se rregullimi do t’u tregonte bizneseve saktësisht se si dukej IIA. Në të vërtetë, shumë drejtues teknologjie po zbulojnë se përputhja është vetëm pjesë e problemit. Sfida më e vështirë është të provohet se sistemi i AI është mjaft i besueshëm për t’u përdorur në hyrjet e punës ku gabimet kanë pasoja serioze.

Firmosuni në buletinin Pro TechRadar për të marrë të gjitha lajmet, opinionin, veçoritë dhe drejtimin e biznesit tuaj duhet të ketë sukses!

Pjesa më e madhe e AI që tani është vendosur në rregullimet e ndërmarrjeve ndërtohet në modele të mëdha gjuhësore (LLM-të). Këto sisteme janë të fuqishme, por janë probabilistike nga dizajni: ato gjenerojnë prodhimin e ardhshëm më të mundshëm bazuar në modelet në të dhëna, në vend që të arsyetojnë nëpërmjet një problemi në një mënyrë transparente, të lidhur me rendin.

Kjo i bën ata të dobishëm për hartimin, përmbledhjen dhe trajtimin e paqartësisë, por shumë më pak të përshtatshëm për hyrjet e punës ku vendimet duhet të jenë të qëndrueshme, të pagjurmueshme dhe të lehtë për t’u justifikuar pas faktit.

Kjo është arsyeja pse njeriu-në-the-loop shpesh është një mbrojtje më e dobët se sa duket së pari. Nëse vëzhguesit njerëzor thjesht i kërkohet të kontrollojë një rezultat nga një model i kutisë së zezë, që nuk mund të shpjegojë si arriti përgjigjen, atëherë organizata nuk e ka zgjidhur problemin e besimit.

Sapo ka futur një manual në një proces të pabesueshëm. Kjo mund të zvogëlojë ekspozimin ligjor në afat të shkurtër, por nuk përmirëson rendimentin, përgjegjësinë ose besimin. Gjithashtu ka shkallë të dobët, pasi mbikëqyrja njerëzore e çdo produkti AI mund qëllimin e automatizimit.

Në praktikë, kjo do të thotë CIOs, CTOs dhe qeverisja AI duhet të mendojnë më pak nëse një model duket impresiv në një demostrim dhe më shumë në se mund t’i mbijetojë kontrollit në prodhim.

Në vend të kësaj, ata që blejnë duhet të kenë përparësi

Ka katër pyetje që ia vlejnë të sjellin në çdo vendim prokurimi apo vendosjeje dhe përgjigjet tregojnë gjithnjë e më shumë ndaj arkitekturës që kombinojnë probabilistikë dhe arsyetimin determinist: atë që praktikuesit e quajnë Neursilicikal AI.

Së pari, a mund të shpjegojë sistemi se si arriti në një përgjigje në një mënyrë që mund ta pasojë një kërkues jo specialist? Jo vetëm që japin një përmbledhje bindëse, por demaskojnë logjikën, rregullat ose kufizimet që i dhanë formë rezultatit.

Së dyti, a e di kur nuk duhet të përgjigjesh? Në rregullimet e marrjes së lartë, një sistem i dobishëm i AI nuk është ai që gjithmonë përgjigjet rrjedhshëm. Është një person që mund të dallojë paqartësinë, shtyrjen, të përshkallëzohet ose të thotë se e di ose jo kur besimi është tepër i ulët. LLM rrallë do ta bëjë këtë siç është optimizuar të përgjigjet, edhe kur nuk e di përgjigjen.

Së treti, a mund të kontrollohet pas faktit? Nëse një rregullator, klient apo rishqyrtues i brendshëm pyet pse është marrë një vendim, ekipet kanë nevojë për më shumë se një rezultat besimi dhe një zëdhënës të përgjithshëm. Ata kanë nevojë për një shteg.

Së katërti, është arkitektura e përshtatshme për llojin e problemit që po zgjidhet? Kjo është ajo ku neurofizika Al bëhet direkt e rëndësishme. Sistemet neurale LLM-T janë të fuqishme në njohjen e modeleve dhe në elasticitetin e gjuhës. Sistemet simbolike janë të forta në rregulla, kufizime, qëndrueshmëri dhe auditueshmëri.

Kur një fletë e përhapur llogarit rezultatin e një formule, askush nuk e kontrollon dy herë nëse mund të ketë halucinacione për një përgjigje alternative. Kjo është që sipërmarrjet standarte kanë nevojë nga AI në hyrjet e rregulluara të punës.

Neurusenicical AI kombinon të dyja, duke përdorur aftësinë nervore për të interpretuar gjuhën dhe për të nxjerrë informacion, ndërsa zbaton arsyetimin simbolik për të përcaktuar dhe shpjeguar rezultatet. Organizatat, duke përfshirë edhe Grupin e Bankave Llojds, tashmë po i pilotojnë këto metoda në zilinë e rregulluar