Mungesa e të dhënave gjinore rrezikon përfaqësimin në AI

Sipas të dhënave të qeverisë britanike, një organizatë nga gjashtë në Britani ka filluar tashmë të përdorë mjete inteligjence artificiale. Këto teknologji ofrojnë mundësi të jashtëzakonshme për përshpejtimin e proceseve, optimizimin e rrjedhës së punës dhe vendimmarrjen në kohë reale. Megjithatë, shpeshherë përfundimet e AI-së pranohen pa e kontrolluar integritetin e të dhënave që i ushqejnë, duke e lënë të pamundësuar zbulimin e paragjykimeve të brendshme.

Paragjykimi në AI lind kur modeli trajnohet me të dhëna të paplota, të pasakta ose të ngarkuara me paragjykime. Një shembull i dukshëm vjen nga studimi i Londrës së Shkencave Ekonomike (LSE), i cili zbuloi se modelet gjuhësore të mëdha, si Google Gemma – të përdorura nga mbi 50 % e autoriteteve lokale në Mbretërinë e Bashkuar për të ndihmuar punonjësit social – mund të sjellin paragjykime gjinore në vendimet për kujdesin shëndetësor. Në analizën e tyre, termat “i çrregulluar”, “i paaftë” dhe “kompleks” u shfaqën më shpesh në përshkrimet e burrave sesa të femrave, duke rrezikuar që gratë të mos përfitojnë trajtime të barabarta.

Paragjykimet gjinore nuk kufizohen vetëm në sektorin shëndetësor. Sipas revistës Nature, modelet e mëdha gjuhësore prezantojnë gratë në pozicione profesionale – veçanërisht në rolet me ndikim të lartë – si më të reja dhe me përvojë më të pakët se burrat, duke i vënë në rrezik karrierën e tyre në proceset e rekrutimit dhe perceptimin në vendin e punës. Me rritjen e përdorimit të AI-së agjente, e cila vepron në mënyrë autonome brenda parametrave të përcaktuara nga përdoruesi, rreziku i veprimeve të paragjykueshme përshkallëzohet, duke sjellë pasoja etike, sociale dhe financiare.

Rregulloret evropiane për AI, si Akti AI i BE-së, kërkojnë që grupet e të dhënave të jenë përfaqësuese dhe që paragjykimet të eliminohen në mënyrë aktive, me dënime deri në 30,5 milionë paund për mosrespektim. Për këtë arsye, menaxhimi i duhur i të dhënave – përmes qeverisjes, integrimit, pasurimit dhe analizës gjeohapësinore – bëhet thelbësor. Organizatat që injorojnë këto shtylla rrezikojnë jo vetëm paragjykime në AI, por edhe shkelje të rregulloreve dhe humbje financiare për shkak të vendimmarrjes së bazuar në informacione të pjesshme ose të përçarë.