2026ko martxoak 30
Bilbao
Algoritmoek erabakitzen badute nork jasotzen duen mailegu bat edo zein den genero indarkeria jasaten duen emakume baten arrisku-maila, mundu horretan teknologiaren neutraltasuna susmopean dago edo, zuzenean, ez da existitzen. Borja Sanz Urquijo da ‘Hic et nunc (Aquí y ahora), Análisis interdisciplinar del potencial y las limitaciones de la IA para la defensa de los derechos humanos desde un marco feminista’ tesiaren egilea. Berak ohartarazi duenez, teknologiari ez badiogu esparru feminista eta giza eskubideen esparrua aplikatzen, bidegabekeria aurrekaririk gabeko abiaduran automatizatzeko arriskua dugu.
Alborapena gauzatzen ari da emakumeek ordezkaritza txikia dutelako AAren sektorean: talentu globalaren % 22 baino ez dira, eta zuzendaritza postuen % 15 baino gutxiago. Adimen artifiziala gizonentzat diseinatutako historia klinikoez, ebazpen judizial partzialez edo gorroto matxistak aurrera egiten duen sare sozialetatik datozen makrodatuez elikatzen bada, algoritmoek egiturazko desberdintasunak erreproduzitzeko joera dute, baita anplifikatzekoa ere. ‘Ez-egiteagatiko alborapena’ deritzona da, non emakumeei buruzko daturik ez egoteak eredu batzuk sortzen dituen, eta, horren ondorioz, adibidez, emakumeengan bihotzekoak okerrago diagnostikatzen diren edo kreditu-kaudimena zorrotzago zigortzen duten.
Sanz Deustuko Unibertsitateko Ingeniaritza Fakultateko irakaslea eta ikertzailea da, eta ‘Hic et nunc‘ tesiarekin bi tesi egin ditu dagoeneko. Bere ikerketan, teknofobiaren eta teknobaikortasunaren arteko jarrera orekatua du, teknologiaren dimentsio bikoitza kontuan hartuta, tresna digitalek babeserako eta ahalduntzerako aukerak ere eskaintzen dituztela uste baitu, salaketa kanal seguruen, laguntza sareen eta alerta goiztiarreko sistemen bidez.
Erauzketa bidezko AAren amaiera
Orain arte, administrazioaren eta herritarren arteko harremana, tesian azaltzen duenez, erauzketa izan da. Sistemak xurgagailu handi batek bezala funtzionatzen du: pertsonen datu intimoak eta sentikorrak biltzen ditu, "kutxa beltz" batean prozesatzen ditu —algoritmo baten barne funtzionamendua misterioa izaten da askotan, baita sortu dutenentzat ere—, eta erabaki hotz bat itzultzen du.
"Sistema horiek eboluzionatu dezaketela uste dugu", dio Sanzek. Alborapenak eta birbiktimizazioa saihesteko proposamena da biktima "datu-hobi" hutsa den eredu horretatik hura ahaldunduko duen sistema batera pasatzea. Nola? Tresnaren diseinuan parte hartuz eta teknologiak arriskua sailkatzeko ez ezik, irtenbide gizatiar eta ukigarriak eskaintzeko ere balio duela ziurtatuz.
Intersekzionalitatea: kodetik haratago
Tesiaren puntu berritzaileenetako bat intersekzionalitatea programazioan aplikatu beharra da. Gaur egungo algoritmoak "itsuak" izaten dira pertsonaren ezaugarri diren nortasun-geruzekiko. Indarkeria jasaten duen emakume batek ez ditu erronka berberak izango migratzailea bada, garraio publikorik gabeko landa-eremu batean bizi bada edo desgaitasunen bat badu.
Sistema horiek diseinatzeko eta inplementatzeko orduan aldagai horiek kontuan hartzen ez badira, sistemak "puntu itsuak" sortzen ditu. Tesiak proposatzen du AAk errealitate konplexu horiek ulertzeko gai izan behar duela, inor atzean ez uzteko, datuaren hoztasuna babes pertsonalizatuko tresna bihurtzeko.
‘Hic et nunc': AAren arauak ezartzeko une kritikoa
Tesiaren ondorioa berehalako ekintzarako deia da. Izenburuko ‘Hic et nunc’ horrek lanean hasteko eskatzen dio gizarteari, orain ari baitira idazten datozen hamarkadetan gure bizitzak gobernatuko dituen AAren arauak.
Azken proposamena da "efizientziaren etika"-ren ordez "zaintzaren etika" jartzea. Horrek esan nahi du AA baten arrakasta ez litzatekeela soilik haren zehaztasun
estatistikoaren arabera neurtu behar, baizik eta giza duintasuna babesteko, gardentasuna bermatzeko eta edozein pertsonak bere bizitzari buruzko erabaki bat zergatik hartu duen makinak ulertu eta zalantzan jarri ahal izateko duen gaitasunaren arabera.
Azken batean, ‘Hic et nunc’ tesiak gogorarazten digu adimen artifiziala, batez ere, giza tresna bat dela. Eta, beraz, berdintasunaren eta justiziaren zerbitzura egon behar du, ez iraganeko aurreiritzien zerbitzura.
