Algoritmo hitza tekniko eta urruna iruditu arren, gure eguneroko bizitzaren parte da, modu sakonean. Algoritmoek erabakitzen dute sare antisozialetan zer albiste ikusten ditugun, mailegu bat onartzen ote diguten, edo zer hautagai aukeratzen dituzten lanpostu baterako. Are gehiago, administrazio publikoak ere erabiltzen ditu izapideak kudeatzeko.
Algoritmo bat, besterik gabe, datuetatik erabakiak hartzen dituen arau multzo bat da.
Arazoa sortzen da erabaki horiek, askotan ezkutuan, oinarrizko eskubideetan eragiten dutenean, gizarte-laguntzak jasotzeko eskubidean kasu. Sistema horietako opakutasuna arazo larria da herritarrontzat.
Zer da algoritmoen gardentasuna?
Algoritmoen gardentasunak defendatzen du sistema automatizatuak ezin direla “kutxa beltzak” izan. Edozein erabaki publikoren pareko gardentasuna izan behar dute. Horrek esan nahi du herritarrok eskubidea dugula erabakiak hartzen dituzten programen funtzionamendua ezagutzeko, haien irizpideak ulertzeko eta erantzukizunak eskatzeko, bidegabeak edo akasdunak direnean.
Ez da soilik iturburu-kodea irakurri ahal izatea, baizik eta erabakiak hartzeko prozesu automatizatua ulergarri eta auditagarri egitea. Horrek azalpen argiak, auditoria independenteak eta erantzukizunak bermatzen dituen lege-esparru bat dakar.
Opakutasunaren arriskua
Gardentasun horren garrantzia nabariagoa da akatsen eraginean pentsatzen dugunean. Giza akats batek pertsona bati eragiten dio eta zuzendu daiteke, baina gaizki diseinatutako algoritmo batek akats bera milaka aldiz errepikatu dezake, segundotan.
Bidegabekeria eskala handian gertatzen da.
Gauza bera gertatzen da joerekin. Algoritmo bat trebatzeko erabiltzen diren datuek desberdintasun historikoak (arrazakeria, klase-bereizkeria, matxismoa…) islatzen badituzte, sistemak ez ditu bakarrik oinordetzan jasoko, baizik eta handitu egingo ditu. Alborapen horiek detektatzeko eta zuzentzeko modu bakarra azterketa publikoaren bidez da, eta hori gardentasunarekin bakarrik da posible.
BOSCO, mugarri bat?
Adibide garrantzitsu bat BOSCO algoritmoa da, Espainian bonu sozial elektrikoa jasotzeko erabiltzen dutena. Urteetan zehar, haren funtzionamendua misterio bat izan zen, eta milaka familiak ez zekiten zergatik ukatzen zitzaien laguntza.
Civio erakundeak borroka legala hasi zuen kodea eskuratzeko. Arrazoitu zuten herritarren eskubidea zela funtsezko zerbitzuei eragiten dien tresna publiko baten funtzionamendua ezagutzea. Auzitegi Gorenak azkenean Civio-ren aldeko epaia eman du. Zazpi urteren ondoren. Epaian argi uzten da ez jabetza intelektualak ez segurtasun-argudio generikoek ezin zutela informazioa ukatzeko aitzakia gisa balio, baldin eta erabakiek gizarte-eskubideetan eragin zuzena badute.
Epai hau aurrekari historikotzat jo behar da.
Gardentasuna eta software librea
Batzuek diote algoritmo baten funtzionamendua erakusteak segurtasuna arriskuan jar dezakeela. Hala ere, honek sekretismoa eta segurtasuna nahasten ditu. Sistema baten benetako segurtasuna ez dago hura ezkutatzean, baizik eta sendo diseinatzean. Hainbat pertsonak berrikusitako algoritmo ireki bat, sortzaileek bakarrik ezagutzen duten kode itxi bat baino seguruagoa da.
Beste batzuek jabetza intelektualari egiten diote aipamen. Baina copyrightak ezin du oinarrizko eskubideen gainetik egon. Oinarrizko zerbitzuetarako sarbidea zehazten duten algoritmoez ari garenean, interes orokorrak beti egon behar du interes ekonomikoaren gainetik.
Algoritmoen gardentasuna estuki lotuta dago software librearekin. Kode itxiak, copyright bidez babestuta, azterketa kolektiboa eragozten du, eta interes publikoko erabakiak gutxi batzuen esku uzten ditu. Software libreak, aldiz, edozein pertsonari aukera ematen dio sistema ikuskatzeko eta hobetzeko, ezagutza egokiak baldin baditu.
Askatasun honek justizia handiagoa bermatzen du eta gizarte-konfiantza sustatzen du. Sistema bat ahuldu beharrean, berrikuspen kolektiboak indartu egiten du. Guztioi eragiten digunak guztion esku egon behar duelako, eta hori ahalbidetzeko bide bakarra software librea delako.
Digitala izango ei den aroan…
…algoritmoen gardentasuna ez da gai tekniko bat, politikoa baizik. Automatizazioekin gizartea eta kohesio soziala indartu ala ahuldu nahi dugun erabakitzea da. Algoritmo opakoak onartzeak gure bizitza baldintzatzen duten arauak zalantzan jartzeko gaitasunari uko egitea dakar. Herritarren azterketaren menpe jartzeak, aldiz, teknologia ondasun komunaren zerbitzurako tresna bihurtzea dakar.
Legeak publikoak eta eskuragarriak izan daitezela eskatzen dugun bezala, gauza bera eskatu behar diegu gure eskubideetan eragiten duten algoritmoei. XXI. mendean, herritarren partaidetzak kodea ere hartu behar duelako barne.
Algoritmoen gardentasuna funtsezko printzipio demokratikotzat hartu behar da. Opakutasunak bidegabekeriari ateak irekitzen dizkio, eta gardentasunak erantzukizuna, akatsen zuzenketa eta gizarte-konfiantza bermatzen ditu. Ezin dugu onartu herritarron etorkizuna ezkutuko iturburu-kodeetan erabakitzea.
Algoritmoak, gero eta gehiago, gure bizitza arautzen duten lege ikusezin berriak dira eta publikoak eta eztabaidagarriak izan behar dute, era berean, gizartearen kontrolpean egon behar dute.
Goiburuko argazkia: Andrew Shiva, CC BY-SA 4.0.
