La Karma Peiró, periodista especialitzada en tecnologies de la informació i la comunicació, ha estat treballant darrerament sobre l'ús dels algoritmes de decisió automatitzada i el passat mes de febrer va publicar l'informe Intel·ligència artificial. Decisions automatitzades a Catalunya, elaborat amb l'Autoritat Catalana de Protecció de Dades. Vam tenir una conversa sobre la presència de la intel·ligència artifical en diversitat d'espais de la nostra vida —molts dels quals desconeixem—, els seus beneficis, riscos i biaixos.

Escolta-ho a Spotify | Google Podcasts | Apple Podcasts | iVoox | YouTube

La Karma explica que els algoritmes es poden definir com «un conjunt d'ordres que cal seguir per resoldre els problemes que tenim», com pot ser una recepta de cuina, i mentalment els fem servir en el nostre dia a dia. Però parlem sobre els algoritmes de decisió automatitzada, que són aquells que ens permeten trobar la millor ruta en un mapa o rebre recomanacions de sèries adaptades als nostres gustos. «Aquesta tecnologia fa més de 50 anys que existeix, el que és nou és que fins ara no teníem prou volum de dades ni la capacitat de computació que hem assolit ara, i per fi podem veure com allò que fins ara era teoria o experiments ara es pugui veure en milers d'aplicacions».

En aquesta posada en pràctica, apareixen també els riscos ètics associats a aquesta tecnologia. «Diria que fins fa poc les nostres empremtes digitals només les tenia la policia, perquè era la manera de reconèixer una persona que havia comès un delicte. En canvi ara concedim lleugerament la nostra empremta digital a una aplicació del banc que a través del mòbil ens fa la vida més fàcil. Tot això és un perill perquè no ens preguntem qui hi ha darrere, què faran amb les nostres empremtes digitals o els nostres trets facials».

Un altre dels grans riscos que destaca la Karma és que totes les dades estan esbiaixades, de la mateixa manera que totes les persones tenim prejudicis. «Amazon va voler reclutar desenvolupadors de programari i l'algorisme no va seleccionar cap dona. Es va equivocar l'algorisme? No, es va entrenar amb currículums d'èpoques anteriors en què no hi havia dones desenvolupadores de programaris, i per tant puntuava més baix els currículums de les dones». I es pot entrenar un algoritme sense que les dades estiguin esbiaixades? «És molt difícil, perquè necessites tal volum de dades que sovint vas al passat i en el passat no èrem conscients d'aquests biaixos».

Ara bé, també destaca les bondats de la intel·ligència artificial, sempre i quan en els sectors més sensibles no sigui la responsable de les decisions finals, que han de ser preses per una persona. «La intel·ligència artificial i el metge junts són molt perfectes, perquè el metge veus coses que l'algoritme no, i l'algorisme troba patrons que l'ull humà no veu; l'algoritme mira els arbres i el metge contempla el bosc», explica citant Ramón López de Mántaras, investigador del CSIC.

La Karma defensa que hem de ser més conscients de l'ús que es fa de les nostres dades, però que la responsabilitat no ha de recaure en les persones usuàries, sinó que cal més regulació. En tot cas, convida a mirar la part positiva de la tecnologia. «Siguem conscients dels seus riscos, però sobretot aprofitem els avantatges de la tecnologia que tenim, tant de la intel·ligència artificial com de totes les aplicacions derivades d'internet, per crear un món millor».

Segueix La Trucada.