1.5 La IA explicable

En realitat, això de lexplicabilitat —paraula que ens atrevim a proposar des del ciutadan-IA perquè encara no en tenim cap en català que ens convenci prou per representar aquesta idea— no és cap nimietat. En els més de 60 anys de vida de la IA, hem passat d’uns primers algorismes que es prenien tot el temps del món per resoldre la demostració d’un teorema amb una certa gràcia o per preocupar-se de si Kasparov podria guanyar o no la seva partida d’escacs, a una nova generació d'algorismes que en pocs segons decideixen per tu quina pel·lícula t’agradarà més veure demà, si el banc et donarà o no el crèdit per comprar el pis, per quina carretera anem de casa a aquella muntanya meravellosa que hem vist a la televisió i ens han vingut ganes d’escalar, o si la senyora del 5è té una tomografia patològica i requereix urgentment un tractament oncològic...

Síiiiiiiii.... la IA ha deixat enrere l’adolescència i ha començat a donar consells a tort i a dret, a tothom qui li demana —i, el que és més preocupant, fins i tot a qui no li demana!—, en una escalada sense precedents des de la calculística complexa, a la total ingerència en l’àmbit de la presa de decisions.

Exercici 1.2

Indica en quines d’aquestes situacions on intervé una IA creus que és imprescindible que disposi de capacitat d’explicar les decisions que pren, o recomanacions que proposa:

Si
No

El recomanador de cançons d’Spotify quan ens proposa una cançó

El GPS del cotxe quan ens proposa una ruta per anar de casa al lloc que li indiquem

El reconeixedor facial de l’entrada del Mobile World Congress quan denega l’entrada a una persona

El sistema de diagnòstic basat en imatge mèdica quan indica existència de càncer en una tomografia

L’assistent intel·ligent que proposa el currículum que millor s’ajusta a una determinada oferta de treball

El sistema intel·ligent que proposa si a un client d’un cert banc se li aprova o denega una sol·licitud de crèdit

El sistema que ajusta els paràmetres fotogràfics d’una càmera intel·ligent quan es vol fer una fotografia

El sistema intel·ligent que proposa una estructura de wetland (o depuradora d'aiguamoll) per un cert municipi de Catalunya

L’execució d’un programa de cuina de diversos plats simultanis amb la Thermomix

El model que efectua predicions de contaminació atmosfèrica a la ciutat de Barcelona que dispararan eventuals restriccions de mobilitat urbana a la ciutat

Sens dubte el desenvolupament tecnològic vertiginós que hem viscut en la segona meitat del segle XX ha propiciat un progrés d’aquesta disciplina que ha permès avenços espectaculars pel que fa als temps de còmput, cada cop més curts, requerits per resoldre problemes sempre més i més complexos, més i més delicats, i de tots els àmbits esperables, des dels videojocs fins la política, passant per la salut, el mediambient, la mobilitat o les finances. I és evident que en aquestes circumstàncies, si un algorisme ens ha de dir que mirem Star Wars, potser ens és ben igual com ho ha fet per endevinar que ens agradarà aquesta pel·lícula; total, si no l’encerta, amb no mirar-la, estem ben bé al cap del carrer....

Però és clar, si li ha de dir a l’alcalde de Sant Privat de Bas—per exemple— que posi una wetland (o depuradora d'aiguamoll) per depurar l’aigua del municipi, i no pas una depuradora de llots activats, la cosa ja es complica, i comença a ser imprescindible que a més de recomanar què cal fer, ens pugui explicar el per què de la decisió, oi?

Exemple 1.2

Un cas històric català d’aplicació de la IA on l’explicabilitat era crucial

L’any 2000, la Unió Europea publica la Directiva Marc de l’Aigua (DMA) (Directiva 2000/60/CE de 23 d’octubre del 2000). Es tracta d’una norma del Parlament Europeu i el Consell de la UE que estableix un marc general d’actuació comunitària en l’àmbit de la política de l’aigua. La DMA neix amb la vocació de garantir la protecció de les aigües i promoure l’ús sostenible que garntitzi la disponibilitat d’aquest recurs natural a llarg termini. Entre altres coses, la DMA té per objectiu garantir que al 2015 es tingui un bon estat de les masses d’aigua superficials del territori europeu. Directives prèvies regulaven el tractament d’aigües residuals urbanes per poblacions de més de 2000 habitants, però per les de menor grandària, només recomanaven el tractament necessari per garantir nivells de qualitat establerts pel medi receptor (on va a parar l’aigua depurada, generalment un riu).

De forma pionera al sud d’Europa, la Generalitat de Catalunya endega el 2002 el Pla de Sanejament d’Aigües Residuals Urbanes (PSARU 2002) amb la intenció d’abordar la instal·lació  de depuradores d’aigües residuals als municipis de menys de 2000 habitants de Catalunya, malgrat no ser encara obligatori en les regulacions europees de caràcter superior. I de forma més pionera encara, el PSARU estableix que s’utilitzarà un Sistema Intel·ligent de Suport a la Presa de Decisions (IDSS) per decidir quin tipus de depuradora és més convenient per a cada municipi, d’entre uns quants dissenys més o menys sofisticats de depuradores. Un conveni entre l’Agència Catalana de l'Aigua i un consorci de grups de recerca, que formaven part de la Xarxa Temàtica “Monitorització i modelització com a eines de suport per a la millora de la qualitat de l’aigua”, (1999XT 0037, 2001XT 0030, 2003XT 0069) va establir el desenvolupament d’aquesta Intel·ligència Artificial durant el període 2000-2005, amb l'objectiu de seleccionar el sistema de tractament i disposició de les aigües residuals més adequades per a 3500 comunitats amb menys de 2000 habitants a Catalunya. El consorci el formaven cinc grups de recerca en enginyeria ambiental de diferents universitats, un grup de recerca en Intel·ligència Artificial, i un Centre de recerca del CSIC (LEQUIA-UdG, grup de Sensors i Biosensors-UAB, grup de Biotecnologia Ambiental-UAB, Laboratori d’Edafologia-UB, grup KEMLG-UPC i CEAB-CSIC) i sota la direcció de la UdG va treballar per adquirir i sistematitzar els coneixements requerits i desenvolupar un sistema capaç de reproduir el procés de raonament d'un grup d'experts enfront de la complexa situació en qüestió, de tal manera que, donades les característiques demogràfiques, de sol i paisatgistiques del municipi, l’IDSS suggeria el tipus de depuradora més adient. És evident que en una situació com aquesta, no n’hi havia pas prou que el sistema indiqués on calia instal·lar una wetland o una depuradora de llots activats senzilla, sinó que el diagnòstic havia de venir acompanyat de l’argumentari necessari per a que els experts poguessin entendre no solament els motius de la IA per suggerir aquella solució, sinó també de les peces intermitges del procés que l’havia portat a construir aquella solució.

Aquest és un exemple de com la IA pot contribuir a donar suport a la decisió en situacions complexes, en aquest cas, decisions d’alt nivell, relacionades amb les polítiques de l’aigua, i contribuir a desenvolupar un territori amb molta més cel·leritat que s’hagués fet sense l’ajut d’aquest sistema. Tanmateix, aquest és també un exemple que contribueix, de forma més pionera encara als ODS 6, 11 i 13 de l’agenda 2030.