Informe COIT/COETC: reflexions entorn de la Intel·ligència Artificial

 

depositphotos 252747016 xl-2015 copia-min

L'informe "Superant els riscos d'una intel·ligència artificial sense ètica ni regulació" és fruit del treball del grup de Polítiques Públiques i Regulació del Col·legi. La coordinació d'aquest document ha estat a càrrec de José Antonio Portilla, que també ha participat en la seva redacció. La resta dels autors són: Eduardo Rodríguez, Juan SantaellaNoelia Miranda i Sonia Castillo.

Aquest Informe s'ha plantejat d'una banda com un document explicatiu, des d'una visió tècnica, de la Intel·ligència Artificial (IA), però també com un document de reflexió sobre les seves profundes implicacions per a la societat.

Els seus autors han volgut fer valdre els aspectes de transformació positiva que comporta la IA i alhora promoure un acostament crític a altres aspectes que mereixen una atenció especial.

La raó és, com assenyala el mateix informe en la seva introducció, que "la Intel·ligència Artificial és present en les nostres vides, ja en el moment actual, i estarà molt més present, gairebé omnipresent, en el futur".

Conseqüències en tots els camps

Aquesta omnipresència tindrà implicacions més enllà del pla tecnològic i de manera destacada en el pla econòmic. Segons l'OECD el 14% dels llocs de treball estan en risc d'automatització i el 32% es transformaran radicalment. Però també hi haurà implicacions en el pla legal, sociològic, i fins i tot ètic i filosòfic.

"Superant els riscos d'una intel·ligència artificial sense ètica ni regulació" ofereix en la primera secció un repàs clarificador a les tècniques i tecnologies que major impacte estan tenint actualment en aquest àmbit. Entre elles, cal assenyalar l'aprenentatge automàtic, la cooperació, persona-màquina (clau per a la indústria), la generació de llenguatge natural, la visió artificial o els sistemes encastats. En aquest apartat l'informe deixa clar que la IA "és un conjunt de tecnologies i no una única tecnologia".

Aplicacions conegudes i insospitades

La segona part de l'informe se centra en alguns exemples d'aplicació. Un dels més coneguts és l'àmbit de la salut. Aquí la IA ofereix moltes possibilitats i entre elles el monitoratge en temps real de dades biomètriques que permeten fins i tot detectar amb antelació situacions com un atac epilèptic.

Un altre àmbit habitual és el de la seguretat, però l'informe revela també aplicacions menys conegudes de la IA, com per exemple la conservació de la naturalesa a partir del seguiment de la vida salvatge. I, per descomptat, fa referència al sector de les telecomunicacions, i en concret la gestió de les xarxes 5G.

La intensitat de la recerca per a noves aplicacions de la IA en l'àmbit mundial s'aprecia en estadístiques com les de l'Organització Mundial de Propietat Intel·lectual. En l'última dècada el nombre de patents d'aquest organisme relacionades amb tècniques de IA ha crescut exponencialment.

Implicacions socials i ètiques

En aquest apartat l'informe posa més l'accent en les llums i ombres de la IA. Així, per exemple, si bé la IA introduirà major eficiència en nombrosos treballs també és cert que suposa un risc de fractura social a causa de la desocupació i la bretxa de qualificació que pot generar.

S'albiren beneficis clars per al sistema educatiu gràcies a la IA i així ho ha assenyalat la mateixa UNESCO, però la seva irrupció en aquest àmbit "requereix un debat públic sobre ètica, responsabilitat, transparència i seguretat".

Els algorismes són elements determinants per a la IA. En aquest punt l'informe adverteix que "tenim un seriós risc que es produeixin biaixos en les decisions adoptades que estiguin en obert conflicte amb els nostres principis d'igualtat i no discriminació, que agreugin el ja per si mateix complicat problema dels prejudicis socials de tota mena i que condicionin negativament les oportunitats i expectatives de vida de molts ciutadans".

En aquest sentit, la Comissió Europea ha establert en els seus Principis Ètics la necessitat d'un enfocament de la IA que tingui com a objectiu principal millorar el benestar dels éssers humans.

Els sistemes de valors també es veuran afectats pel creixement de la IA. Segons l'informe, la reconeguda filòsofa moral Judith Jarvis Thomson, ja va anticipar en els anys vuitanta les dificultats de la IA "per a trobar la solució d'un dilema humà complex".

IA i poder

La IA no serà aliena al poder geoestratègic del futur, i al repartiment de poder dins de les societats. Tenint en compte que es manejaran grans quantitats de dades què pot ocórrer si l'accés és asimètric i només una minoria pot obtenir-lo i utilitzar-lo deixant a la resta com a mers usuaris? Aquesta és una de les qüestions crucials que planteja l'informe.

El tema del poder és rellevant perquè la IA ja no sols forma part de l'ambient científic i acadèmic, sinó que s'ha integrat en l'àmbit de les polítiques nacionals.
Cinc països han pres la davantera en aquest àmbit: el Canadà, el Japó, Singapur, la Xina, Emirats Àrabs i Finlàndia.

Aquest informe del Col·legi ha identificat també els principals objectius estratègics que haurien de presidir les polítiques IA. Entre elles estan la millora del sistema educatiu, de la indústria, de l'administració i de la retenció del talent, però també l'ètica.

Responsabilitat dels agents

Una de les principals conclusions de l'informe és que "no ha de renunciar-se a les possibilitats i bondats de la Intel·ligència Artificial, però això ha de fer-se des de l'òptica de l'ètica i responsabilitat". A això afegeix que: "les implicacions morals i ètiques de la Intel·ligència Artificial concerneixen a tots els agents involucrats d'una manera o una altra en ella. En particular, els perfils científics i tècnics desenvolupadors de la IA han de ser conscients d'aquestes noves implicacions que comporta el seu treball" (Foto: ICS/*Depostphoto).

Baixa't aquí l'informe

Consulta aquí el número 214 de la nostra revista BIT amb un especial sobre Intel·ligència Artificial