Un observatori per a promoure un enfocament humà i ètic sobre diversitat i mobilitat en la intel·ligència artificial

Un Observatori i Think tank especialitzat en les implicacions ètiques de la intel·ligència artificial (IA) i la seua relació amb la societat quant a les qüestions de diversitat. Aquest és el projecte que llancen la Universitat Politècnica de València (UPV) i l’enginyeria i consultoria Ineco.

Segons assenyalen els seus impulsors, aquest observatori farà una atenció especial “a identificar patrons i desigualtats relatius a la mobilitat i la diversitat; conscienciar i sensibilitzar sobre possibles barreres; així com incorporar reflexions cap a una mobilitat inclusiva”.

L’Observatori es desenvolupa sota la premissa que la IA “no sols ha de ser una eina eficient, sinó també una força positiva que beneficie tota la humanitat, reduint els riscos que puguen derivar-se del seu ús”. L’observatori actuarà com un centre d’estudi i anàlisi, reunint experts en ètica, tecnologia, economia, dret, sociologia i altres disciplines rellevants per a explorar les interaccions complexes entre la IA i la societat. 

Els aspectes sobre els quals s’articularà l’estudi del projecte són el biaix algorítmic, la privacitat i la protecció de dades, la responsabilitat corporativa, l’ètica en la presa de decisions autònomes, la interacció humà-IA, l’ètica en investigació i el desenvolupament de la IA i la governança i la regulació.

La constitució d’aquest Observatori i Think tank s’ha formalitzat aquesta setmana amb la signatura d’un conveni de col·laboració entre Sergio Vázquez, president d’Ineco; José Capilla, rector de la UPV; i Nuria Lloret, catedràtica de la UPV i directora de l’Observatori.

En paraules del president d’Ineco: “Aquest conveni no sols és mostra del valor que per a Ineco té el coneixement que aporten les universitats públiques espanyoles, sinó també del nostre compromís amb el desenvolupament d’una tecnologia amb ànima”.

El rector de la UPV ha assenyalat durant aquest acte que la IA “és una cosa que ha arribat i ens facilitarà la vida. No hem de tindre-li cap por, el que hem de fer és incorporar-la. Però sabem que els models generatius tenen els seus biaixos i que cal solucionar aquests problemes. En aquest sentit, benvingut siga un Observatori com el que hui presentem, que vetlarà per la qualitat de l’ús de la IA evitant problemes de discriminació i afavorint la igualtat i la diversitat”.

Per part seua Nuria Lloret, subdirectora de l’Institut d’Investigació de Disseny i Fabricació (IDF), ha indicat que, si bé l’avanç i l’expansió de la IA han revolucionat la societat en múltiples aspectes, des de l’automatització de tasques fins a la presa de decisions en àrees crucials com la medicina, l’educació, les finances o la ciberseguretat, “aquest progrés tecnològic també planteja desafiaments ètics i socials que han d’abordar-se de manera exhaustiva. Per això naix aquest Observatori”, ha destacat.

Lloret, escollida per a l’Observatori, és referència internacional en l’àmbit de la diversitat en els entorns acadèmics i empresarials, a més d’una experta reconeguda en la mentoria de dones joves cap als estudis STEAM. No debades, la catedràtica de la UPV ha sigut professora convidada de la Nova York University i del Tecnològic de Monterrey, ha dirigit més de 50 projectes d’investigació a escala nacional i europea i és la fundadora de la plataforma Atenea: Women in Art and Stem i membre de la plataforma d’Estudis de Gènere de les Universitats Espanyoles.

Entitats participants

L’Observatori en Intel·ligència Artificial i Diversitat compta amb l’Associació de Dones Empresàries i Professionals (EVAP), Woman in AI i la Fundació Diversitat com a entitats col·laboradores especialitzades en diversitat. També hi participaran la xarxa de dones mINerva i la xarxa de diversitat IRIS, totes dues nascudes en Ineco.

Aquestes entitats testaran les eines d’IA en una primera fase “sense coneixement” i, posteriorment, faran una formació per a desenvolupar la segona part del testatge. Les dades recopilades s’analitzaran per a fer comparatives d’ús “amb coneixement en matèria d’intel·ligència artificial i sense”.