Wendy Hall, experta en IA: “Es esencial que creemos máquinas que, llegado el momento, podamos desconectar”

Doctora en matemáticas, catedrática de ciencia computacional en la Universidad de Southampton, experta en inteligencia artificial y próxima doctora 'honoris causa' de la Universitat Oberta de Catalunya. Y, además, Dama de la Orden del Imperio Británico. Estos son algunos de los cargos que Wendy Hall (Londres, 1952) tiene en su currículum y que la acreditan como una de las grandes referentes en tecnología, hecho que tiene más mérito siendo como es una de las pocas mujeres del sector.

Durante su carrera se ha convertido en una activista por la igualdad de género en la tecnología, no solo por la paridad sino por lo necesario que será, según ella, contar con una mirada transversal de cara a un futuro en el que la Inteligencia Artificial será determinante en nuestras vidas.

¿Sabía que en la Universidad de Castilla-La Mancha hay unos premios con su nombre?

¿En serio? Hay mucha gente que me propone ponerle mi nombre a premios y siempre digo que sí. Igual me lo preguntaron, pero lo olvidé.

Así que es algo frecuente. ¿Cómo se siente?

Empieza a ser bastante abrumador. Pienso en Ada [Lovelace, matemática y autora de lo que se conoce como el primer algoritmo] o en Hedy Lamarr [actriz de Hollywood que puso las bases para la Wi-Fi]. Mujeres que solo fueron recordadas después de muertas. La sociedad siempre recuerda más a los hombres que a las mujeres porque... ¿Cómo digo esto sin ser desagradable? Nosotras pensamos en lógica de equipo. Creo que mi trabajo no habría sido posible sin un equipo y no tengo problema en firmar por orden alfabético, pero creo que he tenido menos crédito del que habría conseguido si hubiera puesto mi nombre el primero o hubiera firmado sola, que es lo que habría hecho un hombre.

En su campo de estudio debe ser todavía más difícil, porque la computación es uno en los que menos mujeres hay.

¡Absolutamente! Cuando tenía 16 años quería ser cirujana, pero mis profesores me dijeron que la medicina no era una carrera para mujeres. Y en 1969 no lo era. Como era buena en matemáticas, me enfocaron hacia ahí. Querían que estudiara en Oxford o Cambridge, pero me parecían universidades demasiado pijas, así que me fui a Southampton. Ahora lo pienso y creo que mis profesores tenían razón: habría sido horrible ser la única mujer en medicina, mientras que en matemáticas había muchas como yo.

Si tan a gusto estaba en las matemáticas, ¿por qué da el salto a la computación?

Porque realmente lo odiaba. Era profesora y el jefe de departamento me pidió que impartiera un curso de computación, de los primeros que hubo. Así que me formé en ello en mi tiempo libre y supe que quería hacer eso. Era el 'boom' de los ordenadores: los primeros PC empezaban a salir al mercado. Pero no había mujeres. He dedicado parte de mi carrera a intentar que haya más, pero he fracasado estrepitosamente. Así como la medicina sí que se ha feminizado, la computación sigue siendo un sector muy desagradable para las mujeres.

¿Por qué lo es?

Es algo muy cultural. En Asia y Oriente Medio hay muchas mujeres en el sector, cosa que demuestra que no es que tengamos un impedimento genérico. En occidente, la computación se ha erigido alrededor de la figura del 'friki', de alguien algo autista, poco amigable, que se relaciona mejor con las máquinas que con las personas y es muy difícil hacer que eso sea atractivo para las mujeres. Pero va a ser necesario, porque la Inteligencia Artificial (IA) va a tener un gran impacto social y necesitamos una industria diversa.

Si pienso en un desarrollador de IA, pienso en un hombre. ¿Qué sesgos tiene un sistema que no ha sido pensado desde la diversidad?

Sin equipos inclusivos, no hay justicia. Necesitamos diversidad de puntos de vista, no solo en lo relativo al género, sino también a la manera de ver el mundo. Necesitamos humanistas o artistas, no solo matemáticos. Lo que sea para abarcar todos los retos y amenazas de la IA para asegurar que los datos están a salvo y que no se usan contra ningún colectivo, queriendo o sin querer.

Si dejamos que la IA actúe sobre los datos actuales, dará resultados machistas, racistas o clasistas

¿Cree que tal y como está diseñada la IA actual, es machista?

Puede serlo porque muchos de los datos han sido recopilados de forma machista. El potencial de la IA es que podrá hacer el trabajo que nosotros no podemos, como analizar grandes cantidades de datos y cruzarlos entre ellos de maneras que a los humanos nos llevarían una vida. Pero, ¿qué pasa si estos datos no son una representación de la realidad? En una comisión del gobierno británico sobre las oportunidades de la IA en la salud, una mujer (negra, por cierto) me preguntó cómo se puede asegurar que la IA va a ser inclusiva, si parte de análisis clínicos que sólo se han hecho con hombres blancos.

Un ejemplo práctico: el Índice de Masa Corporal (IMC) se relaciona con la probabilidad de tener un ataque al corazón. Pero fue diseñado por y con hombres. Y los medicamentos cardíacos han sido testados en hombres. Los datos que analizará la IA, pues, son de hombres y no funcionarán con mujeres. Como científicos, no podemos obtener los datos que históricamente nos han faltado, ni cambiar la realidad, pero sí que podemos alertar que, si dejamos que la IA actúe sobre los datos actuales, dará resultados machistas, racistas o clasistas.

Si no se pueden enmendar las bases de datos, ¿cómo podemos asegurarnos de que las decisiones que se tomen a partir de los análisis de una IA no sean sesgados?

Lo esencial es mantener al ser humano en el proceso y no dejar nunca que sea la IA la que tome las decisiones. Para ello, es clave que siempre haya alguien que analice qué datos ha usado la IA para llegar a una conclusión. Es obvio que los humanos también nos equivocamos, pero no debemos pensar que las máquinas son siempre perfectas. Recuerdo cuando las calculadoras entraron en las aulas y, de repente, eras capaz de hacer operaciones complicadísimas en segundos. Genial, pero si introduces números erróneos, tendrás resultados erróneos. 2+2 nunca serán 5, no importa lo que diga la máquina. Y, si dice que son 5, debes tener un humano que mire qué ha pasado.

Entonces, ¿usted no subscribe a esas corrientes tecnofóbicas que dicen que la IA nos quitará el trabajo a todos?

La tecnología se va a llevar muchos trabajos, pero van a ser los trabajos aburridos o peligrosos. Esos trabajos que, si no fuera porque la gente tiene que pagar facturas y alquileres, nadie querría hacer. Y espero que eso nos ayude a aligerar carga y a conseguir la semana de cuatro días. Porque lo que nos quedará a los humanos son esos trabajos creativos, en los que se necesita un cerebro. Y podremos usar los tres días libres para pasar tiempo con la familia, aportar a la sociedad o reinventarnos para no quedarnos desfasados.

¿Qué tipos de trabajos va a quitarnos la tecnología?

La recolección agrícola, por ejemplo. Esos trabajos que, como decía, no quiere hacer nadie y que sería maravilloso que hicieran robots. Pero es algo que puede ser peliagudo, porque son los que suelen hacer las personas más vulnerables, así que hay que darles alternativa. En occidente no tiene por qué haber problema. Donde sí lo habrá será en la India o el África rural. ¿Qué vas a hacer si tu trabajo lo empieza a hacer un robot y tu estado no te garantiza una infraestructura para que estudies o subsidios para que puedas hacer frente a los gastos?

La tecnológica es una industria muy privatizada. ¿Son los estados los que tienen que garantizar estas alternativas o se debe pedir más responsabilidad a las empresas?

También es responsabilidad de la sociedad. Odio que esperemos a que los gobiernos nos solucionen las cosas; es cierto que pagamos impuestos, pero los estados no son siempre la respuesta. Las empresas tienen responsabilidades y nosotros también. La tecnología va a cambiar nuestra sociedad, lo vemos con cosas como el Chat GPT, que va a alterar el paradigma de la educación. O los trámites online, a los que una persona mayor no tiene acceso. Como sociedad, nos debemos comprometer y no aceptar estos cambios acríticamente: tenemos que tomar el tiempo libre que nos regalará la tecnología para ayudar a esas personas sin acceso a conexión o a dispositivos.

Es una visión muy optimista.

Lo sé. Pero, ¿quién crees que va a conseguir que haya pensiones o prestaciones para asegurar que la gente que se queda sin trabajo por la tecnología pueda sobrevivir? Si no es la ciudadanía, no va a ser nadie.

Antes mencionaba el Chat GPT, una IA que se ha vuelto muy popular y controvertida. ¿Qué opinión le merece?

Es una tecnología muy embrionaria. Dices que es popular, pero no lo es. Es solo una punta de iceberg que Open AI [la empresa desarrolladora del Chat GPT] ha usado de manera increíblemente ingeniosa para hacer marketing. Todavía comete muchos errores y no es capaz de hacer, al menos bien, todo lo que promete. Porque para hacerlo, requiere una cantidad ingente de energía que no se puede sostener mientras sea gratis. Vamos a empezar a pagar por ella pronto. Y ahí viene la jugada: hay muchas IA que hacen lo mismo que Chat GPT, pero Open AI ha conseguido que le llamemos a todas Chat GPT. Así que, cuando haya que pagar, todo el mundo va a ir ahí. Y gracias a eso, está consiguiendo financiación de grandes empresas como Google, porque ven que Chat GPT, cuando pueda procesar todos los datos de Internet, se va a convertir en otra manera de buscar información y va a amenazar su monopolio.

¿Qué va a ser capaz de hacer el Chat GPT cuando pueda procesar todos esos datos?

Es imposible de saber. Lo único claro es que no va a ser gratis y que no va a ser ecológico, porque necesita una cantidad enorme de energía. Pero lo que tenemos que tener claro es que lo que va a ser realmente transformador no va a ser el Chat en sí, sino el hecho de que una empresa tenga en el poder de gestionar una cantidad tan grande de datos. Quien pueda analizar y procesar la información es quien va a dominar el mundo. Y eso no tiene nada que ver con escribir redacciones escolares, que es lo que nos preocupa ahora del Chat GPT.

Ha habido muchos cambios desde que usted empezó en computación. ¿Cómo imagina el futuro dentro de 50 años?

Hay que asumir que la IA va a ser igual o más inteligente que nosotros y vamos a tener que aprender a trabajar con máquinas que van a ser capaces de crear. Ahora mismo, IA como el Chat GPT solo puede copiar y predecir la próxima palabra. Pero el problema vendrá cuando la tecnología pueda linkar una información con otra de una manera creativa, igual que nuestro cerebro. Ahí es cuando se abrirá la puerta a situaciones terroríficas tipo 'Black Mirror'. Cuando puedan escribir código, serán capaces de replicarse a sí mismas y debemos estar preparados para eso.

Ahora mismo, Chat GPT solo puede copiar. El problema vendrá cuando pueda linkar una información con otra de manera creativa, igual que nuestro cerebro

¿Habrá un momento en que tengamos que parar?

Ahora todavía podemos desenchufarlas. Y tenemos que aprender a controlarlas mientras tengamos esta opción. Es esencial que creemos máquinas que, llegado el momento, podamos desconectar, como lo es que nunca creemos una herramienta definitiva capaz de tomar decisiones. Si algo colapsa, siempre hemos de poder tomar el control. Y tener claro quién va a decidir cuándo hay que desconectarlas y por qué.

¿Quién debería decidirlo?

Es algo que se tiene que regular, porque las empresas siempre tendrán intereses detrás de esto. Tenemos que asegurarnos de que sean responsables de lo que hacen.

¿Tiene miedo?

[Suspira]. A menudo... [Silencio]. No.

Eso me hace sentir mejor.

Siempre que entendamos qué estamos haciendo e inventando. No es fácil. Si queremos culpar a alguien por el cambio climático, debemos echar la culpa a quien inventó la electricidad. Ahora bien, ¿podemos vivir sin ella? No. Ahora ya no hay marcha atrás, aunque lo que se ha hecho con ella esté destrozando el planeta. Tendremos que proteger el planeta digital igual que el planeta físico y evitar los errores que nos han llevado a esta crisis climática, que han sido causados, todos, por innovaciones tecnológicas.