Ética e inteligencia artificial en el trabajo

En la película Gattaca, los trabajadores de la empresa de élite que da nombre al largometraje son seleccionados por su información genética, que ha sido prediseñada en la mayor parte de los casos y que se utiliza de manera predictiva para conocer el potencial desempeño futuro de los trabajadores. Igualmente, los trabajadores son sometidos a controles continuos, incluyendo un pinchazo en el dedo al pasar el torno de ingreso a los edificios corporativos, que permite a la empresa recolectar la sangre de sus empleados y refrescar su información genética como medida de identificación y control.

Si esa película se hubiera estrenado en la actualidad y no en 1997 se podría haber incorporado fácilmente a la historia alguna forma de comercialización de los datos personales de los trabajadores o el control de estos más allá de los límites físicos de la compañía, gracias a los dispositivos móviles que los empleados llevarían encima de manera “voluntaria”. Aunque esa incursión en la privacidad nos habría obligado a renunciar a la parte más interesante de la trama, no podríamos dejar de tener en cuenta que la supervisión del consentimiento forma hoy parte de nuestro día a día. Como dice Shoshana Zuboff en su libro El capitalismo de la supervisión, si algo es gratis es porque la mercancía eres tú, porque es algo que se hace desde nosotros pero no para nosotros. Es la idea que se defiende también en el documental de Netflix El dilema de las redes sociales donde éstas se nos presentan no como un nuevo espacio público sino como un nuevo espacio comercial en el que las personas somos los productos y donde se parametriza nuestro comportamiento con gran precisión.

Las novelas y películas de ciencia ficción están llenas de alusiones y propuestas de control de los trabajadores, de clasificación de los mismos, de manipulación y predicción de sus comportamientos a través de la tecnología, ya sea a través de otros humanos que utilizan las máquinas para controlar a los trabajadores, como la mujer-máquina de Metrópolis, o directamente a través de las máquinas, como en Matrix, donde los trabajadores son usados como baterías para generar la energía que estas necesitan para sobrevivir. Pero no hace falta recurrir al fascinante mundo de la ciencia ficción: los catálogos de las empresas de lo que se denomina “employee monitoring solutions” están bien surtidos. Se estima que, en 2023, esas empresas moverán 3.840 millones de dólares. Y es que, por ejemplo, el 98% de las empresas del índice Fortune 500, que reúne a las más grandes del mundo, utilizan inteligencia artificial para sus procesos selectivos, argumentando que se trata de mecanismos menos discriminatorios que los no digitalizados, cuando sabemos que los algoritmos que están detrás de dichos mecanismos han sido diseñados por personas que normalmente son varones blancos y que han vertido sus prejuicios sexistas, racistas u homófobos en el diseño, que a su vez se nutre y aprende de datos basados en una realidad que también es sexista, racista, clasista y homófoba. 

El catálogo de productos a disposición de las empresas para la gestión de su mano de obra aparece en rankings publicados en revistas como PC Magazine. Entre ellos podemos encontrar los siguientes: monitoreo sigiloso, captura de vídeo en tiempo real, control remoto del teclado, rastreo de documentos y archivos, reconocimiento óptico de caracteres, capturas de pantalla borrosas, alertas automatizadas, registro de tecleo, rastreo de ubicación, configuración de privacidad del usuario. También hardware como brazaletes, gafas inteligentes o dispositivos de asistencia que recogen datos sobre las paradas que hacen los trabajadores, su rigor a la hora de trabajar o su productividad. El más conocido de todos ellos es tal vez el brazalete que en 2017 repartió Amazon entre sus trabajadores para, en teoría, ayudarles a localizar la mercancía en los almacenes, pero que en realidad implica un monitoreo constante de los mismos, lo que ha llevado a una competición feroz por la supervivencia dentro de la empresa. Por eso no es de extrañar que en las máquinas expendedoras de los almacenes de Amazon en Estados Unidos los analgésicos se puedan adquirir de forma gratuita. A estos productos podríamos añadir también las tecnologías de control genético o las de inteligencia artificial emocional, como la descodificación de las expresiones faciales, las voces y el movimiento de los ojos.

Los datos, la información que se recoge a través de software o hardware, alimenta bases de datos selectivas que son creadas desde estos mecanismos extractivos y que alimentan los algoritmos diseñados previamente por o para los gestores de las empresas. Estos algoritmos buscan regularidades e irregularidades, establecen una normalidad de la que los trabajadores no deben alejarse y crean mecanismos de predicción de comportamientos futuros, que permiten tomar sin participación humana decisiones que afectan a las personas. Sin embargo, esta obsesión por la métrica extrema no oculta el hecho de que sólo se miden en realidad algunos de los esfuerzos y trabajos que están detrás de los resultados laborales. Como llevamos años advirtiendo desde la economía feminista y señala muy bien Phoebe Moore en sus investigaciones, quedan fuera de dichas mediciones todo el trabajo de preparación y todo el trabajo doméstico y de cuidados, incluyendo el emocional, que se necesita para poder ser un trabajador productivo y que normalmente realizan las mujeres de forma no retribuida ni reconocida. Esta fiebre sociométrica fomenta pues la competitividad, nos aleja de la cooperación como rasgo humano y genera estrés y ansiedad. 

Es verdad que los intentos de control de la mano de obra no son nuevos y que cuando se dan cambios en los procesos productivos éstos suelen traer aparejados cambios en la gestión de los espacios y los tiempos de la mano de obra. Entre los temas que más disfruto dando en mis clases de historia económica está el impacto que tuvo la puesta en marcha del sistema fabril para el disciplinamiento de los trabajadores, o, en mis clases de historia empresarial, las propuestas del taylorismo. No obstante, las nuevas tecnologías han abierto un mundo de posibilidades de supervisión y control que antes no existía y que el gran confinamiento está acelerando. De hecho, el mundo COVID-19 está actuando como catalizador de lo que será el trabajo en el futuro y, en ese sentido, esta segunda ola de la pandemia está normalizando aquello que durante la primera veíamos sólo como excepción.

Todo ello explica que muchos parlamentos y gobiernos se hayan apresurado a desarrollar normativas que deben dar respuesta a la aceleración del cambio digital en el mundo del trabajo. Así, se está comenzando a regular el teletrabajo y ciertos aspectos relacionados con la digitalización de las relaciones laborales, como el derecho de los trabajadores a desconectar. Pero, con todo, las tecnologías y los cambios en el mundo laboral se suceden a mayor velocidad que los cambios normativos. Por eso es necesario regular también la dimensión ética de las nuevas tecnologías, para que sirva de paraguas para normativas específicas y de guía para establecer los límites que deben imponerse al desarrollo de aquéllas. El desafío es, por tanto, lograr que las regulaciones sean tan ambiciosas como flexibles.

Se trata de una labor complicada, porque el desafío digital al mundo del trabajo, especialmente el desarrollo de la inteligencia artificial, la robotización y otras tecnologías relacionadas, abarca muchos aspectos. Desde la alteración de la demanda de trabajo y el consiguiente reparto de ese trabajo, la modificación de la competitividad de regiones o países, o los cambios sectoriales que pueden suponer la desaparición de industrias o profesiones tal y como los conocemos y la aparición de otros que ahora ni siquiera sospechamos—se supone que un 65% de los niños y niñas actuales tendrán trabajos que todavía no existen—, hasta los cambios en la educación y la formación de los trabajadores, los espacios y los tiempos de trabajo y de vida, las formas de organización y las propias relaciones laborales (de los trabajadores entre sí y de éstos con sus empleadores), la regulación de dichas relaciones laborales, la remuneración del trabajo y los derechos asociados a la actividad laboral, o la conciliación de la vida laboral con la familiar y personal. Y también atañe a otras cuestiones que pueden suponer una vulneración de nuestros derechos fundamentales a través de una mayor y más eficiente supervisión y monitorización de nuestro trabajo y nuestras vidas, del uso mercantil de nuestros datos biomédicos o de la predicción de comportamientos. Esto ocurrirá, por ejemplo, si los algoritmos toman decisiones sobre quién mantiene o no un puesto de trabajo, o si discriminan abiertamente en función de la raza, el género o la orientación sexual, como consecuencia de un proceso de aprendizaje en el que no se han corregido los sesgos. 

Frente a este desafío, el Parlamento Europeo es una de las primeras instituciones en realizar recomendaciones sobre la necesidad de regular los aspectos éticos de la inteligencia artificial, la robotización y las tecnologías relacionadas. Esta iniciativa legislativa que se discute y vota esta semana en el pleno del Parlamento Europeo y de la que ha sido ponente mi compañero Iban García del Blanco, puede consultarse aquí. Obviamente, las recomendaciones van más allá de los aspectos laborales, pero éstos juegan un papel esencial en las mismas, tal y como queda reflejado también en las recomendaciones realizadas por el Comité de Empleo y Asuntos Sociales del Parlamento Europeo, de las que yo misma he sido ponente y también pueden consultarse aquí.

Básicamente, lo que pretende esta iniciativa legislativa es dar un empujón a la innovación digital y a la digitalización de la economía para garantizar la competitividad de la Unión Europea sin que esto implique en ningún momento la vulneración de los derechos fundamentales de la ciudadanía. Se espera además que ayude a fomentar el desarrollo de mercados de trabajo más inclusivos, la creación de empleos de calidad y la mejora del bienestar de las personas. Para ello es necesario que el desarrollo de la inteligencia artificial, contrariamente a lo que su nombre indica, sea humano, en el sentido de que debe guiarse por el respeto a los derechos humanos y a los derechos y valores fundamentales de la Unión Europea, incluyendo el mantenimiento del dialogo social y la negociación colectiva para garantizar la dignidad de los trabajadores, evitar el trato discriminatorio, salvaguardar la privacidad, impedir la supervisión ilegal y proteger el derecho a desconectar. Deben ser personas quienes se responsabilicen y tomen las últimas decisiones en todo lo concerniente a los trabajadores, y esto obliga a que los mecanismos de toma de decisión basados en la inteligencia artificial sean responsables, discutidos y reversibles cuando sea necesario, y se sometan a una evaluación continua a base de chequeos y controles.

Las decisiones en el ámbito laboral deben ser siempre transparentes, justas y eludir implicaciones negativas para los trabajadores; más bien deben ayudar a mejorar sus competencias, también las de las personas con discapacidades. En ese sentido, debería ser obligatorio informar a los trabajadores de los mecanismos de inteligencia artificial que se usan en las empresas, particularmente si se trata de productos o servicios personalizados, y está información debería ser accesible, comprensible y ajena a cualquier coacción para su aceptación. Por otra parte, los trabajadores deberían ser los dueños de sus datos incluso después de que la relación laboral haya terminado para así evitar cualquier vulneración de la privacidad, discriminación o daño reputacional.

Tenemos que poner en marcha regulaciones que consideren la privacidad y la protección de nuestros datos como derechos fundamentales y esenciales para el funcionamiento de nuestras democracias. Nuestros datos no son una mercancía y debemos garantizar la ausencia de coacción de modo que, en la medida de lo posible, la supervisión participativa sea voluntaria. Si bien se espera que las nuevas tecnologías contribuyan al desarrollo de mercados de trabajo más inclusivos e impacten positivamente en la seguridad y la salud de los trabajadores, también existe la conciencia de que pueden ser utilizadas para monitorizar, evaluar, predecir y guiar los resultados de los trabajadores con consecuencias directas e indirectas para sus carreras y sus vidas. En definitiva, dichas tecnologías deben comprometerse con el bienestar y la protección de los trabajadores y ser transparentes, seguras y respetuosas de sus derechos fundamentales en su entero ciclo de desarrollo, desde su diseño hasta que se implementan en el espacio de trabajo.

Aunque el desarrollo de la inteligencia artificial, la robótica y las tecnologías relacionadas puede ser inspirador y debería conducirnos a un mundo mejor, más justo e inclusivo, los peligros de la supervisión y el control que se pueden ejercer a través de ellas son también claros e inmediatos y están vinculados con asimetrías enormes de información y poder. No podemos prever el futuro, pero podemos intentar prepararnos para que éste se asiente sobre nuestros valores fundamentales y sobre los derechos, la dignidad y la autonomía de las personas como aspectos esenciales de nuestras democracias. La regulación es necesaria porque el desarrollo de las nuevas tecnologías no puede hacerse a expensas de la democracia. Del mismo modo que Thomas Piketty afirma que el capitalismo no se come crudo, podemos decir que las tecnologías no deben servirse crudas. La tecnología cruda es como la comida rápida, poco saludable.