La Eurocámara pide que los contenidos generados por Inteligencia Artificial como ChatGPT lleven una advertencia

Si quieres ponerle al papa un abrigo moderno o difundir una imagen de Donald Trump arrestado por la policía, será necesario que dejes claro que lo has hecho utilizando sistemas de Inteligencia Artificial. Es una de las medidas que el Parlamento Europeo quiere introducir en la legislación que impulsó la Comisión Europea en abril de 2021. Nadie hace unos años se había imaginado que se tendría que regular algo así. Cuando Bruselas lanzó su propuesta legislativa aún no se había popularizado ChatGPT, el programa que podría estar redactando esta noticia. Los eurodiputados han incluido los denominados sistemas generativos en los elementos que deben ser regulados.

La creación de contenidos (textos, vídeos, imágenes...) a través de Inteligencia Artificial deberán cumplir una serie de obligaciones de transparencia. Básicamente informar de que se han creado mediante ese método. Es una forma de evitar la desinformación. Además, los desarrolladores tendrán que diseñar el modelo para evitar que se genere contenido ilegal. Proteger el copyright de los materiales utilizados también es uno de los objetivos: habrá que publicar resúmenes de datos protegidos por derechos de autor que han sido utilizados.

Los eurodiputados también quieren poner límites al uso de la Inteligencia Artificial, por ejemplo, en el entorno laboral. Si una empresa lo quiere utilizar para hacer seguimiento de sus empleados, estos tendrán que estar al menos informados. “Antes de poner en servicio o utilizar un sistema de IA de alto riesgo en el lugar de trabajo, los implementadores consultarán a los representantes de los trabajadores con el fin de llegar a un acuerdo e informar a los empleados afectados de que estarán sujetos al sistema”, recoge el texto aprobado en las comisiones de Mercado y de Libertades Civiles, que ahora tendrá que ser aprobado definitivamente en el Pleno para comenzar la negociación con los estados y la Comisión.

Otra de las preocupaciones de los legisladores europeos es el uso de la IA para el reconocimiento de las emociones. “Existen serias preocupaciones sobre la base científica de los sistemas de IA destinados a detectar emociones, características físicas o fisiológicas, como expresiones faciales, movimientos, frecuencia del pulso o voz”, expresa el texto, que amplía los supuestos en los que prohibir su utilización. El incumplimiento de las restricciones podría suponer una multa del 7% de la facturación mundial para las compañías.

La posición de la Eurocámara pretende, además, ampliar los supuestos en los que se impide la identificación de los sistemas de identificación biométrica en espacios públicos. La prohibición es prácticamente completa en el caso de los eurodiputados, que no quiere que se utilice ni siquiera con fines policiales o de seguridad. Los 27, que fijaron su postura en diciembre, sí apostaban por permitir el uso de esos sistemas “por parte de las autoridades encargadas de la aplicación de la ley”. En el caso de la identificación biométrica a distancia (o posteriori), la intención es que sólo pueda usarse para la persecución de delitos y siempre bajo autorización judicial.

Los eurodiputados también quieren poner coto a la denominada 'justicia o policía predictiva' al incluir en las prohibiciones el uso de sistemas que sirven para evaluar el presunto riesgo de una persona o grupo de personas de cometer un delito o una ofensa, basado en la personalidad o características personales o en el pasado delictivo de esa persona o grupo. 

También se oponen a algunas prácticas que están ya desarrollando empresas como el uso de sistemas para inferir las emociones de una persona por parte de la policía, la gestión de fronteras, en el lugar de trabajo o en instituciones educativas así como los que sirven para expandir o crear bases de datos faciales, captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y la televisión.

El posicionamiento de los eurodiputados ha salido adelante con una amplia mayoría en la comisión este jueves. Una vez que el Pleno le dé el visto bueno, comenzarán las negociaciones con la Comisión Europea y el Consejo de la UE con la intención de tener lista una legislación antes de las elecciones europeas del próximo año que, según insisten en las instituciones europeas, sería la primera de este tipo en el mundo para encarar los desafíos de la Inteligencia Artificial.