El Comité Europeo de las Regiones pide a los Gobiernos más transparencia en los sistemas de IA

Lamenta en un dictamen la ausencia de referencias a los entes locales y regionales en el proyecto de Reglamento de la UE sobre la IA

MADRID, 2 Dic. (EUROPA PRESS) -

El Comité Europeo de las Regiones (CDR) ha adoptado este jueves en sesión plenaria un dictamen que pide más transparencia y requisitos de información más estrictos en lo que respecta a los sistemas de Inteligencia Artificial (IA) de alto riesgo.

El dictamen también señala los principales riesgos e implicaciones para los derechos humanos asociados al uso de la clasificación social, al considerar que solo debe permitirse para fines específicos y siempre con supervisión humana para evitar violaciones al derecho a la dignidad y la no discriminación y a los valores de igualdad y justicia.

El Comité cree firmemente que el Reglamento de la UE en el campo de la IA debería permitir a las regiones y ciudades participar en el seguimiento de los sistemas de IA e informar sobre su implementación.

Elaborado por Guido Rink, miembro del Consejo Ejecutivo de Emmen, el dictamen lamenta la ausencia de referencias a los entes locales y regionales en el proyecto de reglamento, a pesar de destacar su papel clave en la creación de un entorno favorable a la inversión en IA y en la explotación el potencial de los sistemas de IA para proporcionar mejores servicios a los ciudadanos.

"Los vertiginosos desarrollos en el campo de la Inteligencia Artificial tienen un impacto directo en todos los ciudadanos y niveles de gobierno. Por lo tanto, la Ley de Inteligencia Artificial es, en principio, una herramienta útil para evitar la fragmentación en las reglas de implementación de la IA en la UE. Sin embargo, mientras que los Estados miembros deberían no obstaculizar la aplicación del Reglamento, es imperativa la consulta adecuada de las autoridades locales y regionales interesadas cuando se trata del uso de sistemas de IA de alto riesgo", ha señalado Rink.

Según expone, son necesarias salvaguardias "mucho más estrictas" en relación con la puntuación social impulsada por la IA por autoridades públicas, lo que corre el riesgo de conducir a la discriminación y la exclusión social, ha afirmado, al tiempo que conserva la posibilidad de utilizar la IA con supervisión humana para una mejor prestación de servicios.

El dictamen del CDR pide a la Comisión que examine con mayor profundidad la clasificación de alto riesgo de los sistemas de IA destinados a las autoridades públicas, incluidos los sistemas de IA utilizados en procesos democráticos como procedimientos electorales.

Los mismos requisitos de transparencia e información deben aplicarse a todos los usuarios, incluidas las personas físicas, e insta a los Estados miembros a conservar el derecho a regular los sistemas de IA de alto riesgo si están en juego intereses de seguridad pública y nacionales debidamente justificados. En este sentido, pide que se consulte a las autoridades locales y regionales pertinentes cuando se utilicen sistemas de IA para la identificación biométrica remota en tiempo real de personas físicas en espacios de acceso público.

El Comité también subraya la importancia de reglas claras para construir un ecosistema de confianza y eliminar la inseguridad jurídica en torno al desarrollo y uso de la IA y expresa su preocupación por la posible carga administrativa del reglamento, que puede obstaculizar a las pequeñas y medianas empresas y a los entes locales y regionales a la hora de promover la innovación y el despliegue de sistemas de IA.

Las regiones y ciudades también solicitan a la Comisión Europea que proporcione fondos para campañas públicas para familiarizar al público en general con los usos y riesgos potenciales de los sistemas de IA e informar a los consumidores sobre la toma de decisiones impulsada por máquinas.