Instituto de las Mujeres llama a luchar contra los algoritmos con sesgo de género en la Inteligencia Artificial

MADRID 22 Sep. (EUROPA PRESS) -

La directora del Instituto de las Mujeres, Toni Morillas, ha destacado este miércoles la necesidad de impulsar desde las instituciones públicas medidas que acaben con los algoritmos con sesgo de género que existen en el sector de la Inteligencia Artificial (IA).

Morillas ha inaugurado el conversatorio 'Justicia Algorítmica en clave de género', organizado por el Instituto, en donde ha destacado la importancia de "revisar" y "analizar" cómo estos sistemas "pueden afectar al desarrollo de los derechos humanos" reproduciendo "sesgos" y "estereotipos" presentes en la sociedad.

Como ejemplo de la brecha de género que existe dentro del diseño de la IA, Morillas ha señalado los sistemas "que no reconocen las voces agudas" porque se "han entrenado con voces masculinas", o los historiales que realizan las redes sociales "basados en estereotipos" y "concepciones previas" que "incentivan la polarización".

También apunta a la ausencia de datos sobre asuntos que interesan a las mujeres, como el tratamiento del embarazo o el parto, o la falta de cifras, por ejemplo, en relación a los infartos en mujeres. Unos números que, ha apuntado, se escondieron durante mucho tiempo.

DISEÑO Y TRATAMIENTO DE DATOS

Es por eso que considera de gran importancia, no solo "cómo se diseñan" estos sistemas, sino también cómo se trabaja con los datos y la información previa, para "eliminar las brechas de género", pero también "las raciales, de clase o por orientación sexual".

"Los sistemas de IA de selección de personas tiran del histórico de datos y estos representan desigualdades y brechas de género que se producen en segmentos laborales", ha apuntado en su intervención.

Para Morillas, la IA es un ámbito que se debe "politizar y problematizar" para evitar sesgos en su diseño y no se acabe constituyendo un dispositivo que haga "retroceder" a la sociedad "en derechos humanos".

IMPULSAR VOCACIONES FEMENINAS EN MATERIAS ESTEM

Entre las medidas que propone la directora del Instituto de las Mujeres está el incentivar "desde niñas" el interés de las menores por las materias ESTEM (científicas y tecnológicas).

A su juicio, parte de la problemática existente en el diseño de algoritmos se debe a cifras como que menos del 25% de las personas que se dedican a la investigación en IA son mujeres; y entre quienes lideran proyectos en el ámbito empresarial de la IA solo un 18% son mujeres. En cuanto a los artículos de investigación en este tema, Morillas ha indicado que el porcentaje de autoras se sitúa en el 13,8%.

Finalmente, ha puesto en valor que la UNESCO esté trabajando en un documento de recomendaciones sobre ética en la IA que "apuesta por definir marcos regulatorios por parte de los estados"; así como que la UE apoye también "que haya un enfoque regulatorio" en esta materia, un tema sobre el que "se está debatiendo una propuesta de reglamento".