La Unión Europea ha establecido nuevos límites al uso de la Inteligencia Artificial (IA) con el objetivo de controlar su impacto en sectores estratégicos como la educación, la salud y el empleo. A partir de ahora, estas herramientas deberán superar estrictas auditorías y registros para evitar decisiones automatizadas discriminatorias.

El peligro de los algoritmos en el empleo

Uno de los puntos más sensibles es la selección de personal. Aunque el uso de algoritmos permite a las empresas ser más ágiles en las respuestas a los candidatos, su aplicación sin filtros puede generar graves desventajas. Según los expertos, la IA puede realizar cribados que desfavorecen a las mujeres al basarse en datos históricos donde el género masculino ha tenido puntuaciones más altas o mayor presencia.

La necesidad de supervisión humana

Para evitar que perfiles válidos queden excluidos por decisiones automatizadas, la nueva normativa subraya que todo sistema de IA de alto riesgo debe permitir una supervisión humana efectiva. El objetivo es que la tecnología no reemplace a las personas, sino que sirva de apoyo, dejando la decisión final siempre en manos de un profesional que pueda evaluar los matices que la máquina ignora.