El Parlamento Europeo aprobó ayer el denominado AI Omnibus, un paquete legislativo presentado como una simplificación del Reglamento de Inteligencia Artificial (AI Act). Según IA ciudadana, el resultado es un retroceso real: se reducen obligaciones de transparencia, se retrasan las garantías hasta 2027, 2028 y en algunos casos hasta 2030, y se complica la supervisión independiente de los sistemas de IA que más pueden afectar a los derechos de las personas.
La postura de España, cuyo ministro de Transformación Digital, Óscar López, afirmó: «Me niego a admitir que haya que desregular la IA para ser competitivo», ha perdido, pues, la batalla.
El Reglamento de IA de la UE, aprobado tras años de negociación, establecía un conjunto de obligaciones para los sistemas de IA de alto riesgo: que estuvieran registrados públicamente, que fueran auditables, que las personas afectadas pudieran impugnarlos y que organismos independientes pudieran supervisarlos. El AI Omnibus debilita varios de estos mecanismos antes de que hayan tenido oportunidad de aplicarse.
¿Qué cambia con el AI Omnibus?
– Menos información pública sobre sistemas de IA. Los proveedores que decidan de forma unilateral que su sistema no es de alto riesgo ya no tendrán que publicar dónde lo comercializan ni por qué tomaron esa decisión. Sin esa información, la ciudadanía no puede verificar si la clasificación es correcta y, por ende, no puede haber rendición de cuentas.
– Más tiempo sin garantías en sectores críticos. Las obligaciones para sistemas de IA usados en empleo, educación, servicios sociales o justicia se posponen hasta diciembre de 2027. Para los sistemas usados por administraciones públicas, el plazo se extiende hasta agosto de 2030. Durante ese tiempo, las personas afectadas no tendrán acceso a los mecanismos de protección que la propia ley preveía.
– Riesgo de que las evaluaciones de impacto se vacíen de contenido. El AI Act obligaba a evaluar el impacto sobre los derechos fundamentales antes de desplegar un sistema de IA de alto riesgo. El nuevo texto permite sustituir esa evaluación por una de protección de datos, que tiene un alcance mucho más limitado y no busca incluir, por ejemplo, la participación de las comunidades afectadas.
– Organismos de derechos fundamentales con acceso más limitado. Las instituciones especializadas en igualdad, antidiscriminación u otros derechos ya no podrán acceder directamente a la información sobre sistemas de IA: tendrán que solicitarlo a través de las autoridades de vigilancia del mercado, añadiendo burocracia y retrasos.
“El AI Omnibus no simplifica la ley de inteligencia artificial: la debilita antes de que haya podido aplicarse. Estamos hablando de sistemas que ya están decidiendo sobre acceso a servicios sociales, procesos migratorios o condiciones laborales. Retrasar las garantías y reducir la transparencia no beneficia a la ciudadanía, beneficia a quienes despliegan estos sistemas sin querer rendir cuentas.” Judith Membrives i Llorens, responsable de Incidencia y discurso político sobre IA y Derechos Humanos de Lafede – justícia global, en representación de IA ciudadana
IA ciudadana pide:
Que la implementación del AI Act recupere los niveles de transparencia y supervisión recortados por el Ómnibus; que las evaluaciones de impacto en derechos fundamentales incluyan procesos participativos reales con las comunidades afectadas; y que se dote de recursos suficientes a las autoridades de supervisión para que no sean necesarios nuevos aplazamientos.
IA ciudadana rechaza el uso del procedimiento Ómnibus para reabrir garantías de derechos digitales negociadas durante años, y alerta de que este precedente puede repetirse con otras legislaciones como el Reglamento General de Protección de Datos.
Sobre IA ciudadana
IA ciudadana es una coalición de organizaciones que trabajan para defender los derechos humanos en el contexto de las tecnologías digitales. Su objetivo es ampliar los espacios de participación de la sociedad en la regulación y en la gobernanza de la inteligencia artificial y los algoritmos, con el fin de conseguir que estas tecnologías promuevan la justicia social.
Forman parte de la coalición: Civio, Political Watch, AlgoRace, Lafede, Oxfam Intermón, Algorights, Komons, DigitalFems, Institut de Drets Humans de Catalunya (IDHC), Observatorio Trabajo, Algoritmo y Sociedad (TAS), Iridia y CECU.
