- La organización detecta mejoras en el proyecto de ley, pero alerta de que presenta lagunas importantes en el control del uso de sistemas biométricos y la participación de la sociedad civil
La Federación de Consumidores y Usuarios CECU ha analizado el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial (publicado el pasado 12 de junio en el BOCG), que busca desarrollar la aplicación del Reglamento Europeo de IA en España, tras haber participado activamente, junto con la coalición IA Ciudadana, en el trámite de audiencia pública del anteproyecto en agosto de 2025.
El texto mantiene varios elementos que CECU había valorado positivamente en el anteproyecto y pedido conservar: la creación de una Comisión mixta de coordinación entre autoridades de vigilancia presidida por la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), las medidas cautelares de retirada o desconexión de sistemas que supongan un riesgo inaceptable, la obligación de indemnizar los daños y perjuicios causados, y el sistema de multas coercitivas para forzar el cumplimiento. El proyecto incorpora, además, una conexión expresa con la Ley 15/2022 de igualdad de trato y no discriminación, y un nuevo régimen de protección para las personas que informen de infracciones, dos elementos que apuntan en la dirección correcta, aunque con un alcance todavía limitado.
Sin embargo, la federación considera que la gran mayoría de propuestas no han sido reflejadas en el texto, subrayando dos cuestiones de especial preocupación:
- Reconocimiento biométrico remoto en tiempo real. El anteproyecto sometido a consulta pública dedicaba un capítulo a desarrollar, a nivel español, el procedimiento de autorización judicial para usar estos sistemas en espacios públicos. Si bien CECU e IA Ciudadana se posicionan en contra de la utilización de dicha tecnología y habían pedido reforzar ese procedimiento, las organizaciones valoraban positivamente que se limitara a una autorización de carácter judicial (y no meramente administrativa). Sin embargo, en el proyecto que ha llegado al Congreso, ese desarrollo nacional ha desaparecido. Por lo que, de momento, España ha renunciado a establecer una capa de garantías adicionales de protección de los derechos fundamentales en este punto tan delicado.
- Transparencia algorítmica y la participación de la sociedad civil, dos demandas tanto de CECU como del resto de las organizaciones de la coalición IA Ciudadana. La base de datos pública que exige el Reglamento de IA, señalan, pese a ser un avance, tiene carencias estructurales: solo cubre sistemas catalogados como «de alto riesgo», dejando fuera sistemas basados en reglas simples que también pueden tener un impacto grave sobre las personas; deja los algoritmos usados por policía, control de fronteras e inmigración en un área de acceso restringido, precisamente los ámbitos donde más control ciudadano se necesita; y solo se aplicará a sistemas nuevos, no a los que ya están en funcionamiento. Por eso, desde IA Ciudadana, se pedía ir más allá con un registro central de algoritmos, público y obligatorio, que cubriera estas lagunas y contara con participación de la sociedad civil en su diseño. El proyecto de ley no recoge esta propuesta, sino que incorpora un inventario que finalmente se limita al sector público estatal y mantiene numerosas excepciones. Tampoco se ha incorporado ningún mecanismo de participación de la sociedad civil en la gobernanza de la IA, ya sea en AESIA, en la Comisión mixta de autoridades de vigilancia o en los entornos de pruebas regulatorias.
El proyecto tampoco recoge otras peticiones que CECU consideraba esenciales para una supervisión efectiva: que la Agencia pudiera investigar sistemas de IA aunque no estuvieran catalogados como de alto riesgo cuando hubiera indicios de perjuicios graves y el principio de prevención como criterio rector de las inspecciones.
Anabel Arias, responsable de derechos digitales de CECU, sostiene: “Valoramos que se hayan mantenido salvaguardas que considerábamos importantes, pero seguimos insistiendo en que la transparencia algorítmica y la participación ciudadana no son un capricho, sino una condición para que la ciudadanía pueda confiar en estos sistemas. Asimismo, nos preocupa la eliminación de las garantías adicionales que pretendía establecer España en materia de reconocimiento biométrico y confiamos en que la tramitación Parlamentaria busque reincorporar y ampliar las protecciones a los derechos fundamentales frente a esta tecnología. En igual sentido, también nos preocupa la Ómnibus de IA, que ha sido aprobado esta semana por el Parlamento Europeo, que no sólo retrasa la aplicación de las obligaciones del Reglamento de IA para los sistemas de alto riesgo, sino que, además, debilita la transparencia al reducir la información exigida en la base de datos Europa”.
