- La Federación de Consumidores y Usuarios CECU considera que es un paso adelante, con muchas lagunas por cubrir
El 2 de febrero marcará uno de los primeros hitos relevantes de la regulación de la Inteligencia Artificial (IA) en la Unión Europea con la aplicación de las prohibiciones establecidas en el Reglamento de IA. CECU celebra estas medidas en tanto buscan salvaguardar los derechos fundamentales de las personas frente al uso indebido de tecnologías avanzadas.
Prohibiciones relevantes para las personas consumidoras
El Reglamento de IA establece la prohibición de sistemas de IA que representan un riesgo inaceptable para la sociedad. Entre las prácticas tecnológicas vetadas y que podrían afectar a las personas consumidoras se encuentran:
- Sistemas de IA destinados a manipular el comportamiento de las personas de manera que puedan generarles perjuicios significativos. Esto podría incluir, por ejemplo, deepfakes que sirvan para estafar a las personas o bots falsos que fomenten la desinformación.
- Sistemas de IA que exploten vulnerabilidades de las personas, como las condiciones socioeconómicas y que puedan causar daños significativos. Podría ser el caso, por ejemplo, de una IA que determine mayores intereses a la hora de pedir un crédito o un seguro por la situación económica de una persona.
- Sistemas de IA que clasifiquen socialmente a las personas, como podría ser un banco que utilice los datos de las redes sociales para hacer una evaluación crediticia de una persona.
De todas formas, saber qué sistemas entrarán efectivamente dentro de las prohibiciones requerirá de interpretación por parte de las autoridades de aplicación o de los tribunales.
Además, se establecen otras prohibiciones, aunque de forma limitada, lo que ha sido criticado en reiteradas oportunidades por la sociedad civil, como el caso del reconocimiento biométrico en tiempo real por parte de autoridades públicas (con amplias excepciones y excluyendo de tal prohibición a actores privados) o el reconocimiento de emociones únicamente en el ámbito educativo y laboral, dejando completamente desprotegidos a las personas consumidoras frente a sistemas que pretendan explotar sus estados emocionales. Basta pensar, por ejemplo, en técnicas de marketing orientadas a “interpretar” las emociones de las personas.
Desafíos que subsisten
El panorama no está exento de desafíos. Desde CECU hemos criticado la complejidad técnica con la que la norma ha definido qué se considera “sistema de IA”, ya que podría dejar afuera a muchas decisiones algorítmicas que ya han demostrado afectar a las personas, como el famoso caso Syri en Países Bajos o el software Bosco, que determina quién tiene acceso a bono social de electricidad. Asimismo, las prohibiciones que entran en vigor requerirán de interpretación administrativa y judicial.
La Comisión Europea trabaja en unas directrices sobre la definición de sistemas de IA y sobre las prácticas prohibidas, para lo que lanzó una consulta pública el pasado diciembre. Como hemos subrayado junto a otras organizaciones de la sociedad civil, estas directrices deben priorizar la protección de los derechos fundamentales.
Por su parte, las estructuras de gobernanza necesarias para supervisar y garantizar el cumplimiento del Reglamento en los Estados miembros no estarán operativas hasta agosto de 2025. Este desfase temporal podría comprometer la aplicación efectiva de las prohibiciones y abrir espacios para potenciales incumplimientos. España ya cuenta con la Agencia Española de Supervisión de la IA (AESIA), que aún no está totalmente constituida. Asimismo, ha anunciado que lanzará próximamente los Sanboxes de IA que pretenden elaborar guías para facilitar el cumplimiento con la norma.
Anabel Arias, responsable de derechos digitales de CECU, ha destacado: “La entrada en vigor de las prohibiciones del Reglamento de IA es un paso importante que busca garantizar que la IA se desarrolle de manera responsable y respetuosa con los derechos fundamentales. Sin embargo, aún persisten muchas dudas sobre qué sistemas entrarán bajo esas prohibiciones. Es necesaria una interpretación amplia y efectiva de la norma, sin que los tecnicismos o las lagunas jurídicas que presenta dejen desprotegidas a las personas consumidoras. La UE debe mantener una postura firme incluso frente a los cambios geopolíticos que se están produciendo, con Trump revocando, como una de sus primeras medidas, la orden ejecutiva de Biden que buscaba reducir los riesgos que la IA”.
