- El Parlamento Europeo ha reforzado hoy las protecciones de las personas consumidoras en lo que será el futuro Reglamento de Inteligencia Artificial (IA).
- El texto pretende ser el primer conjunto de reglas en el mundo sobre sistemas de IA. Ahora pueden comenzar las negociaciones entre el Parlamento y los gobiernos nacionales.
Desde la Federación de Consumidores y Usuarios CECU valoramos positiva la postura adoptada hoy por el Parlamento Europeo sobre el Reglamento de Inteligencia Artificial (IA), con 499 votos a favor, 28 en contra y 93 abstenciones. Las reglas refuerzan la protección de las personas consumidoras y buscarían garantizar que la IA desarrollada y utilizada en Europa esté en línea con los derechos y valores de la UE, incluyendo la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación y el bienestar social y ambiental.
Es importante resaltar que a medida que la IA llegue a más áreas de nuestras vidas, las personas consumidoras deben estar protegidas del daño que pueda causar. Las prohibiciones propuestas hoy por el Parlamento sobre el uso del reconocimiento facial en espacios de acceso público, o sobre la calificación social por parte de las empresas, son fundamentales para proteger los derechos humanos. Asimismo, el reconocimiento de derechos en favor de las personas, como el derecho a ser informado cuando se está sujeto a una decisión de un sistema de IA de alto riesgo, es verdaderamente importante.
El Parlamento Europeo ha votado hoy:
- Prohibir del uso de identificación biométrica, como el reconocimiento facial, por parte de autoridades públicas y entidades privadas en espacios de acceso público. Esto es un paso positivo ya que esta tecnología es demasiado invasiva y socava nuestros derechos fundamentales. La Comisión ya había propuesto prohibirlo cuando lo utilicen las autoridades públicas en espacios públicos.
- Prohibir la calificación social por parte de entidades privadas, que es cuando un sistema de IA evalúa a un individuo en función de su comportamiento social o sus preferencias. Es una práctica demasiado invasiva y arbitraria para ser utilizada en las personas consumidoras.
- Prohibir sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política).
- Prohibir sistemas policiales predictivos (basados en perfiles, ubicación o comportamiento delictivo pasado).
- Reconocer derechos en favor de las personas consumidoras, como el derecho a solicitar una reparación colectiva cuando un sistema de IA haya causado daños a un grupo de consumidores, el derecho a ser informados cuando se está sujeto a una decisión de un sistema de IA de alto riesgo, el derecho a presentar una reclamación ante una autoridad sobre un sistema de IA y el derecho a llevar ante los tribunales a una autoridad de control si falla en tomar acción.
- Someter la IA generativa, como ChatGPT a reglas específicas, como la obligación de los desarrolladores de IA de identificar, reducir y mitigar los riesgos para la salud, la seguridad y los derechos fundamentales antes de colocar un sistema en el mercado.
Sin embargo, hay cuestiones que desde CECU consideramos negativas en la votación de hoy:
- El Parlamento ha debilitado la clasificación de sistemas de alto riesgo al dar a los desarrolladores demasiada discreción para decidir si su sistema se considera de alto riesgo o no y, de esa manera, evitar cumplir con las obligaciones específicas que se prevén para este tipo de sistemas.
- Los principios de transparencia y equidad, que se vienen pidiendo desde la sociedad civil como aplicables a toda IA sin importar el nivel de riesgo, son solo voluntarios, lo que limitará su utilidad.
- No se prohíbe el reconocimiento de emociones cuando se usa en las personas consumidoras, lo que puede conducir a graves intrusiones en la privacidad y afectar la capacidad de tomar decisiones autónomas.
Próximos pasos: Las negociaciones con el Consejo de la UE sobre la forma final del Reglamento de IA comenzarán hoy 14 de junio. Se espera que se llegue a acuerdo durante la próxima Presidencia española del Consejo de la UE.
Anabel Arias, experta en derechos digitales de CECU, sostiene que: “El Parlamento Europeo ha impulsado hoy mayores protecciones para las personas consumidoras frente a los sistemas de IA. Esto es importante si se tiene en cuenta que casi no existen protecciones para el consumidor en el borrador de Reglamento propuesto por la Comisión hace dos años y en la postura de los estados miembros de la UE de diciembre del año pasado. Sin embargo, lamentamos que el Parlamento haya mantenido la decisión de otorgar mucha discrecionalidad a las empresas para decidir si su sistema de IA se considera de alto riesgo o no y así escapar de las principales obligaciones del Reglamento. Ahora necesitamos que el Parlamento se mantenga firme en los trílogos y pedimos al Gobierno de España que, en su presidencia del Consejo de la UE, se proponga conseguir el texto que mejor proteja los derechos fundamentales de las personas”.
