El debate a nivel europeo del proyecto de Reglamento de IA se encuentra en estos momentos en marcha, fruto de la propuesta de la Presidenta Von der Leyen que en sus orientaciones políticas para la Comisión 2019-2024, anunció que la Comisión Europea presentaría propuestas de legislación para un enfoque europeo coordinado sobre las implicaciones éticas y humanas de la IA. El papel de España en este debate es de especial importancia, al ocupar la presidencia del Consejo en el segundo semestre de 2023 y al haberse ofrecido a ser la prueba piloto para la aplicación de esta normativa.
El nuevo reglamento tendrá impacto en nuestra vida diaria, en tanto la IA está presente en numerosos ámbitos: en los asistentes virtuales, las herramientas de reconocimiento facial de, por ejemplo, nuestros teléfonos inteligentes, en los sistemas de recomendación de contenido en las redes sociales o de productos e, incluso, en cuestiones tan sencillas como nuestro correo spam. Aún más, debe tenerse cuenta que los sistemas de toma de decisiones basadas en algoritmos tendrán cada vez más impactos en numerosos aspectos de nuestras vidas, como por ejemplo, en el acceso a un empleo, a un crédito o una determinada póliza de seguros. Por otra parte, los sistemas de reconocimiento de emociones podrían afectar a la autonomía de las personas consumidoras si no se regulan correctamente.
El proyecto de Reglamento tiene como objetivo principal desarrollar un ecosistema de confianza a través de un marco jurídico destinado a lograr que la IA sea fiable. La propuesta está siendo discutida por el Parlamento Europeo y el Consejo.
CECU celebra la propuesta de Reglamento de la IA en debate a nivel europeo. Sin embargo, el proyecto de regulación requiere de importantes modificaciones para garantizar que las personas consumidoras se encuentren adecuadamente protegidas. CECU considera necesario que se incluyan las siguientes mejoras en el Reglamento que se apruebe finalmente:
(i) debe ampliarse el ámbito de aplicación e imponerse una serie de principios y obligaciones horizontales (equidad, transparencia, rendición de cuentas, entre otros) que apliquen a todos los sistemas de IA.
(ii) la lista de prácticas prohibidas del art. 5 debe ser ampliada y reforzada para incluir prácticas dañinas que en la propuesta de la Comisión no se toman en cuenta, como por ejemplo, los sistemas de IA que manipulen causando un daño económico.
(iv) los procedimientos de evaluación de conformidad aplicables a los sistemas de alto riesgo deben ser reforzados, debiendo establecerse que las evaluaciones de terceros sean la regla para este tipo de sistemas.
(v) los estándares armonizados deben utilizarse únicamente para definir requerimientos técnicos, y no para definir o aplicar principios legales o relacionados con los derechos fundamentales.
(vi) el sistema de gobernanza y los mecanismos de aplicación por parte las autoridades nacionales deben ser clarificados y mejorados, por ejemplo, otorgando a la Comisión Europea la competencia de iniciar procedimientos de evaluación de un sistema de IA bajo determinadas circunstancias.
Anabel Arias, responsable de derechos digitales de CECU, sostiene que “tanto eurodiputados como el Gobierno deben garantizar una adecuada regulación de la IA, ya que esto es crucial para lograr un alto nivel de protección a las personas consumidoras, así como un entorno justo, seguro y confiable en el que se asegure el desarrollo sostenible de nuestras sociedades”.
Puedes descargar aquí las CONSIDERACIONES.
