- En los últimos meses hemos visto una explosión de servicios impulsados por la Inteligencia Artificial Generativa. Un nuevo informe publicado por el Norwegian Consumer Council documenta sus riesgos
- Más de una decena de Organizaciones de personas consumidoras de la UE y EE. UU. piden que los derechos de las personas estén en el centro de su desarrollo e implementación
La Inteligencia Artificial Generativa (IA generativa) plantea serias preocupaciones para los derechos y la seguridad de las personas consumidoras. En efecto, el uso de esta tecnología crea riesgos relacionados con la privacidad, la manipulación, la integridad personal, las estafas, la desinformación, entre otros. Asimismo, resultan muy exigentes en términos de recursos, lo que tiene graves repercusiones para el clima y el medio ambiente.
“Debemos asegurarnos de que el desarrollo y uso de la IA generativa sea seguro, confiable y justo. Desafortunadamente, la historia ha demostrado que no podemos confiar en que las grandes empresas tecnológicas solucionen esto por sí mismas”, dice Find Myrstad, Director de Política Digital del Norwegian Consumer Council.
“Es crucial que la UE haga que el Reglamento de IA sea lo más herméticamente posible en términos de proteger a los consumidores de los usos nocivos de esta tecnología. Hacemos un llamado a las instituciones de la UE para que resistan el poderoso lobby de las grandes empresas tecnológicas que buscan diluir las protecciones del futuro Reglamento”, dice Ursula Pachl, Directora General Adjunta de la Organización Europea de Consumidores, BEUC.
“Desde CECU venimos dando seguimiento tanto al Reglamento de IA como al comportamiento de las autoridades públicas españolas frente a la IA generativa, como ChatGPT. En efecto, hemos visto y apoyado la decisión de la AEPD de investigar a OpenAI. Sin embargo, los riesgos de la IA generativa no refieren solo a los datos personales y no podemos esperar al Reglamento. Es necesario que todas las autoridades competentes tomen cartas en este asunto, y por eso nos unimos a este llamamiento del movimiento de consumidores europeo y estadounidense”, dice David Sánchez, Director de CECU.
Llamamiento a los responsables políticos y a las autoridades competentes
El Norwegian Consumer Council publicó hoy el informe «Ghost in the machine – Addressing the consumer harms of generative AI» en el que describe los daños, los marcos legales existentes y las posibles formas de avanzar. Desde CECU hemos traducido dicho informe al castellano y elaborado una hoja técnica sobre el mismo.
Junto al referido informe, el Norwegian Consumer Council y organizaciones de personas consumidoras de toda la UE y EE. UU. exigen que los legisladores que actúen ya. Entre las organizaciones que se han adherido a este llamamiento se encuentran, además de CECU, las siguientes:
- Adiconsum (Consumers and Environment Protection Association), Italia
- Consumentenbond, Países Bajos
- Consumers’ Organisation of Macedonia (OPM), Macedonia del Norte
- dTest (Czech Association of Consumers TEST), República Checa
- EKPIZO (Consumers’ Association “The Quality of Life”), Grecia
- Ghaqda tal-Konsumaturi (Consumers’ Association Malta), Malta
- Latvijas Patērētāju Interešu Aizstāvības Asociācija – Lpiaa (Latvian National Association for Consumer Protection), Letonia
- Neytendasamtökin – NS (The Consumers´ Association of Iceland), Islandia
- Sveriges Konsumenter (The Swedish Consumers’ Association), Suecia
- Forbrugerrådet Tænk, Dinamarca
- Zveza Potrošnikov Slovenije – ZPS (the Slovene Consumers’ Association), Eslovenia
- Irish Council for Civil Liberties (ICCL), Irlanda
- Transatlantic Consumer Dialogue (TACD), que enviará cartas a las autoridades estadounidenses
- BEUC, organización europa de personas consumidoras
“Los riesgos que la IA generativa representa para las personas consumidoras están bien documentados en este informe del Norwegian Consumer Council. Mientras el Reglamento de IA de la UE no sea aplicable, las autoridades deben investigar allí donde los nuevos productos y servicios generados por IA puedan estar perjudicando a los consumidores y exigir el cumplimiento de las normas sobre protección de datos, seguridad y protección del consumidor. Las empresas no pueden ser inmunes a las regulaciones existentes en la UE, ni las personas consumidoras deberían estar sometidas a manipulación o engaños, por el simple hecho de que esta tecnología sea nueva”, dice Pachl.
“La tecnología no es una fuerza incontrolable, sino que debe adaptar y respetar los derechos fundamentales, los marcos legislativos existentes y los valores sociales. Podemos elegir estar en el asiento del conductor. Muchos de los desafíos que enfrentamos pueden abordarse utilizando las normas que ya tenemos”, dice Myrstad.
“España debe liderar durante el semestre de presidencia del Consejo Europeo la regulación sobre Inteligencia Artificial. Y dar ejemplo en la aplicación de la normativa ya existente que es aplicable a la IA generativa” añadió Sánchez.
Para ello, las autoridades competentes deben contar con los recursos y la competencia necesarias para poder seguir el desarrollo tecnológico y exigir el cumplimiento de las normas. Por lo tanto, el informe también pide:
- Fortalecer las protecciones a las personas consumidoras para que esta tecnología pueda ser segura, confiable y justa, y para que no se puedan experimentar con ellas para desarrollar estos sistemas.
- Una estrategia general de IA que tenga en cuenta los desarrollos recientes, se centre en los derechos fundamentales y ofrezca pautas estrictas para el uso de la IA generativa en el sector público.
- Dictar nuevas normas allí donde sea necesario, haciéndolas resistentes a los cambios del futuro.
Necesidad de actuación de las autoridades nacionales
Es innegable que tardaremos años en llegar al mejor marco internacional posible. Esto es esencial Y se están realizando esfuerzos. Por ejemplo, el pasado el 14 de junio el Parlamento Europeo votó su posición respecto de la propuesta de Reglamento de IA, por lo que ha ingresado a la etapa de negociación en trílogos por parte de las instituciones europeas.
“Esta regulación tendrá un impacto significativo en el desarrollo y uso de la inteligencia artificial. Sin embargo, la gente ya está usando esta tecnología y los daños ocurrirán ahora. Por lo tanto, es importante que las autoridades nacionales llenen el vacío con una aplicación sólida de las normas que ya existen”, dice Myrstad.
Acerca de la IA generativa
Los modelos generativos de IA se entrenan con grandes cantidades de datos para identificar patrones y estructuras que les permitan generar contenido nuevo. Puede ser texto, imágenes, audio o vídeo, que puede parecerse mucho al creado por humanos.
ChatGPT, Midjourney, Stable Diffusion y DALL-E se encuentran entre los servicios generativos de IA más conocidos. Empresas como Microsoft, Google y Snapchat ya han implementado esta tecnología en sus servicios, incluidos los motores de búsqueda, el procesamiento de textos y el chat.
La IA generativa no es consciente de sí misma y no puede «aprender» nuevas habilidades por sí misma, pero puede simular algunas de las cosas que hacemos los humanos mediante el aprendizaje automático.
