Hace unos días, saltaba la noticia del acuerdo provisional de la Ley de Inteligencia Artificial a nivel Europeo. Tras las negociaciones llevadas a cabo entre el Consejo y el Parlamento Europeo.
Ante la presentación de esta propuesta, el día 6 de diciembre de 2022, el Consejo acuerda su posición sobre el Reglamento. Para que finalmente el 9 de diciembre de 2023, el Consejo y Parlamento han alcanzado un acuerdo, respecto a este.
1. Cronología
2. Objetivo del reglamento de Inteligencia Artificial
La nueva regulación, supone un cambio de paradigma en la UE, pero que también lo supondrá para el resto del mundo. Tal y como sucedió con el Reglamento de Protección de datos, ya que aplica a:
- Proveedores que introduzcan en mercado o pongan en servicio Sistemas de IA en la Unión, independientemente de su ubicación.
- Usuarios de sistemas de IA que se encuentren en la Unión.
- Proveedores y usuarios de Sistemas de IA que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en la Unión.
Esta normativa tiene unos objetivos principales:
- Crear normas armonizadas en toda la Unión para la Introducción en el mercado, puesta en servicio y utilización de sistemas de Inteligencia Artificial.
- Prohibiciones de determinadas prácticas de IA.
- Requisitos para los sistemas de Alto Riesgo y obligaciones para los operadores de dichos sistemas.
- Requisitos de transparencia.
- Normas sobre el control y la vigilancia en el mercado.
Estos objetivos, se centran en el riesgo y suponen desde una prohibición total hasta ciertas obligaciones.
Establece unas prácticas que quedan totalmente prohibidas para proteger los derechos y libertades de los ciudadanos, como son:
Siguiendo el enfoque de riesgo, tras las prácticas prohibidas, hace una clasificación de sistemas de alto riesgo y para los cuales establece unos requisitos, de manera que estos sistemas, sean más viables sede el punto de vista técnico y supongan una carga menor para las partes interesadas, los requisitos exigidos son los siguientes:
Otro aspecto a destacar, son los sistemas de IA generativa, los cuales tendrán que cumplir con criterios de transparencia, como por ejemplo: especificar de forma clara cuando un texto, canción o fotografía es realizado con IA.
3. Sanciones
Además, el texto viene a establecer una serie de sanciones por incumplimiento de las directrices, las cuales deben aplicar los Estados Miembros, es decir deben comunicar el régimen sancionador establecido. Pero estas pueden ascender:
- Multas administrativas de hasta 30 M o 6% de volumen de negocio total anual mundial del ejercicio anterior (incumplimiento de la prohibición de prácticas prohibidas).
- Multas administrativas de hasta 20 M o 4% del volumen de negocio total anual mundial del ejercicio anterior, para el incumplimiento de cualquier requisito establecido en el reglamento.
4. Inteligencia artificial y RGPD
Los Sistemas de Inteligencia Artificial, siempre que traten datos personales, deben cumplir con todo lo establecido en el Reglamento de Protección de datos personales: deber de información, base de legitimación, principios…
Uno de los problemas que pueden llegar a surgir, es que la IA suele llevarse a cabo con la explotación de gran cantidad de datos personales, hoy en día y para dar cumplimiento a lo estipulado en el RGPD, se hace con datos anonimizados.
Respecto a los datos anonimizados, hay que tener en cuenta que no aplica el RGPD pero teniendo en cuenta los grandes avances tecnológicos que suceden cada día, lo que hoy son datos anonimizados, pueden serlo seudonimizados mañana, lo que si exige cumplir con lo requerido en la normativa de protección de datos.
Otro requisito para los sistemas IA que traten datos personales, es la obligatoriedad de llevar a cabo, una Evaluación de Impacto de Protección de datos, ya que cumple con requisitos que obligan a su realización: como tecnología de uso innovador, tratamientos de datos a gran escala.