inteligencia_artificial

Nueva ley para regular la inteligencia artificial – Parte 2

by BlogInteligencia Artificial

En el anterior post del pasado 22 de marzo hablábamos sobre esta nueva ley de inteligencia artificial en lo que a aplicaciones prohibidas, exenciones de las fuerzas de seguridad y obligaciones para los sistemas de de alto riesgo se refiere. Hoy os contamos el resto sobre esta nueva regulación de inteligencia artificial.

Regulación y requisitos de transparencia

Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos. Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones de los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes.

Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales, según indica la regulación.

Medidas de apoyo a la innovación y a las pymes

Habrá que poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.

Próximos pasos

El Reglamento aún está sujeto a una última comprobación jurídica-lingüística. Su aprobación definitiva (mediante el llamado procedimiento de corrección de errores) está prevista para antes del final de la legislatura. La ley también debe ser adoptada formalmente por el Consejo.

Entrará en vigor veinte días después de su publicación en el Diario Oficial y será de plena aplicación veinticuatro meses después de su entrada en vigor, con excepción de: las prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas (nueve meses después); las normas sobre la IA de uso general, incluida la gobernanza (doce meses después), y las obligaciones para los sistemas de alto riesgo (treinta y seis meses después).

Conferencia sobre el Futuro de Europa

La Ley de Inteligencia Artificial responde directamente a las propuestas de los ciudadanos de la Conferencia sobre el Futuro de Europa, más concretamente a la propuesta 12(10), relativa a la mejora de la competitividad de la UE en sectores estratégicos, la propuesta 33(5), sobre una sociedad segura y fiable, incluida la lucha contra la desinformación y la garantía de que las personas tengan el control final, la propuesta 35 sobre la promoción de la innovación digital, (3) la garantía de la supervisión humana y (8) un uso fiable y responsable de la IA, el establecimiento de salvaguardias y la garantía de transparencia, y la propuesta 37(3), sobre el uso de la IA y las herramientas digitales para mejorar el acceso de los ciudadanos a la información, incluidas las personas con discapacidad.

 

 

 

 

inteligencia_artificial_ley

La Eurocámara aprueba una ley de inteligencia artificial – Parte 1

by BlogInteligencia Artificial

En diciembre saltaba la noticia del acuerdo provisional de la Ley de Inteligencia Artificial a nivel Europeo. Se trata de la Propuesta  de Reglamento Europeo por el que se establecen normas armonizadas en materia de Inteligencia Artificial, que la Comisión Europea hizo el 21 de abril de 2021. Ante la presentación de esta propuesta, el día 6 de diciembre de 2022, el Consejo acuerda su posición sobre el Reglamento. Para que finalmente el 9 de diciembre de 2023, el Consejo y Parlamento han alcanzado un acuerdo, respecto a este.

Este mes de marzo se aprobó  la Ley de Inteligencia Artificial, que garantiza la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación.

Entra en vigor 20 días después de su publicación y plena aplicación a los dos años. Para las practicas prohibidas (6 meses tras la entrada en vigor). Los códigos de buenas prácticas (9 meses). Las normas sobre la IA de uso general, incluida la gobernanza (12 meses). Y las obligaciones para los istemas de alto riesgo (36 meses).

Su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector. El Reglamento fija una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto.

Aplicaciones prohibidas inteligencia artificial

Las nuevas normas prohíben ciertas aplicaciones de inteligencia artificial que atentan contra los derechos de la ciudadanía. Como lo son los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet. Así como grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.

También se prohibirán el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.

Exenciones de las fuerzas de seguridad 

El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibidosalvo en situaciones muy concretas. Los sistemas de identificación biométrica «en tiempo real» solo se podrán emplear si se cumplen una serie de salvaguardias estrictas. Por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa. Entre estos casos pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista.

Obligaciones para los sistemas de alto riesgo

También se prevén obligaciones claras para otros sistemas de IA de alto riesgo. Algunos ejemplos de usos de alto riesgo de la IA son las infraestructuras críticas, la educación y la formación profesional. El empleo, los servicios públicos y privados esenciales (la sanidad o la banca), determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos.

Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana. Los ciudadanos y ciudadanas tendrán derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos.

chatbots

Agencia española de supervisión de Inteligencia Artificial

by BlogInteligencia Artificial

Con la propuesta de Reglamento Europeo de Inteligencia Artificial, se hace un especial hincapié a la Gobernanza. Regulada en su título VI. En dicho título se constituyen una serie de organismos de control, uno de ellos, es la obligación de designación de Autoridades de Supervisión de Inteligencia Artificial en cada Estado miembro.

Por este motivo, como antecedentes a su creación, se ha ido citando en las siguientes leyes:

En la disposición adicional centésimo trigésima de la Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado, se establecía la creación de AESIA. La define como una Agencia con independencia plena orgánica y funcional que debe llevar a cabo medidas destinadas a la minimización de riesgos significativos sobre la seguridad y salud de las personas. Así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial.

La Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes. Conocida como la Ley de startups, también prevé la creación de la Agencia Española de Supervisión de Inteligencia Artificial, en su Disposición adicional séptima.

Y por último, en el Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial. La cual prevé su efectiva puesta en funcionamiento con la constitución del consejo rector en un plazo máximo de la entrada en vigor de este real decreto.

Finalmente, el 7 de diciembre de 2023, La Secretaría de Estado de Digitalización e Inteligencia Artificial, publicó los nombres de los integrantes del Consejo Rector. Constituyéndose así esta Agencia pionera. Con la creación de esta Agencia, España se convierte en el primer país europeo en tener un órgano de estas características y se anticipa a la entrada en vigor del Reglamento Europeo de IA.

Esta Agencia, con sede en Galicia, no será la única autoridad en el ámbito nacional. Ya que la propuesta de Reglamento Europeo de Inteligencia Artificial establece que los Estados miembros tendrán que designar autoridades nacionales competentes.  Y entre ellas, seleccionar a una autoridad nacional de supervisión.

Funciones de la Agencia Española de Inteligencia Artificial:

  • Supervisar el cumplimiento de la normativa aplicable en el ámbito de la Inteligencia Artificial. Atribuyéndole una potestad sancionadora en las posibles vulneraciones de estas.
  • Promoción de entornos de prueba que permitan una correcta adaptación de los Sistemas de IA. Para reforzar la protección de los usuarios y evitar sesgos discriminatorios. Por ello, el 8 de noviembre de 2023, se publicó el Real Decreto 817/2013, que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento Europeo de Inteligencia Artificial.
  • Fortalecer la confianza en la tecnología. A través de la creación de un marco de certificación voluntario para entidades privadas, que permita ofrecer garantías sobre el diseño responsable de soluciones digitales y garantizar los estándares técnicos.
  • La creación de conocimiento, formación y difusión en relación de la inteligencia artificial ética y humanista. Para mostrar tanto su potencial y oportunidades para el desarrollo socioeconómico, la innovación y la transformación del modelo productivo, como retos, riesgos e incertidumbres que plantea su desarrollo y adopción.
  • Dinamizar el mercado para potenciar iniciativas prácticas innovadoras y transformadoras en el ámbito de IA.
  • Ayudar a la ejecución de programas en el ámbito de la Inteligencia Artificial a través de acuerdos, convenios o cualquier otro instrumento legalmente previsto para apoyar en la ejecución de programas relacionados con la Inteligencia Artificial.

Comparaciones con la Agencia Española de Protección de datos

A grandes rasgos, estas dos autoridades plantean similitudes en sus funciones, aunque cada una en su materia. En Francia, la CNIL, su autoridad de protección de datos será quien asumirá las competencias de la Autoridad de Supervisión dentro de sus fronteras.

Aún así, AESIA y la AEPD no son comparables ya que la presidencia del Consejo Rector recae en la Secretaría de Estado de Digitalización e Inteligencia Artificial. Y será esta quien proponga directamente al director general de AESIA. Mientras que el Estatuto de la AEPD prevé un nombramiento de sus cargos mediante acuerdo parlamentario.

inteligencia_artificial

Un paso más para la regulación de la Inteligencia Artificial en Europa

by BlogInteligencia Artificial

Hace unos días, saltaba la noticia del acuerdo provisional de la Ley de Inteligencia Artificial a nivel Europeo. Tras las negociaciones llevadas a cabo entre el Consejo y el Parlamento Europeo.

Se trata de la Propuesta  de Reglamento Europeo por el que se establecen normas armonizadas en materia de Inteligencia Artificial, que la Comisión Europea hizo el 21 de abril de 2021.

Ante la presentación de esta propuesta, el día 6 de diciembre de 2022, el Consejo acuerda su posición sobre el Reglamento. Para que finalmente el 9 de diciembre de 2023, el Consejo y Parlamento han alcanzado un acuerdo, respecto a este.

1. Cronología

2. Objetivo del reglamento de Inteligencia Artificial

La nueva regulación, supone un cambio de paradigma en la UE, pero que también lo supondrá para el resto del mundo. Tal y como sucedió con el Reglamento de Protección de datos, ya que aplica a:

  • Proveedores que introduzcan en mercado o pongan en servicio Sistemas de IA en la Unión, independientemente de su ubicación.
  • Usuarios de sistemas de IA que se encuentren en la Unión.
  • Proveedores y usuarios de Sistemas de IA que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en la Unión.

Esta normativa tiene unos objetivos principales:

  • Crear normas armonizadas en toda la Unión para la Introducción en el mercado, puesta en servicio y utilización de sistemas de Inteligencia Artificial.
  • Prohibiciones de determinadas prácticas de IA.
  • Requisitos para los sistemas de Alto Riesgo y obligaciones para los operadores de dichos sistemas.
  • Requisitos de transparencia.
  • Normas sobre el control y la vigilancia en el mercado.

Estos objetivos, se centran en el riesgo y suponen desde una prohibición total hasta ciertas obligaciones.

Establece unas prácticas que quedan totalmente prohibidas para proteger los derechos y libertades de los ciudadanos, como son:

Siguiendo el enfoque de riesgo, tras las prácticas prohibidas, hace una clasificación de sistemas de alto riesgo y para los cuales establece unos requisitos, de manera que estos sistemas, sean más viables sede el punto de vista técnico y supongan una carga menor para las partes interesadas, los requisitos exigidos son los siguientes:

Otro aspecto a destacar, son los sistemas de IA generativa, los cuales tendrán que cumplir con criterios de transparencia, como por ejemplo: especificar de forma clara cuando un texto, canción o fotografía es realizado con IA.

 

3. Sanciones

Además, el texto viene a establecer una serie de sanciones por incumplimiento de las directrices, las cuales deben aplicar los Estados Miembros, es decir deben comunicar el régimen sancionador establecido. Pero estas pueden ascender:

  • Multas administrativas de hasta 30 M o 6% de volumen de negocio total anual mundial del ejercicio anterior (incumplimiento de la prohibición de prácticas prohibidas).
  • Multas administrativas de hasta 20 M o 4% del volumen de negocio total anual mundial del ejercicio anterior, para el incumplimiento de cualquier requisito establecido en el reglamento.

 

4. Inteligencia artificial y RGPD

Los Sistemas de Inteligencia Artificial, siempre que traten datos personales, deben cumplir con todo lo establecido en el Reglamento de Protección de datos personales: deber de información, base de legitimación, principios…

Uno de los problemas que pueden llegar a surgir, es que la IA suele llevarse a cabo con la explotación de gran cantidad de datos personales, hoy en día y para dar cumplimiento a lo estipulado en el RGPD, se hace con datos anonimizados.

Respecto a los datos anonimizados, hay que tener en cuenta que no aplica el RGPD pero teniendo en cuenta los grandes avances tecnológicos que suceden cada día, lo que hoy son datos anonimizados, pueden serlo seudonimizados mañana, lo que si exige cumplir con lo requerido en la normativa de protección de datos.

Otro requisito para los sistemas IA que traten datos personales, es la obligatoriedad de llevar a cabo, una Evaluación de Impacto de Protección de datos, ya que cumple con requisitos que obligan a su realización: como tecnología de uso innovador, tratamientos de datos a gran escala.

chatbots

Por qué usar chatbots con Inteligencia Artificial

by BlogInteligencia Artificial

La Inteligencia Artificial está revolucionando el mundo hasta tal punto que en muchos sectores se plantea como una opción de futuro no muy lejano a la mano de obra desarrollada por las personas. De hecho ya hace tiempo que es habitual hablar con chatbots con IA en multitud de empresas y servicios.  

Un chatbot con IA es un robot capaz de hablar con el cliente, casi, como si fuera un humano. La capacidad del chatbot online para proporcionar respuestas rápidas, automatizar tareas repetitivas y personalizar las interacciones con los clientes lo ha hecho muy popular.

Para que te hagas una idea, según un estudio de Accentur el 43% de las organizaciones informa que sus competidores ya están implementando bots conversacionales. El mismo estudio reveló que el 91% de las compañías que implementaron chatbot IA esperan ver un retorno de su inversión (ROI) de 1x a 5x en los primeros 12 meses. Y es que la implementación de chatbots como un recurso de atención al cliente tiene sus ventajas.

Ventajas de usar chatbots con Inteligencia Artificial

  • Reduce la carga de tareas repetitivas para los agentes y mejora la satisfacción del usuario.
  • Ofrecen soporte 24/7.
  • Capacidad multitarea.
  • Aumento de productividad.
  • Atención personalizada.
  • Mejora de la comunicación interna basada en datos.

Pero ¿cómo se configura un chatbot IA? Para ello hay que identificar problemas clave, establecer el contexto, diseñar un flujo de trabajo y personalizar mensajes. La optimización vendrá después, con la interacción en situaciones reales.

chatbots con inteligencia artificial

Cómo hacer chatbots IA

Si no estás muy familiarizado con la tecnología, no te preocupes. Muchos proveedores de soluciones conversacionales tienen chatbots IA listos para usar. Por otro lado, si ya tienes más experiencia y quieres adaptar por completo el chatbot online a tus necesidades, también es posible.

Cualquiera que sea tu caso, es importante seguir un flujo de cinco pasos:

  1. Identificar qué problemas quieres resolver: ¿Cuáles son las preguntas que más hacen los clientes? ¿A qué hora? ¿A través de qué canal? Necesitas tener esta información para configurar tu chatbot IA.
  2. Establecer el nivel de contexto necesario: ¿Cuántos y qué tipos de datos necesita el chatbot IA para responder estas preguntas? ¿Están actualizados? ¿Qué tipo de acceso o integración necesita el chatbot IA para funcionar completamente?
  3. Diseñar el flujo conversacional entre chatbots y agentes: Si un cliente tiene una solicitud más compleja, ¿cómo ocurrirá la desviación a un agente humano? ¿Cuáles son los criterios para distribuir la demanda entre el equipo?
  4. Escribir mensajes personalizados: Cuando un cliente usa tu chatbot IA, ¿cómo te aseguras de que se sienta especial? ¿El chatbot IA saludará a la persona por su nombre?
  5. Optimizar el chatbot según las interacciones: Después de algunas semanas de usar el chatbot online, ¿qué salió bien? ¿Qué puedes mejorar?

Conversa siempre de manera inteligente

Si pensabas que un chatbot es bueno, imagina uno integrado con inteligencia artificial. Como has podido ver, es muy sencillo contar con un bot inteligencia artificial. Además, es increíblemente útil, pues con su ayuda no tendrás la menor duda de que tus clientes están siendo atendidos de la mejor manera. Estas herramientas facilitan el trabajo de la empresa y los clientes se sienten mucho más felices.

Mejora la experiencia del cliente y su relación con tu empresa con un increíble asistente eficiente y disponible 24/7.