inteligencia_artificial

Un paso más para la regulación de la Inteligencia Artificial en Europa

by BlogInteligencia Artificial

Hace unos días, saltaba la noticia del acuerdo provisional de la Ley de Inteligencia Artificial a nivel Europeo. Tras las negociaciones llevadas a cabo entre el Consejo y el Parlamento Europeo.

Se trata de la Propuesta  de Reglamento Europeo por el que se establecen normas armonizadas en materia de Inteligencia Artificial, que la Comisión Europea hizo el 21 de abril de 2021.

Ante la presentación de esta propuesta, el día 6 de diciembre de 2022, el Consejo acuerda su posición sobre el Reglamento. Para que finalmente el 9 de diciembre de 2023, el Consejo y Parlamento han alcanzado un acuerdo, respecto a este.

1. Cronología

2. Objetivo del reglamento de Inteligencia Artificial

La nueva regulación, supone un cambio de paradigma en la UE, pero que también lo supondrá para el resto del mundo. Tal y como sucedió con el Reglamento de Protección de datos, ya que aplica a:

  • Proveedores que introduzcan en mercado o pongan en servicio Sistemas de IA en la Unión, independientemente de su ubicación.
  • Usuarios de sistemas de IA que se encuentren en la Unión.
  • Proveedores y usuarios de Sistemas de IA que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en la Unión.

Esta normativa tiene unos objetivos principales:

  • Crear normas armonizadas en toda la Unión para la Introducción en el mercado, puesta en servicio y utilización de sistemas de Inteligencia Artificial.
  • Prohibiciones de determinadas prácticas de IA.
  • Requisitos para los sistemas de Alto Riesgo y obligaciones para los operadores de dichos sistemas.
  • Requisitos de transparencia.
  • Normas sobre el control y la vigilancia en el mercado.

Estos objetivos, se centran en el riesgo y suponen desde una prohibición total hasta ciertas obligaciones.

Establece unas prácticas que quedan totalmente prohibidas para proteger los derechos y libertades de los ciudadanos, como son:

Siguiendo el enfoque de riesgo, tras las prácticas prohibidas, hace una clasificación de sistemas de alto riesgo y para los cuales establece unos requisitos, de manera que estos sistemas, sean más viables sede el punto de vista técnico y supongan una carga menor para las partes interesadas, los requisitos exigidos son los siguientes:

Otro aspecto a destacar, son los sistemas de IA generativa, los cuales tendrán que cumplir con criterios de transparencia, como por ejemplo: especificar de forma clara cuando un texto, canción o fotografía es realizado con IA.

 

3. Sanciones

Además, el texto viene a establecer una serie de sanciones por incumplimiento de las directrices, las cuales deben aplicar los Estados Miembros, es decir deben comunicar el régimen sancionador establecido. Pero estas pueden ascender:

  • Multas administrativas de hasta 30 M o 6% de volumen de negocio total anual mundial del ejercicio anterior (incumplimiento de la prohibición de prácticas prohibidas).
  • Multas administrativas de hasta 20 M o 4% del volumen de negocio total anual mundial del ejercicio anterior, para el incumplimiento de cualquier requisito establecido en el reglamento.

 

4. Inteligencia artificial y RGPD

Los Sistemas de Inteligencia Artificial, siempre que traten datos personales, deben cumplir con todo lo establecido en el Reglamento de Protección de datos personales: deber de información, base de legitimación, principios…

Uno de los problemas que pueden llegar a surgir, es que la IA suele llevarse a cabo con la explotación de gran cantidad de datos personales, hoy en día y para dar cumplimiento a lo estipulado en el RGPD, se hace con datos anonimizados.

Respecto a los datos anonimizados, hay que tener en cuenta que no aplica el RGPD pero teniendo en cuenta los grandes avances tecnológicos que suceden cada día, lo que hoy son datos anonimizados, pueden serlo seudonimizados mañana, lo que si exige cumplir con lo requerido en la normativa de protección de datos.

Otro requisito para los sistemas IA que traten datos personales, es la obligatoriedad de llevar a cabo, una Evaluación de Impacto de Protección de datos, ya que cumple con requisitos que obligan a su realización: como tecnología de uso innovador, tratamientos de datos a gran escala.

proteccion_Datos_compras_navidad

8 tips para proteger tus datos en tus compras navideñas

by BlogProtección de Datos

Los ciberdelincuentes intensifican sus ataques para robar nuestros datos personales en épocas como la Navidad, adaptando sus mensajes o ganchos a temáticas relacionadas con las compras. Ya sea por falta de tiempo  o por precio, muchas de las compras navideñas se realizan a través de Internet, lo que puede suponer ciertos riesgos para la privacidad y la protección de datos. Por eso es tan importante que sepas proteger tus datos.

Los datos personales pueden ser utilizados para estafarnos, acceder a nuestra cuenta bancaria y otras actividades fraudulentas. Para ello, los ciberdelincuentes adaptan a cada época del año o evento de actualidad, como la Navidad y las compras navideñas sus mensajes para captar nuestra atención y robarnos nuestros datos. En el post de hoy te ayudamos a identificarlos y te damos consejos para prevenir estos y otros riesgos para tu privacidad.

Tips para proteger tus datos en tus compras navideñas en Internet

1. No abras los correos electrónicos con enlaces que te piden información personal

¿Cuántas veces te ha llegado uno de estos mails haciéndose pasar por tu banco? Seguro que muchas. Aunque todas y todos somos conocedores de este tipo de estafas, en alguna ocasión puede que “piques” por falta de atención o estrés. Estamos todos muy ocupados con nuestros trabajos, compromisos familiares y amistosos y miles de preocupaciones más.

Pase lo que pase sigue siempre este consejo: nunca respondas a este tipo de mails. Ningún banco pide datos personales, datos bancarios o contraseñas a través de un correo electrónico y mucho menos enviando un enlace en el que tienes que hacer clic.

Duda de todo tipo de correos electrónicos alarmistas o con enlaces a grandes ofertas exclusivas que dirigen a webs en las que debemos facilitar datos personales. Contacta con la empresa a través de sus canales oficiales antes de pulsar el enlace. Y, en caso de duda, no pulses el enlace: accede tú mismo a la web de la empresa introduciendo la dirección en el navegador.

2. Presta atención al banner de cookies de los servicios online a los que accedes, y acepta únicamente los tratamientos que consideres apropiados

3. Cuidado con los SMS y mensajes en WhatsApp, Telegram y otros servicios de mensajería instantánea

Otra práctica muy extendida entre los ciberdelincuentes y que seguro también te ha pasado en más de una ocasión es recibir un SMS de una empresa de mensajería diciendo que tu envío está en camino. Y no estás esperando nada ¿a que no?

De todos modos, estés esperando algún pedido o no, y en época navideña raro es el que no esté esperando ningún regalo o auto regalo; te volvemos a dar el mismo consejo. Nunca respondas a este tipo de mensajes, estés esperando algo o no.

Este tipo de técnica se llama smishing y es muy común su utilización asociada con grandes ofertas o envíos de mensajería en época de rebajas o compras navideñas. Además de con SMS, utiliza también otros servicios de mensajería instantánea como WhatsApp, Telegram, etc.

4. Compra en tiendas online oficiales y de confianza

A la hora de comprar en una tienda online revisa siempre la política de privacidad, así como el aviso legal para saber quién es el responsable del tratamiento de tus datos personales.

5. Evita conectarte a wifis públicas

¿Has consumido ya todos tus datos y no puedes esperar a llegar a casa para comprar ese regalo de Navidad? Puede esperar, seguro que puede esperar. No caigas en la tentación de conectarte a una wifi pública para hacer compras en Internet, puede que esté hackeada y algún ciberdelincuente haga compras por ti.

6. Revisa la configuración de privacidad y seguridad de tus dispositivos con regularidad

7. Valora realizar tus compras online con una tarjeta que sólo utilices para eso

8. Utiliza contraseñas distintas en cada servicio de Internet. Para ello puedes ayudarte de un gestor de contraseñas.

¿Tienes alguna duda? Si quieres profundizar más sobre la protección de tus datos personales, sigue leyendo nuestros posts. También te recomendamos esta guía de la AEPD en la que te informan sobre todo lo que tienes que tener en cuenta para proteger tus datos a la hora de comprar por Internet. Y recuerda, en lo que a Internet se refiere, primero desconfía, después analiza y por último actúa solo en caso de saber que no estás ante un ciberdelincuente.

chatgpt_inteligenciaartificial

Peligros de privacidad: Chat GPT

by BlogProtección de Datos

Chat GPT es el desarrollo de inteligencia artificial más importante de los últimos años. El mes pasado hablábamos de su impacto en la protección de datos. Hoy profundizaremos en los peligros que supone para la privacidad. ¿Vamos a ello?

Partiendo de la base de que los chatbots se nutren de nuestros datos personales y cuantos más datos recopilen, más precisa es su capacidad, tanto para detectar patrones como para anticiparse y generar respuestas; los peligros de privacidad aumentan por enteros.

Si además tenemos en cuenta que la información que se usa para entrenar a productos de inteligencia artificial como Chat GPT, se obtiene de Internet y de datos personales que en su mayoría se recaban sin consentimiento de los usuarios, estamos ante un caso de incumplimiento de la normativa de privacidad.

 

Medidas que debería adoptar Chat GPT para cumplir con la normativa de privacidad

1. Informar sobre el tratamiento de datos. Qué datos se usan y para qué.

2. Informar sobre cómo los titulares se pueden oponer a que sus datos sean utilizados para entrenar los algoritmos e implementar mecanismos para ello.

3. Realizar campañas informativas en medios de comunicación

4. Establecer mecanismos para la exclusión del acceso al servicio a usuarios menores de 13 años.

Preceptos de la normativa de privacidad que no se cumplen

En primer lugar, se incumple el deber de información ya que, generalmente, no se proporciona información completa y transparente a los usuarios e interesados sobre el tratamiento que de sus datos hacen estos sistemas.

Además, el incumplimiento de los principios que deben regir el tratamiento de datos personales, entre ellos, el principio de exactitud. Dado que muchos de los datos introducidos en los sistemas son inexactos. Y en consecuencia se produce una desinformación a gran escala. En este sentido, una de las grandes preocupaciones derivadas del uso de sistemas como Chat GPT es la tendencia a “maquillar” la información y aumentar los sesgos en las respuestas proporcionadas al usuario.

Otra de las infracciones destacables es la ausencia de base legitimadora que ampare el tratamiento masivo de datos personales con la finalidad de entrenar los algoritmos que rigen el funcionamiento de los chatbots.

También se destaca la contravención del principio de confidencialidad y la falta de medidas de seguridad. Lo cual incrementa enormemente la posibilidad de brechas y ciberataques.

Por ello, podemos concluir que, aunque la IA tiene el potencial de transformar sectores, solucionar problemas, simplificar respuestas o ser una gran fuente de información. También puede representar grandes riesgos éticos y sociales.

Es importante resaltar que los sistemas de chatbots pueden reproducir, reforzar y amplificar patrones de discriminación y/o desigualdad. En consecuencia, la gestión irresponsable de los datos que pueden realizar estos sistemas, da resultados poco fiables. Que además pueden dañar el bienestar de la ciudadanía y la seguridad en el tráfico jurídico.

¿Se creará un marco regulatorio sólido a nivel mundial que regule los sistemas de inteligencia artifical como Chat GPT? En Bacaria lo seguiremos de cerca para mantenerte informado.

 

CHAT_GPT_OPENAI

Chat GPT y su impacto en la protección de datos

by BlogProtección de Datos

CHAT GPT es un producto de OPEN AI y es considerado el desarrollo de Inteligencia Artificial más importante de los últimos años. Se trata de un modelo de lenguaje entrenado (Generative Pretrained Transformer) para proporcionar respuestas coherentes y naturales a preguntas y comandos de texto. Se caracteriza principalmente por su capacidad para proporcionar respuestas coherentes a preguntas complejas y por su rápido aprendizaje y mejora de su rendimiento.

Entre sus principales tareas destacan las siguientes, traducir idiomas, escribir canciones, entradas de blogs, crear recetas de cocina, responder a preguntas de investigación, generar código e incluso ha llegado a aprobar exámenes en universidades.

¿Cómo funciona?

Cuando se le proporciona una entrada de texto, utiliza su modelo GPT para analizar el significado y el contexto de la entrada y generar una respuesta coherente, además CHAT GPT utiliza su conocimiento previo y su habilidad  para aprender continuamente para mejorar su rendimiento y proporcionar respuestas más precisas y relevantes a las preguntas de los usuarios.

¿Cómo utilizarlo?

Lo primero que hay que hacer es acceder a la página web Open AI https://openai.com/ y registrarse, una vez completado el proceso de registro, ya se accede a su programa de prueba gratuita, hay que tener en cuenta que es un producto que necesita subscrición de pago para acceder a todas sus funcionalidades.

En Bacaria, recomendamos que antes de usarlo se revisen sus políticas en https://openai.com/policies/usage-policies.

¿Cómo afecta CHAT GPT a la Protección de datos?

Hay que destacar que CHAT GPT en sí mismo no recopila datos personales, pero si el usuario los introduce en el chat, este los procesa y genera respuestas a partir de la información del usuario. Además puede acceder a la dirección IP, el tipo y la configuración del navegador, principalmente por temas de seguridad.

Es recomendable no introducir información personal, confidencial o datos sensibles, ya que el equipo responsable del desarrollo y mantenimiento de CHAT GPT puede revisar conversaciones para mejorar los sistemas y con fines de calidad.

Además, OPEN AI asegura que utiliza medidas de seguridad informática, como encriptación de datos, acceso limitado a servidores y la eliminación regular de datos de los usuarios para evitar cualquier riesgo de exposición y vulnerabilidades.

¿Qué debo tener en cuenta, en materia de protección de datos, si quiero implementar un chatbot con CHAT GPT en mi empresa?

Dicha empresa como responsable del tratamiento de los datos tratados a través del chatbot con CHAT GPT, debe tener en cuenta las siguientes implicaciones:

  1. Identificar los tratamientos de datos personales que se van a llevar a cabo con CHAT GPT en su Registro de actividades de tratamiento.
  2. Usar una base de legitimación de las recogidas en el artículo 6 del RGPD.
  3. Cumplir con el deber de informar sobre el tratamiento de datos de forma clara y sencilla al interesado/usuario del chatbot.
  4. En el caso, de que el chatbot con CHAT GPT, sea proporcionado por un proveedor de servicios, se debe llevar a cabo la firma de un contrato de encargo de tratamiento, por el caso contrario si es implementado directamente por la empresa se debe firmar un contrato de encargo con OPEN AI, para ello debes ponerte en contacto a través de su correo electrónico proporcionado en su página web e indicarle que necesitas firmar dicho contrato de encargo de tratamiento.
  5. Llevar a cabo una Evaluación de Impacto de protección de datos para analizar las características del Chatbot con CHAT GPT, como se recopilan y utilizan los datos personales, el impacto en los derechos y libertades y qué medidas se tomarán para proteger los datos personales y mitigar los riesgos de privacidad.

En resumen, como se puede apreciar la utilización de este tipo de tecnologías puede conllevar un riesgo en privacidad, por lo que debe tenerse en cuenta lo estipulado en el Reglamento de Protección de datos y otras normas complementarias, en Bacaria tenemos un equipo especializado en Inteligencia Artificial y privacidad y estaremos encantados de ayudarte.