La inteligencia artificial (IA) ha emergido transformando diversos sectores, desde la medicina hasta la industria. A medida que se vuelve más omnipresente en nuestra sociedad, la implementación de regulaciones efectivas garantizará un desarrollo ético y seguro de la misma.

El Consejo y el Parlamento Europeo trabajan ya en un reglamento para regularizar los sistemas de Inteligencia Artificial comercializados y utilizados dentro de la Unión Europea.

Dicho reglamento establecerá obligaciones en función de diferentes niveles de riesgo, que han clasificados como:

  •  Riesgo inaceptable: Son sistemas considerados una amenaza para las personas y que incluyen manipulación del comportamiento, clasificación social o sistemas de identificación biométricos en tiempo real y a distancia. Estos procedimientos serán prohibidos.
  •  Riesgo alto: Son los que puedan afectar de forma negativa a la seguridad o derechos fundamentales de las personas. Todos ellos deberán seguir un proceso de evaluación.
  •  IA generativa: Sistemas como ChatGPT, que deberán cumplir requisitos de transparencia.
  •  Riesgo limitado: Otros sistemas, como los de creación o modificación de imágenes, videos o audios, que también deberán cumplir requisitos de transparencia. Los usuarios deberán saber cuándo se ha utilizado IA o si están interactuando con ella.

Las regulaciones deben exigir que los sistemas de IA sean transparentes y capaces de proporcionar explicaciones comprensibles sobre cómo toman decisiones. Esto no solo aumentará la confianza en la tecnología, sino que también permitirá a los usuarios comprender y cuestionar las decisiones tomadas por los sistemas de IA.

Otro de los principales focos de regulación será la protección de la privacidad y los datos personales. Los sistemas de IA deben definir claramente cómo se recopilan, almacenan y utilizan los datos que obtienen.

Este reglamento contribuirá a encontrar un equilibrio que fomente la innovación sin comprometer la ética y los derechos fundamentales de los individuos.

 

Novedades Tecnología & Protección de Datos – Despacho Cobo Serrano Abogados.
Abogados en Alcázar de San Juan, Ciudad Real.