Recientemente, Oscar Montezuma, fundador y CEO de Niubox, participó en el evento AI Governance Global 2024, organizado por la International Association of Privacy Professionals (IAPP) en Bruselas. Durante dos días, profesionales de distintas partes del mundo nos reunimos para profundizar en los detalles del Reglamento de Inteligencia Artificial de la Unión Europea (Reglamento IA), el primer estándar normativo internacional que regula la inteligencia artificial.
Objetivos del EU AI Act
El reglamento de inteligencia artificial de la Unión Europea tiene varios objetivos clave:
- Armonizar las reglas del mercado interno: Establecer un marco común para todos los Estados miembros, facilitando la adopción y el desarrollo de la IA en toda la Unión Europea.
- Promover una IA centrada en el ser humano: Garantizar que la IA se desarrolle y utilice de manera que beneficie a las personas y respete sus derechos
- Proteger a las personas: Implementar medidas de seguridad y privacidad para proteger a los usuarios de posibles riesgos asociados con la IA.
- Fomentar la innovación tecnológica: Apoyar la investigación y el desarrollo de tecnologías de IA, incentivando la competitividad y la creatividad en el sector.
Si el reglamento europeo de protección de datos personales (“GDPR”) se centró en regular el procesamiento de datos personales, el Reglamento IA es una norma que se centra en regular los sistemas y algoritmos que procesan datos. Se trata de una ley mucho más técnica enfocada en el acceso al mercado. Incluye más definiciones, muchos anexos técnicos y una mayor cantidad de stakeholders, lo que la hace mucho más compleja. Aunque hay puntos de intersección con el GDPR, es una regulación distinta con su propio conjunto de desafíos.
Aspectos clave del reglamento
Algunos de los puntos más relevantes incluyen:
- Prohibición de ciertas prácticas. El Reglamento IA establece prohibiciones y requisitos estrictos para los sistemas de alto riesgo, definiendo categorías específicas y procedimientos de evaluación.
- Transparencia: Los sistemas de IA deben ser transparentes, proporcionando a los usuarios información clara sobre cómo funcionan y cómo se toman las decisiones.
- Evaluación de riesgos: Los desarrolladores deben realizar evaluaciones exhaustivas de riesgos y mitigar cualquier potencial daño antes de que los sistemas puedan ser implementados.
- Supervisión y cumplimiento: Se establecen organismos de supervisión a nivel nacional y europeo para asegurar el cumplimiento del reglamento y tomar medidas en caso de infracciones.
Detalles técnicos
Los sistemas de IA están definidos como aquellos que juegan un papel importante en la toma de decisiones y que tienen un grado de autonomía para tomar decisiones. Por ejemplo, una hoja de cálculo automatizada queda fuera de este alcance.
La norma establece categorías de sistemas de IA:
- Sistemas de IA prohibidos: se trata de aquellos que por su grado de peligrosidad no deberían existir (por ejemplo aquellos enfocados en “scoring social”).
- Sistemas de IA de alto riesgo: son aquellos detallados en el Anexo III de la norma y que tienen un alto nivel de obligaciones y exigencias.
- IA con riesgo de transparencia: tal es el caso de chatbots soportados en IA que interactúan con El 95% de los casos de uso suelen caer en esta categoría.
- Modelos de IA de propósito general: se trata de tecnología IA que puede usarse para muchas cosas y que necesita ser entrenada con grandes cantidades de datos.
Ámbito de aplicación
La ley aplica a varios actores:
- Proveedores (“providers”): aquellos que desarrollan sistemas de IA
- Desarrolladores (“deployers”): aquellos que usan sistemas de IA
- Fabricantes de productos
- Representantes autorizados
- Importadores
- Distribuidores
- Operadores
Resulta muy importante definir en qué categoría encaja cada actor para determinar el nivel de obligaciones y responsabilidades que debe asumir. Es probable que la mayoría de actores calcen en la categoría de desarrolladores. Si el GDPR tiene dos categorías (“titular”o controller y “processor” o encargado) el Reglamento IA tiene siete categorías que debemos analizar con detenimiento.
Fuera del ámbito de aplicación
Algunos aspectos quedan fuera del alcance de la ley de IA, como la seguridad nacional, defensa militar, actividad de autoridades públicas en terceros países para la aplicación de la
ley y cooperación judicial, investigación y desarrollo, pruebas y desarrollo antes de la comercialización, despliegues por personas naturales y licencias de software libre y de código abierto.
Desafíos y oportunidades
Aunque el EU AI Act ofrece un marco prometedor para el desarrollo seguro y ético de la IA, su complejidad técnica plantea numerosos desafíos. Entre ellos:
- Implementación: Las empresas y organizaciones deberán adaptar sus procesos y tecnologías para cumplir con los nuevos requisitos, lo que puede implicar costos y esfuerzos considerables.
- Interpretación: La normativa deja varias cuestiones abiertas, que necesitarán clarificación y desarrollo adicional para asegurar una aplicación coherente en toda la
- Benchmark para otros mercados: A pesar de estos desafíos, el EU AI Act ya está sirviendo como referencia para intentos regulatorios en otras regiones, incluyendo América Latina.
La jornada en Bruselas fue sumamente enriquecedora a fin de recorrer los principales aspectos de la norma. Es evidente que el Reglamento IA marcará un antes y un después en la regulación de la inteligencia artificial, y su impacto se sentirá a nivel global.
(1) El presente artículo ha sido elaborado con apuntes propios de la charla “EU AI Act Comprehensive 1: Context and Key Concepts” dictada por Eduardo Ustarán y Anna Zeiter cuya presentación pueden encontrar aquí.
Si necesitas asesoría implementando estas recomendaciones no dudes en contactar a alguno de nuestros especialistas en contacto@niubox.legal
Niubox es una consultora que ofrece asesoría legal, consultoría estratégica en asuntos públicos y regulatorios e innovación legal. Conoce nuestros servicios en Perú, Ecuador y Colombia: tecnología y negocios digitales, innovación legal y legaltech, protección de datos personales y ciberseguridad, asuntos públicos y regulatorios, transformación digital, regulación fintech y de criptoactivos, telecomunicaciones y competencia, consumidor y propiedad intelectual.
