Publicado el: 13 de febrero de 2025 / Actualizado el: 13 de febrero de 2025 – Autor: Konrad Wolfenstein
Sistemas de IA, sistemas de alto riesgo y la Ley de IA para su aplicación práctica en empresas y administraciones públicas – Imagen: Xpert.Digital
Ley de IA de la UE: Nuevas directrices de la Comisión Europea: Qué deben saber las empresas ahora
Sistemas de IA, aplicaciones de alto riesgo y la Ley de IA en empresas y administraciones públicas
El 11 de febrero de 2025, la Comisión Europea publicó unas directrices completas sobre la aplicación práctica de la Ley de IA de la UE. Estas directrices tienen como objetivo ayudar a las empresas y a las autoridades públicas a comprender mejor y cumplir con los requisitos de la Ley. Se hace especial hincapié en las prácticas de IA prohibidas, los sistemas de alto riesgo y las medidas para garantizar su cumplimiento.
Aspectos clave de las directrices
Prácticas de IA prohibidas
La Ley de IA prohíbe explícitamente ciertas aplicaciones de IA que se consideran de alto riesgo. Estas prohibiciones están en vigor desde el 2 de febrero de 2025. Entre ellas se incluyen:
- Sistemas de IA que utilizan técnicas manipuladoras o engañosas
- Sistemas que explotan específicamente las vulnerabilidades de ciertos individuos o grupos
- Sistemas de puntuación social
- IA para predecir posibles actos delictivos sin pruebas claras
- Extracción incontrolada de imágenes faciales de Internet para identificación biométrica
- Sistemas de reconocimiento de emociones en el lugar de trabajo o en instituciones educativas
- Sistemas de identificación biométrica en tiempo real en espacios públicos (con algunas excepciones para los organismos encargados de hacer cumplir la ley)
Estas prohibiciones tienen como objetivo garantizar que las tecnologías de IA se utilicen de forma ética y responsable y no violen los derechos fundamentales.
Aplicación práctica de las directrices
Las directrices de 140 páginas de la Comisión Europea contienen numerosos casos prácticos para ayudar a las empresas y autoridades públicas a clasificar correctamente sus sistemas de IA. Si bien estas directrices no son jurídicamente vinculantes, sirven de referencia para las autoridades supervisoras a la hora de supervisar y aplicar la normativa.
Importancia para empresas y autoridades
Las empresas y las autoridades deben comprometerse activamente con las directrices para:
- para revisar sus sistemas de IA existentes para detectar posibles infracciones
- Para hacer los ajustes necesarios desde el principio
- Construir estructuras internas de cumplimiento para evitar sanciones
El incumplimiento de la normativa puede tener graves consecuencias. Las sanciones pueden alcanzar hasta 35 millones de euros o el 7 % de la facturación anual global de la empresa, lo que sea mayor.
Próximos pasos
Antes de que las directrices puedan implementarse plenamente, aún deben traducirse a todos los idiomas oficiales de la UE y adoptarse formalmente. No obstante, las empresas y las autoridades públicas deben tomar medidas proactivas para prepararse para la introducción gradual de la Ley de IA. Su plena aplicación está prevista para el 2 de agosto de 2026.
Categorización de riesgos de los sistemas de IA
La Ley de IA de la UE divide los sistemas de IA en cuatro clases de riesgo, cada una con diferentes requisitos regulatorios:
1. Riesgo inaceptable: sistemas de IA prohibidos
Estos sistemas están completamente prohibidos en la UE porque suponen una amenaza significativa para los derechos y libertades de los ciudadanos. Algunos ejemplos son:
- Sistemas de IA para puntuación social
- IA manipuladora que influye inconscientemente en el comportamiento del usuario
- Identificación biométrica en tiempo real en espacios públicos con fines policiales (con algunas excepciones)
- Sistemas de IA que explotan vulnerabilidades debidas a la edad, la discapacidad o el estatus socioeconómico
2. Alto riesgo: se requiere una regulación estricta
Estos sistemas deben cumplir requisitos estrictos y someterse a pruebas de conformidad antes de su comercialización. Entre ellos se incluyen:
- La IA como componente de seguridad en productos críticos como dispositivos médicos, vehículos o máquinas
- Sistemas de IA independientes con implicaciones para los derechos fundamentales (por ejemplo, comprobaciones de solvencia, selección de solicitudes, aplicación de la ley, administración judicial)
Estas aplicaciones están sujetas a amplios requisitos en materia de transparencia, gestión de riesgos, calidad de los datos y supervisión humana.
3. Riesgo limitado: obligaciones de transparencia
Estos sistemas deben informar a los usuarios de que están interactuando con IA. Algunos ejemplos incluyen:
- Chatbots
- Los deepfakes se utilizan para crear o manipular contenido multimedia.
4. Riesgo mínimo o nulo – Uso libre
Estos sistemas no están sujetos a ninguna obligación legal específica; sin embargo, se recomienda un código de conducta voluntario. Algunos ejemplos incluyen:
- videojuegos impulsados por IA
- Filtro de spam
Sistemas de IA de alto riesgo y su regulación
La Ley de IA define los sistemas de IA de alto riesgo como aquellos que tienen un impacto significativo en la seguridad, la salud o los derechos fundamentales de las personas. Estos se dividen en dos categorías principales:
1. La IA como componente de seguridad o producto independiente
Un sistema de IA se clasifica como de alto riesgo si:
- Funciona como un componente de seguridad de un producto que está sujeto a las regulaciones de armonización de la UE, o
- Está sujeto a una evaluación de conformidad porque presenta riesgos potenciales.
Algunos ejemplos de dichos productos incluyen:
- IA en dispositivos médicos (por ejemplo, sistemas de diagnóstico)
- Sistemas de asistencia al conductor con asistencia de IA
- IA en la producción industrial para la evaluación de riesgos y el aseguramiento de la calidad
2. Sistemas de IA independientes de alto riesgo con relevancia social
Estos sistemas están enumerados en el Anexo III de la Ley de IA y afectan a áreas críticas de la sociedad como:
a) Infraestructuras críticas
- IA para controlar y supervisar redes eléctricas o redes de transporte
b) Educación y empleo
- IA para la evaluación automatizada de exámenes
- IA para seleccionar candidatos o evaluar el desempeño de los empleados
c) Acceso a prestaciones financieras y sociales
- Comprobaciones de solvencia basadas en IA
- Sistemas para evaluar la elegibilidad para las prestaciones sociales
d) Aplicación de la ley y justicia
- IA para el análisis de evidencias y el apoyo a la investigación
- Sistemas basados en IA para el control de fronteras y la gestión de la migración
e) Identificación biométrica
- Sistemas de identificación remota biométrica
- Sistemas de reconocimiento de emociones en entornos críticos para la seguridad
Todas estas aplicaciones de IA de alto riesgo están sujetas a requisitos estrictos en cuanto a gestión de riesgos, transparencia, procesamiento de datos, documentación técnica y supervisión humana.
Ley de IA de la UE: cómo pueden prepararse las empresas para las estrictas regulaciones de IA
La Ley de IA de la UE establece un marco claro para el uso de tecnologías de IA y hace especial hincapié en la protección de los derechos fundamentales. Las empresas y las autoridades públicas deben familiarizarse exhaustivamente con la nueva normativa y adaptar sus aplicaciones de IA en consecuencia para evitar sanciones. Se aplican requisitos especialmente estrictos a los sistemas de alto riesgo, que deben integrarse en los procesos de desarrollo e implementación desde una fase temprana.
La supervisión continua de la legislación y las medidas proactivas de cumplimiento son esenciales para garantizar el uso responsable de la IA, fomentando al mismo tiempo la innovación dentro del marco legal. Los próximos años revelarán cómo funciona la Ley de IA en la práctica y qué ajustes adicionales podrían ser necesarios.
Adecuado para:
Su socio global de marketing y desarrollo empresarial
☑️ Nuestro idioma comercial es inglés o alemán.
☑️ NUEVO: ¡Correspondencia en tu idioma nacional!
Konrad Wolfenstein
Estaré encantado de servirle a usted y a mi equipo como asesor personal.
Puedes ponerte en contacto conmigo rellenando el formulario de contacto o simplemente llámame al +49 89 89 674 804 (Múnich) . Mi dirección de correo electrónico es: wolfenstein ∂ xpert.digital
Estoy deseando que llegue nuestro proyecto conjunto.