El 13 de noviembre de 2024, la Oficina Europea de Inteligencia Artificial inició una consulta multisectorial sobre la aplicación de la definición de «sistema de IA» y las prácticas prohibidas en la Ley de IA (IA Act). Este debate supone una novedad relevante, ya que busca esclarecer conceptos clave y resolver posibles ambigüedades que afectan a la implementación de esta normativa en la Unión Europea.
El Supervisor Europeo de Protección de Datos (EDPS, por sus siglas en inglés) ha participado activamente en esta consulta, destacando consideraciones esenciales relacionadas con la protección de datos personales y la interacción entre la Ley de IA y el Reglamento General de Protección de Datos (GDPR). Su análisis busca resolver discrepancias en la interpretación del concepto de sistema de IA y su posible conflicto con las normativas de protección de datos.
Aportes del texto al concepto de sistema de IA
El EDPS señala que la definición de «sistema de IA» en la IA Act presenta ciertos elementos que requieren mayor claridad:
- Autonomía en los sistemas de IA
El EDPS considera que el término «autonomía» necesita una definición más precisa. Argumenta que cualquier sistema informático automatiza cálculos y procesos, lo que puede llevar a confusión al diferenciar entre algoritmos simples basados en reglas y sistemas de aprendizaje automático (machine learning). Qué grado de autonomía hace que un sistema sea considerado «inteligente» según la Ley de IA? - Adaptabilidad antes y después del despliegue
Se destaca que la definición actual se centra en la adaptabilidad de los sistemas de IA después de su despliegue, obviando la importancia de los procesos de aprendizaje previos. Durante su desarrollo, los sistemas de IA ajustan sus parámetros iniciales mediante procedimientos de aprendizaje que les permiten mejorar en tareas específicas. Este proceso, según el EDPS, es un elemento único de los sistemas de IA y debería ser reconocido en la definición. - Inclusión de sistemas híbridos o expertos
El EDPS plantea dudas sobre si los sistemas expertos, que se basan en reglas predefinidas y decisiones determinísticas, y los sistemas híbridos (como los neuro-simbólicos), estarían dentro del alcance de la definición de sistema de IA. Estos sistemas, aunque combinan elementos avanzados, no siempre muestran adaptabilidad o aprendizaje, lo que genera incertidumbre sobre su clasificación bajo la Ley de IA.
Conclusión
La contribución de la Autoridad Europea de Protección de Datos muestra la incertidumbre que existe en el concepto de IA en el Reglamento europeo. Lo poco que está claro es que no todo algoritmo será IA, sino que es necesario «algo más», el reglamento lo define como autonomía pero no está claro cuánta autonomía ni si quiera que significa «autonomía»
Si te interesa el tema de la IA te recomiendo este libro publicado por Aranzadi y que escribí recientemente que puedes encontrar en este link en abierto y gratuito
EStoy totalemnte de acuerdo en la indefinición, nos estamos encontrando con sistemas en el que un algoritmo trabaja sobre datos, define un modelo y ese modelo se aplica de manera estática, ni aprende ni mejora, sino que aplica unas reglas predefinidas, obtenidas con IA sobre gran cantidad de datos. Este tipo de actuaciones, de las que veremos muchas, sin autonomía y con reglas estáticas, sin aprendizaje, no debería ser entendido como IA.
A Europa nos pierde el ansia de regular. Però claro, hay que mantener la burocracia para que vivan los burocratas. Menos regulacions y mas investigacion, és lo que necesitamos.