EL REGLAMENTO DE INTELIGENCIA ARTIFICIAL Y LAS ENTIDADES LOCALES. APLICABILIDAD Y PRIORIDADES DE LA HABILITACIÓN NACIONAL

En el Diario Oficial de la Unión Europea (DOUE) se publicó el día 12 de julio corriente el relevante Reglamento  (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

El objetivo principal del Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una Inteligencia Artificial (IA en lo sucesivo) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA en la Unión, así como prestar apoyo a la innovación. 

El impacto que el Reglamento de Inteligencia Artificial (RIA en lo sucesivo) tendrá en las relaciones jurídicas afectadas por los sistemas de IA dependerá de la eficacia de este novedoso marco regulatorio, basado en la armonización y concebido como una especie de manual de instrucciones para los proveedores y personas responsables del despliegue, importadoras y distribuidoras, entre otras intervinientes.         

1. DEFINICIONES PARA ENTENDER EL ECOSISTEMA DE LA INTELIGENCIA ARTIFICIAL

Para entender el lenguaje de la IA, entre las definiciones reguladas en el artículo 3 del RIA, se destacan las siguientes definiciones: 

«Sistema de IA»: un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.

«Riesgo»: la combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicio. 

«Responsable del despliegue»: una persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional. 

«Datos de entrenamiento»: los datos usados para entrenar un sistema de IA mediante el ajuste de sus parámetros entrenables.

«Datos de validación»: los datos usados para proporcionar una evaluación del sistema de IA entrenado y adaptar sus parámetros no entrenables y su proceso de aprendizaje para, entre otras cosas, evitar el subajuste o el sobreajuste.

«Datos de prueba»: los datos usados para proporcionar una evaluación independiente del sistema de IA, con el fin de confirmar el funcionamiento previsto de dicho sistema antes de su introducción en el mercado o su puesta en servicio.

«Datos de entrada»: los datos proporcionados a un sistema de IA u obtenidos directamente por él a partir de los cuales se produce un resultado de salida.

«Datos biométricos»: los datos personales obtenidos a partir de un tratamiento técnico.

Complementariamente incluimos una definición fundamental vinculada con los mayores riesgos de la IA, cual es la de:

 «Sesgos»: presencia de prejuicios sistemáticos en los resultados generados por sistemas de IA. Estos prejuicios pueden manifestarse de varias maneras: como discriminación racional, de género, edad u otros tipos de discriminación.

2. FECHAS DE APLICACIÓN DEL RIA

3. LA TÉCNICA NORMATIVA DEL RIA BASADA EN LA PREVENCIÓN DE LOS RIESGOS

4. PRIORIDADES EN LAS ENTIDADES LOCALES ANTE LA IA

Las obligaciones y tareas establecidas para las Entidades Locales dependerán del diferente rol que ocupe, principalmente será el de responsable del despliegue, como organismo que utiliza la IA bajo su propia autoridad, detallándose a continuación las más significativas:

-Identificación y clasificación de los sistemas de IA y sus riesgos, conforme a los artículos 9 (sistemas de gestión de riesgos) y artículo 61 (evaluación ex post de la conformidad).

-Informe de legalidad sobre la adecuación de los expedientes de contratación al RIA.

-Garantía de la transparencia y rendición de cuentas (artículo 13, transparencia y suministro de información a las personas usuarias; artículo 52, obligaciones de transparencia para determinados sistemas de IA).

-Cumplimiento con la normativa en materia de protección de datos.

-Evaluación de riesgos y gestión de la calidad.

-Registro y documentación.

-Supervisión humana (artículo 22 RGPD).

-Alfabetización.

-Notificación de incidentes.

-Adaptación de procesos y políticas.

-Evaluación de proveedores.

-Auditorías de los sistemas.

Así como otra infinidad de obligaciones y necesidades relacionadas en el RIA y otras que se irán generando tras la implantación efectiva de los sistemas de IA y la eventual regulación estatal, autonómica y de desarrollo reglamentario.

5. LAS PRIORIDADES DE LA HABILITACIÓN NACIONAL EN TORNO A LA IA

Los sistemas de IA tendrán un impacto extraordinario en todos los ámbitos y especialmente en el sector público local donde el personal con habilitación nacional ha de salvaguardar tanto el desarrollo de sus funciones legalmente reservadas como su desarrollo y potenciación profesional, debiendo asumir las siguientes prioridades:

-Formación especializada y alfabetización en materia de Administración Digital y de los sistemas de IA.

-Participación activa en el gobierno del dato.

-Participación activa en los sistemas de despliegue de la IA para su correcta ejecución.

-Participación activa en los sistemas de auditoría de IA para prevenir riesgos y sesgos.

Las prioridades sintetizadas anteriormente, han de confluir en la corrección en el entrenamiento de datos de los sistemas de IA, en los registros y en toda la información municipal relacionada con las funciones de secretaría, intervención y tesorería, con una finalidad primordial: proteger los límites legales, la prevención de riesgos y de los sesgos en general, por el uso de los algoritmos.

Desde el Consejo General de Cosital, se considera fundamental la formación en materia de Transformación Digital e Inteligencia Artificial, así como la planificación estratégica del nuevo escenario de los servicios públicos locales, donde nuestras funciones legalmente reservadas son esenciales.

COSITAL próximamente publicará un monográfico especial de la Revista de Estudios Locales CUNAL dedicado exclusivamente a estas materias con la participación de reconocidas firmas especializadas.

COSITAL

Antonio Aragón Román

TIC e IA

• < Previo
• Siguiente >