La transparencia algorítmica es un tema de creciente importancia en nuestra sociedad, ya que algoritmos de inteligencia artificial (IA) se utilizan cada vez más para tomar decisiones que afectan a la vida de las personas.
Para garantizar la transparencia algorítmica, es imprescindible que los algoritmos de IA puedan ser entendidos por las personas que los utilizan y afectan, a fin de que puedan comprender cómo se ha llegado a una determinada decisión y por qué se toma esta decisión; así como que los algoritmos puedan revisarse para detectar errores o prejuicios involuntarios y mejorar su precisión.
La transparencia es, pues, un requisito esencial para conseguir y mantener la confianza de los usuarios en los sistemas de IA, y una cuestión crucial para promover un desarrollo y uso responsable, seguro y justo de esta tecnología hacia la sociedad.
Para dar cumplimiento al requisito de transparencia de los sistemas de IA que se usan en las administraciones públicas la normativa existente no establece, hoy en día, ningún mecanismo o instrumento jurídico "concreto"; si bien el Reglamento de IA que prepara el Consejo de la UE apunta, como primera actuación recomendable, "registrar y documentar" los sistemas de IA utilizados por las organizaciones que puedan quedar sometidos a esta normativa. El resto de normativa habla de favorecer la puesta en marcha de “mecanismos” para que los algoritmos involucrados en la toma de decisiones tengan en cuenta criterios de transparencia, sin especificar ninguna; o bien de publicar en la sede-e la relación de actuaciones administrativas automatizadas (AAA) con información de las reglas aplicadas y su funcionamiento.
Como medio para alcanzar la transparencia en el uso de algoritmos de IA, la AOC propone la publicación en el Portal de Transparencia de fichas comprensibles para cada algoritmo empleado.
Se trata de una iniciativa líder de transparencia algorítmica en el sector público de Cataluña y del Estado.
Esta iniciativa pretende ser una herramienta para:
Así, para cada algoritmo de IA empleado en los servicios de administración digital de la AOC, confeccionaremos una ficha con información general sobre el propósito y el funcionamiento del algoritmo y, a continuación, daremos información técnica más detallada. También habrá la posibilidad de enviar comentarios para ayudar al equipo responsable del desarrollo a que los algoritmos que utilizamos sean mejores, más justos y más responsables.
A continuación puede consultar la primera ficha de la iniciativa publicada en nuestro Portal de Transparencia. Se trata de la ficha de los chatbots conversacionales que aplicamos a los servicios VALid, idCat Certificado y, próximamente, en el propio Portal de Transparencia.
¿Quiere conocer los secretos de los algoritmos de IA de los chatbots conversacionales de la AOC?
El registro de transparencia de los algoritmos de inteligencia artificial se ha inspirado principalmente en las excelentes experiencias prácticas de los registros de las ciudades deAmsterdam y Helsinki que fueron líderes en Europa.
