La AOC impulsa un modelo de informes de transparència de los algoritmos de inteligencia artificial líder en el Estado
Compartir
Esta publicación tiene más de 1 año. Es posible que el contenido no esté actualizado.
La transparència algorítmica es un tema de creciente importancia en nuestra sociedad, ya que los algoritmos de inteligencia artificial (IA) se utilizan cada vez más para tomar decisiones que afectan a la vida de las personas.
Para garantizar la transparència algorítmica, es imprescindible que los algoritmos de IA puedan ser entendidos por las personas que los utilizan y afectan, a fin de que puedan comprender cómo se ha llegado a una determinada decisión y por qué se toma esta decisión; así como que los algoritmos puedan revisarse para detectar errores o prejuicios involuntarios y mejorar su precisión.
La transparència es, pues, un requisito esencial para conseguir y mantener la confianza de los usuarios en los sistemas de IA, y una cuestión crucial para promover un desarrollo y uso responsable, seguro y justo de esta tecnología hacia la sociedad.
Para dar cumplimiento al requisito de transparència de los sistemas de IA que se usan en las administraciones públicas la normativa existente no establece, hoy en día, ningún mecanismo o instrumento jurídico "concreto"; si bien el Reglamento de IA que prepara el Consejo de la UE apunta, como primera actuación recomendable, "registrar y documentar" los sistemas de IA utilizados por las organizaciones que puedan quedar sometidos a esta normativa. El resto de normativa habla de favorecer la puesta en marcha de “mecanismos” para que los algoritmos involucrados en la toma de decisiones tengan en cuenta criterios de transparència, sin especificar ninguna; o bien de publicar en la sede-e la relación de actuaciones administrativas automatizadas (AAA) con información de las reglas aplicadas y su funcionamiento.
Qué hacemos para garantizar la transparència de los algoritmos de IA en la AOC?
Como medio para alcanzar la transparència en el uso de algoritmos de IA, la AOC propone la publicación en el Portal de Transparència de fichas comprensibles para cada algoritmo empleado.
Se trata de una iniciativa líder de transparència algorítmica en el sector público de Cataluña y del Estado.
Esta iniciativa pretende ser una herramienta para:
Dar a los usuarios una visión general de los sistemas algorítmicos usados en la AOC, incluyendo información sobre las características y resultados de su funcionamiento, los riesgos y sesgos que se han identificado y las medidas que se han aplicado para corregirlos , y el órgano ante el que se podrán recurrir las decisiones particulares o impugnar su funcionamiento general.
Facilitar que todo el mundo pueda dar su opinión y participar en la creación de algoritmos centrados en las personas.
Así, para cada algoritmo de IA empleado en los servicios de administración digital de la AOC, confeccionaremos una ficha con información general sobre el propósito y el funcionamiento del algoritmo y, a continuación, daremos información técnica más detallada. También habrá la posibilidad de enviar comentarios para ayudar al equipo responsable del desarrollo a que los algoritmos que utilizamos sean mejores, más justos y más responsables.
A continuación puede consultar la primera ficha de la iniciativa publicada en nuestro Portal de Transparència. Se trata de la ficha de los chatbots conversacionales que aplicamos a los servicios VALid, idCat Certificado y, próximamente, en el propio Portal de Transparència.
¿Quiere conocer los secretos de los algoritmos de IA de los chatbots conversacionales de la AOC?
El registro de transparència de los algoritmos de inteligencia artificial se ha inspirado principalmente en las excelentes experiencias prácticas de los registros de las ciudades deAmsterdam y Helsinki que fueron lídereres una europa.
Los ayuntamientos de municipios de hasta 20.000 habitantes, los consejos comarcales y las entidades municipales descentralizadas ya pueden solicitar el recurso económico “Soluciones de administración digital“,...
Los entes locales catalanes dispondrán de nuevos servicios para reforzar la protección frente a los ciberataques y facilitar la recuperación de la actividad después de un incidente. La Comisión...
Cuando una administración digitaliza un trámite, el reto no es sólo que funcione, sino que todo el mundo pueda utilizarlo. Un estudio de la Fundación Ferrer y...
