L’AOC crea un registre de transparència dels algorismes d’intel·ligència artificial capdavanter a l’Estat

La transparència algorísmica és un tema de creixent importància en la nostra societat, ja que els algorismes d’intel·ligència artificial (IA) s’utilitzen cada vegada més per prendre decisions que afecten la vida de les persones.

Per garantir la transparència algorísmica, és imprescindible que els algorismes d’IA puguin ser entesos per les persones que els fan servir i afecten, a fi que puguin comprendre com s’ha arribat a una determinada decisió i per què es pren aquesta decisió; així com que els algorismes puguin ser revisats per detectar errors o prejudicis involuntaris i millorar la seva precisió.

La transparència és, doncs, un requisit essencial per aconseguir i mantenir la confiança dels usuaris en els sistemes d’IA, i una qüestió crucial per promoure un desenvolupament i un ús responsable, segur i just d’aquesta tecnologia envers la societat.

Per donar compliment al requisit de transparència dels sistemes d’IA que s’usen a les administracions públiques la normativa existent no estableix, avui dia, cap mecanisme o instrument jurídic “concret”; si bé el Reglament d’IA que prepara el Consell de la UE apunta, com a  primera actuació recomanable, “registrar i documentar” els sistemes d’IA utilitzats per les organitzacions que puguin quedar sotmesos a aquesta normativa. La resta de normativa parla d’afavorir la posada en marxa de “mecanismes” perquè els algorismes involucrats en la presa de decisions tinguin en compte criteris de transparència, sense especificar-ne cap; o bé de publicar a la seu-e la relació d’actuacions administratives automatitzades (AAA) amb informació de les regles aplicades i el seu funcionament.

Què fem per garantir la transparència dels algorismes d’IA a l’AOC?

Com a mitjà per assolir la transparència en l’ús d’algorismes d’IA, l’AOC proposa la publicació al Portal de Transparència de fitxes entenedores per a cada algorisme emprat.

Es tracta d’una iniciativa capdavantera de transparència algorísmica al sector públic de Catalunya i de l’Estat.

Aquesta iniciativa pretén ser una eina per:

• Donar als usuaris una visió general dels sistemes algorísmics usats a l’AOC, incloent-hi informació sobre les característiques i els resultats del seu funcionament, els riscs i biaixos que s’han identificat i les mesures que s’han aplicat per corregir-los, i l’òrgan davant del qual es podran recórrer les decisions particulars o impugnar el seu funcionament general.
• Facilitar que tothom pugui donar la seva opinió i participar en la creació d’algorismes centrats en les persones.

Així, per a cada algorisme d’IA emprat en els serveis d’administració digital de l’AOC, confeccionarem una fitxa amb informació general sobre el propòsit i el funcionament de l’algorisme i, a continuació, donarem informació tècnica més detallada. També hi haurà la possibilitat d’enviar comentaris per ajudar a l’equip responsable del desenvolupament a fer que els algorismes que fem servir siguin millors, més justos i més responsables.

A continuació podeu consultar la primera fitxa de la iniciativa publicada al nostre Portal de Transparència. Es tracta de la fitxa dels xatbots conversacionals que apliquem als serveis VALid, idCat Certificat i, pròximament, al propi Portal de Transparència.

Voleu conèixer els secrets dels algorismes d’IA dels xatbots conversacionals de l’AOC?

Més informació 

El registre de transparència dels algorismes d’intel·ligència artificial s’ha inspirat principalment en les excel·lents experiències pràctiques dels registres de les ciutats d’Amsterdam  i de Helsinki  que van ser capdavanteres a Europa.