La transparència algorísmica és un tema de creixent importància en la nostra societat, ja que els algorismes d’intel·ligència artificial (IA) s’utilitzen cada vegada més per prendre decisions que afecten la vida de les persones.
Per garantir la transparència algorísmica, és imprescindible que els algorismes d’IA puguin ser entesos per les persones que els fan servir i afecten, a fi que puguin comprendre com s’ha arribat a una determinada decisió i per què es pren aquesta decisió; així com que els algorismes puguin ser revisats per detectar errors o prejudicis involuntaris i millorar la seva precisió.
La transparència és, doncs, un requisit essencial per aconseguir i mantenir la confiança dels usuaris en els sistemes d’IA, i una qüestió crucial per promoure un desenvolupament i un ús responsable, segur i just d’aquesta tecnologia envers la societat.
Per donar compliment al requisit de transparència dels sistemes d’IA que s’usen a les administracions públiques la normativa existent no estableix, avui dia, cap mecanisme o instrument jurídic “concret”; si bé el Reglament d’IA que prepara el Consell de la UE apunta, com a primera actuació recomanable, “registrar i documentar” els sistemes d’IA utilitzats per les organitzacions que puguin quedar sotmesos a aquesta normativa. La resta de normativa parla d’afavorir la posada en marxa de “mecanismes” perquè els algorismes involucrats en la presa de decisions tinguin en compte criteris de transparència, sense especificar-ne cap; o bé de publicar a la seu-e la relació d’actuacions administratives automatitzades (AAA) amb informació de les regles aplicades i el seu funcionament.
Com a mitjà per assolir la transparència en l’ús d’algorismes d’IA, l’AOC proposa la publicació al Portal de Transparència de fitxes entenedores per a cada algorisme emprat.
Es tracta d’una iniciativa capdavantera de transparència algorísmica al sector públic de Catalunya i de l’Estat.
Aquesta iniciativa pretén ser una eina per:
Així, per a cada algorisme d’IA emprat en els serveis d’administració digital de l’AOC, confeccionarem una fitxa amb informació general sobre el propòsit i el funcionament de l’algorisme i, a continuació, donarem informació tècnica més detallada. També hi haurà la possibilitat d’enviar comentaris per ajudar a l’equip responsable del desenvolupament a fer que els algorismes que fem servir siguin millors, més justos i més responsables.
A continuació podeu consultar la primera fitxa de la iniciativa publicada al nostre Portal de Transparència. Es tracta de la fitxa dels xatbots conversacionals que apliquem als serveis VALid, idCat Certificat i, pròximament, al propi Portal de Transparència.
Voleu conèixer els secrets dels algorismes d’IA dels xatbots conversacionals de l’AOC?
El registre de transparència dels algorismes d’intel·ligència artificial s’ha inspirat principalment en les excel·lents experiències pràctiques dels registres de les ciutats d’Amsterdam i de Helsinki que van ser capdavanteres a Europa.
