La Comissió Europea impulsa una regulació de la intel·ligència artificial de confiança i excel·lència

Les normes i mesures proposades per la comissió tenen per objectiu que Europa esdevingui el centre mundial de la intel·ligència artificial (IA) fiable. La combinació del primer marc jurídic en matèria d’IA i un nou pla coordinat amb els estats membres garantirà la seguretat i els drets fonamentals dels ciutadans i les empreses, alhora que donarà empenta a l’adopció de la IA i a la inversió i innovació en aquest camp arreu de la UE. Aquest plantejament ve acompanyat de noves normes referents a la maquinària que adaptaran els requisits de seguretat per afavorir la confiança dels usuaris en la nova i versàtil generació de productes.

El nou reglament en matèria d’IA garantirà que els europeus puguin confiar en tot allò que la IA ens pot oferir. Un conjunt de normes proporcionades i flexibles s’enfocaran en els riscos concrets que plantegen els sistemes d’IA i establiran l’estàndard de referència al món. El pla coordinat exposa els canvis i la inversió que cal fer als estats membres per reforçar la posició de lideratge d’Europa en el desenvolupament d’una IA centrada en l’ésser humà, sostenible, segura, inclusiva i fiable.

Quatre nivells de risc

Les noves normes s’aplicaran directament i de la mateixa manera en tots els estats membres, partint d’una definició d’IA adaptada per al futur. Tindran un plantejament basat en el risc:

piramide de riscos

Risc inacceptable: quedaran prohibits els sistemes d’IA que es considerin una amenaça evident per a la seguretat, els mitjans de subsistència i els drets de les persones. S’hi inclouen els sistemes o les aplicacions d’IA que manipulen el comportament humà per eludir la lliure voluntat dels usuaris (per exemple, les joguines que utilitzen assistència per veu que fomenta que els menors tinguin comportaments perillosos) i els sistemes que permeten als governs d’establir una «puntuació social».

Risc alt: els sistemes d’IA considerats d’alt risc abasten tecnologies d’IA que es fan servir per a:

  • les infraestructures crítiques (com ara el transport) que podrien fer perillar la vida i la salut dels ciutadans;
  • la formació educativa o professional que podria determinar l’accés a l’educació i la carrera professional d’una persona (per exemple, puntuació d’exàmens);
  • els components de seguretat dels productes (com ara l’aplicació de la IA en la cirurgia assistida per robots);
  • l’ocupació, la gestió de treballadors i l’accés al treball per compte propi (per exemple, programes informàtics de classificació de CV en processos de contractació);
  • els serveis públics i privats essencials (com ara una qualificació creditícia que impedeixi als ciutadans d’obtenir un préstec);
  • l’aplicació de la llei que pugui afectar els drets fonamentals de les persones (per exemple, l’avaluació de la fiabilitat de les proves presentades);
  • la gestió migratòria, d’asil i de controls fronterers (com ara la verificació de l’autenticitat de documents de viatge);
  • l’administració de justícia i processos democràtics (per exemple, l’aplicació de la llei a un conjunt concret de fets).

Risc limitat, és a dir, sistemes d’IA amb requeriments específics de transparència: quan es facin servir sistemes d’IA com ara bots de conversa, els usuaris hauran de ser conscients que estan interactuant amb una màquina per poder prendre una decisió fonamentada sobre si volen continuar o no.

Risc insignificant: la proposta jurídica permet que es facin servir gratuïtament aplicacions com ara videojocs basats en IA o filtres de correu brossa. La immensa majoria dels sistemes d’IA s’inclouen en aquesta categoria. La proposta de reglament no s’endinsa en aquest apartat, ja que aquesta mena de sistemes d’IA representa un risc insignificant o nul per als drets o la seguretat de la ciutadania.

Pel que fa a la governança, la Comissió proposa que les autoritats nacionals encarregades de vigilar el mercat supervisin les noves normes i, d’altra banda, la creació d’un Comitè europeu d’intel·ligència artificial n’afavorirà l’aplicació i impulsarà el desenvolupament de pautes de referència per a la IA. A més, s’han proposat codis de conducta voluntaris per a la IA que no presenti un risc alt, així com espais controlats per a fer proves i afavorir la innovació responsable.

El Pla coordinat en matèria d’IA presenta unes accions adreçades a accelerar les inversions en IA, cosa que pot beneficiar la recuperació. També busca promoure l’aplicació d’estratègies nacionals d’IA, posar fi a la fragmentació i fer front als reptes mundials.

El pla coordinat actualitzat farà servir el finançament assignat mitjançant els programes Europa digital i Horitzó Europa, així com el Mecanisme de recuperació i resiliència, que preveu un objectiu de despeses digitals del 20 %, i programes de polítiques de cohesió amb els objectius següents:

  • crear les condicions adients per al desenvolupament i l’adopció d’IA mitjançant l’intercanvi d’informació estratègica i de dades, i també la inversió en capacitats informàtiques fonamentals;
  • fomentar l’excel·lència en matèria d’IA des del laboratori fins al mercat mitjançant la creació d’una associació publicoprivada; la creació i mobilització de capacitats de recerca, desenvolupament i innovació; i la possibilitat que les pimes i les administracions públiques facin servir instal·lacions d’assaig i experimentació, així com centres d’innovació digital;
  • garantir que la IA beneficiï les persones, sigui un motor del benestar social, se situï a la avantguarda del desenvolupament i el desplegament d’una IA fiable, fomenti talents i capacitats donant suport als períodes de pràctiques, les xarxes de doctorat i les beques postdoctorals en àmbits digitals, pari atenció a la confiança en matèria d’IA i promogui la visió europea d’una IA sostenible i fiable a nivell mundial;
  • fomentar el lideratge estratègic en sectors i tecnologies de gran repercussió, com ara el medi ambient, parant especial atenció a la contribució de la IA pel que fa a la producció sostenible, la salut per mitjà de l’intercanvi transfronterer d’informació, el sector públic, la mobilitat, els afers d’interior, l’agricultura i la robòtica.

Podeu ampliar infomació sobre la intel·ligència artificial a la UE.