Transparència algorísmica: Xatbots amb IA generativa de suport a la ciutadania de l'AOC

Visió general

Problemàtica que es vol resoldre a finals de 2023

  • Necessitat d’assistència constant: Els usuaris de l’AOC necessiten suport continu, 24/7, però l’atenció presencial o telefònica no pot garantir aquesta disponibilitat total.
  • Augment de les consultes i incidències: L’ús creixent dels serveis digitals i del portal de transparència de l’AOC ha incrementat la demanda d’informació i assistència, amb més de 91.000 peticions anuals (dades 2023) ateses pel Centre d’Atenció d’Usuaris (CAU). Per gestionar aquest increment de manera eficient i mantenir el compromís del CAU amb la ciutadania, aquest és un moment propici per considerar la incorporació de noves eines que ajudin a optimitzar els recursos.
  • Bretxa digital i dificultats de cerca: Molts usuaris, afectats per la bretxa digital i social, sovint tenen dificultats per saber què cercar o per interpretar correctament els resultats dels cercadors tradicionals. Això pot generar confusió i frustració en la seva experiència digital, fent necessari un suport més adaptat que permeti accedir fàcilment a la informació rellevant.

Solució adoptada

  • Desenvolupament de xatbots amb IA generativa: Per facilitar l’autoresolució de les consultes de manera accessible i immediata, s’han creat assistents conversacionals basats en IA. Aquests xatbots permeten respondre les preguntes més habituals dels usuaris mitjançant l’ús de grans quantitats de dades i algorismes que interpreten el llenguatge natural.
  • Per què optar per xatbots amb IA generativa? L’AOC va començar a experimentar amb xatbots fa gairebé una dècada, introduint-los de manera progressiva per millorar l’assistència als usuaris. Inicialment, es van implementar xatbots convencionals com la Paula (21/01/2021), que donava suport en el procés d’identificació amb VÀLid; la Rita (29/04/2021), que ajudava en l’obtenció, ús i renovació de l’idCAT Certificat, i el xatbot del portal de transparència (19/4/2023), dedicat a resoldre consultes en aquest àmbit. Tot i la seva utilitat, aquests xatbots funcionen amb regles i fluxos estructurats de preguntes i respostes predefinides, cosa que requereix un entrenament manual intensiu, fa que la seva implementació sigui complexa i costosa i, a més, ofereix respostes amb un èxit relatiu. (Vegeu fitxa de transparència Xatbots convencionals de l’AOC)
    Amb aquesta experiència, l’AOC aposta ara per una nova generació de xatbots basats en dades i IA generativa, que necessiten molt menys entrenament i poden oferir respostes més adaptades i contextualitzades, millorant així l’experiència dels usuaris. A més, aquesta tecnologia permet repreguntar, és a dir, completar la pregunta inicial mantenint la coherència amb la conversa prèvia, mentre que en els xatbots convencionals, cada pregunta es tracta com si fos la primera.

A qui va dirigida

  • Ciutadans que utilitzen els serveis de l’AOC, per oferir-los suport accessible, ràpid i disponible les 24 hores.

Casos d’ús

Els xatbots amb IA generativa s’apliquen en els següents serveis de l’AOC:

  • VALid: assisteix la ciutadania en les consultes més freqüents durant el procés d’identificació a la pàgina de VALid.
  • idCat Mòbil: ajuda a resoldre dubtes sobre obtenció, ús i renovació de l’idCat Mòbil.
  • idCat Certificat: ofereix suport amb l’obtenció, ús i renovació de l’idCat Certificat.
  • e-NOTUM: resol dubtes i dona suport en la gestió de notificacions electròniques.
  • Representa: ajuda a la ciutadania i empreses a resoldre els dubtes sobre les representacions i apoderaments.
  • e.FACT: dona suport en l’elaboració i gestió de les factures electròniques.

Nivell de risc del sistema d’IA (segons els criteris del Reglament europeu d’IA)

  • Risc limitat. No planteja un risc important de causar un perjudici a la salut, la seguretat o els drets fonamentals de les persones físiques, ni influeix substancialment en el resultat de la presa de decisions.

Estatus

  • Implementat i en ús des de maig de 2024, amb una mitjana d’11.575 usuaris mensuals.

Nivell d’acord de servei

  • Disponible 24×7 amb un nivell de disponibilitat del 99,8%.

Principals beneficis del servei

Per a la ciutadania:

  • Accés 24/7 a la informació: Els ciutadans poden obtenir assistència en qualsevol moment, sense restriccions d’horari, facilitant la resolució de dubtes quan ho necessiten.
  • Resposta immediata: Els xatbots ofereixen respostes instantànies, evitant els temps d’espera de canals tradicionals com el suport presencial o telefònic.
  • Autoresolució de consultes: Els usuaris poden resoldre les seves qüestions de manera autònoma, reduint la seva dependència de l’atenció directa i millorant l’experiència.
  • Millora de l’experiència dels usuaris: Els xatbots amb IA generativa permeten una interacció més natural i propera, facilitant una autèntica «conversa» amb la persona usuària. Aquests xatbots poden adaptar-se a la manera d’expressar-se de cada persona, permetent que aquesta concreti o afini la seva pregunta utilitzant les seves pròpies paraules.

Per a l’administració:

  • Optimització de recursos: Els xatbots gestionen les consultes repetitives, alliberant el personal per a tasques més complexes, cosa que millora l’eficiència del temps i dels recursos.
  • Reducció de costos: Cada consulta resolta pel xatbot té un cost molt inferior al de l’atenció humana. Una estimació preliminar amb dades de 2025 situa l’estalvi entorn del 96% (cost mitjà aproximat de 15 € per consulta atesa per personal del CAU vs. 0,60 € via xatbot).
    Aquesta xifra és orientativa i quedarà confirmada quan es dugui a terme una anàlisi econòmica més detallada.
  • Augment de l’eficiència: Els xatbots atenen múltiples consultes alhora, evitant colls d’ampolla i millorant la capacitat de resposta.
  • Menor esforç d’entrenament: Els xatbots amb IA generativa requereixen menys configuració i entrenament inicial, partint d’un model general pre-entrenat que s’ajusta amb correccions mínimes. El procés d’ajust consisteix en revisar i corregir les respostes incorrectes detectades, en lloc de treballar exhaustivament en la classificació i estructuració de les respostes per a cada intent [1].
  • Millora contínua dels serveis: L’anàlisi de converses permet identificar patrons, millorar àrees clau i adaptar els serveis a les necessitats dels usuaris.

Informació de contacte

Responsable de desplegament
Administració Oberta de Catalunya

Equip de contacte per a consultes
Subdirecció d’Estratègia i Innovació

Correu-e de l’equip
innovacio@aoc.cat

Proveïdor extern
ONE MILLION BOT, S.L.

Correu-e del proveïdor
info@1millionbot.com

Informació més detallada sobre el servei

Familiaritza’t amb les dades i la informació que utilitza el sistema, la lògica de funcionament dels algorismes i la seva governança.

Conjunts de dades

El coneixement base dels xatbots es fonamenta en tres fonts principals:

  • Preguntes freqüents (FAQs): els xatbots s’entrenen inicialment amb una base de dades de preguntes freqüents disponibles al portal de suport. Aquestes FAQs recullen les consultes més habituals dels ciutadans i estan actualitzades amb la informació més recent del servei.
  • Tickets recurrents: els xatbots també aprenen a partir de l’anàlisi de tickets històrics de suport que contenen informació sobre les qüestions, dubtes i incidències dels usuaris i com s’han resolt.
  • Retroalimentació contínua: el sistema dels xatbots presenta una forma d’aprenentatge constant on cada intent generatiu té un seguit de frases d’entrenament nodrides a través de les converses dels usuaris. En cas que una persona formuli una nova pregunta, el xatbot intentarà buscar les similituds en la seva base de frases d’entrenament ja existent. Si el xatbot genera una resposta incorrecta a aquesta pregunta, en el període de revisió de converses, s’inclourà la frase dins de l’intent corresponent i la IA generarà variacions d’aquestes per tenir una base de coneixement més extensa.

Altres dades d’entrada:

  • Dades dels usuaris: no s’utilitzen dades personals dels usuaris per entrenar el model.

Consideracions sobre el tractament i la conservació de les dades

  • El sistema d’IA registra en un fitxer les preguntes formulades i les respostes proporcionades durant la sessió de xat. També genera informes amb dades d’ús, converses i estadístiques en línia per a l’anàlisi i la millora del servei.
  • Les converses es conserven durant un màxim de 3 mesos, després dels quals s’eliminen automàticament.
  • Els informes d’ús, que inclouen paràmetres com taxes d’ús i de resposta, es mantenen indefinidament per garantir la traçabilitat i l’avaluació contínua del servei.

Processament de les dades

La lògica operativa del processament automàtic de dades i el raonament realitzat pel sistema se sustenta conforme al següent model i metodologia:

Procés d’interacció usuaris-xatbot
El procés d’interacció usuaris-xatbot es fa a través d’una interfície digital accessible des de dispositius com web, mòbil o tauleta. La persona usuària introdueix una pregunta en format text («prompt») que descriu la informació que vol obtenir. El xatbot processa aquesta informació i genera una resposta en text per proporcionar la informació sol·licitada.

Arquitectura del servei

El servei utilitza un motor d’intel·ligència artificial generativa [2] que processa el llenguatge natural.

  • El motor d’IA que utilitza el xatbot de l’AOC és GPT 5.4 mini, de l’empresa OpenAI.
  • S’utilitza una instància d’Azure OpenAI ubicada a Europa.
  • El motor funciona en base a un model de llenguatge de gran capacitat (Large Language Model, LLM), el qual està constituït per xarxes neuronals profundes entrenades amb enormes conjunts de dades extrets bàsicament d’Internet (pàgines web, blogs, xarxes socials, articles científics, llibres, etc.)

El servei ha estat adaptat per 1MillionBot, que s’ha encarregat de:

  • Dissenyar les instruccions que permeten guiar al model d’IA i seguir unes indicacions.
  • Preparar datasets, recol·lecció i neteja de dades que serviran com a referència pel sistema Retrieval Augmented Generation (RAG)
  • Incorporació de datasets en el sistema RAG de 1MillionBot, el qual es capaç de millorar la qualitat de les respostes utilitzant contexts específics.
  • Proves de casos i validació de la capacitat del sistema per manejar errors i consultes complexes.
  • Optimització del model basada en les interaccions dels usuaris.

Tota la infraestructura del servei es troba allotjada al núvol de Google Cloud Plataform (GCP), concretament al centre de dades de Google Cloud a Bèlgica, dins de l’Econòmic Europeu (EEE). Aquesta ubicació garanteix el compliment de les normatives europees de privadesa i seguretat.

El xatbot compta amb un sistema per recollir l’opinió dels usuaris i poder valorar la satisfacció de la conversa global.

Principals característiques de l’arquitectura:

  • Allotjament segur i certificat:
    • Les instal·lacions de GCP compleixen amb els estàndards de seguretat ISO 27001 i SOC 2/3, assegurant una infraestructura robusta i fiable.
    • Tota la infraestructura del proveïdor, 1MillionBot, incloent-hi el webchat, la plataforma Millie (frontend) i la lògica i dades (backend), està allotjada en aquest entorn.
  • Aïllament per casos d’ús:
    • Cada cas d’ús del servei està aïllat en una xarxa i entorn de desenvolupament específics, evitant interferències entre aplicacions i maximitzant la seguretat.
  • Emmagatzematge protegit:
    • Les preguntes i respostes de les converses es guarden en bases de dades allotjades en màquines virtuals de Google Cloud, que estan protegides mitjançant tallafocs avançats i mecanismes d’aïllament.
    • L’accés a aquestes dades es fa exclusivament a través del backend, assegurant un control rigorós.
  • Protecció contra atacs:
    • El sistema incorpora diverses capes de seguretat, com ara:
      • Limitadors de sol·licituds per prevenir sobrecàrregues.
      • Validacions estrictes de dades i accés.
      • Tallafocs especialitzats per protegir la infraestructura.

Aquesta arquitectura assegura la robustesa, la seguretat i l’adaptabilitat necessàries per oferir un servei de qualitat als usuaris.

Rendiment de l’algorisme

Taxa d’encert del 91,33%. Aquesta taxa es revisa amb periodicitat mensual (última revisió: 15/06/2026)

Supervisió humana

El sistema algorísmic del xatbot actua de forma directa, però està sota vigilància ex post del personal responsable de la decisió final, especialment intensificada en el període inicial de funcionament per compensar els biaixos de l’algorisme i reduir les respostes errònies. Les respostes del xatbot queden fixes i no es poden modificar.

La supervisió humana dels xatbots garanteix la qualitat i precisió de les respostes a través d’un procés rigorós i regular:

  1. Revisions setmanals: Els experts revisen els registres de converses per identificar respostes incorrectes. Per a cada error detectat, s’anota la resposta ideal i es reclassifiquen les frases dels usuaris amb resposta errònia, assignant-les a l’intent generatiu més adequat.
  2. Anàlisi mensual: S’avaluen 150 converses seleccionades aleatòriament, juntament amb les ja identificades com a errònies, per detectar patrons d’error i corregir respostes inadequades.
  3. Gestió d’intents: Quan els errors no es poden solucionar simplement reclassificant frases, els experts ajusten els prompts dels intents existents o bé creen nous intents.

Aquest procés combina la metodologia tradicional dels xatbots amb la flexibilitat de la IA generativa, garantint una gestió àgil i un servei fiable, alineat amb les necessitats dels usuaris.

Compliment normatiu del sistema

El sistema no tracta dades de caràcter personal. Tot i així, el sistema compleix amb la normativa vigent en matèria de protecció de dades i seguretat. En especial:

  • S’apliquen els principis del Reglament General de Protecció de Dades (RGPD):
    • Principi de minimització de dades: només es recullen les dades necessàries per a complir la finalitat del sistema.
    • Principi de limitació de finalitat: les dades recollides només s’utilitzen per a la finalitat comunicada a la persona interessada.
  • Des del punt de vista tècnic, la solució compleix amb els requisits establerts per l’Esquema Nacional de Seguretat (ENS) per a sistemes de nivell BAIX.

✨Aplicació voluntària del Reglament d’Intel·ligència Artificial de la Unió Europea (Reglament d’IA) [3]

El sistema compleix amb els requisits del Reglament d’IA exigibles en el cas de sistemes d’IA de risc limitat i models d’IA generativa sense risc sistèmic. Per això:

  • S’informa als usuaris que estan interactuant amb una IA des de l’inici. Per això, el servei es presenta com a «Assistent virtual AOC» i no amb un nom de persona.
  • Com a IA generativa, els xatbots de l’AOC també compleixen amb els requisits següents:
    • Es revela que el contingut és generat per IA.
    • Es publica un resum sobre les dades d’entrenament.
    • Es proporciona informació sobre el model d’IA amb llenguatge clar i accessible.
      Els dos darrers punts es compleixen amb aquesta fitxa de transparència algorísmica.
  • Aquests xatbots no estan subjectes als requisits per a IA generativa amb risc sistèmic. Això vol dir que no cal que passin avaluacions de models ni proves contradictòries, ni tampoc s’ha de reportar sobre eficiència energètica.

Es tracta d’una Actuació Administrativa Automatitzada (AAA)? No.

En aquest cas l’AOC no està subjecte a l’obligació legal de publicar l’AAA vinculada al servei a la seu-e, acompanyada d’una fitxa tècnica (Vegeu l’article 11, lletra i, del Reial decret 203/2021, pel qual s’aprova el Reglament d’actuació i funcionament del sector públic per mitjans electrònics; el qual desplega la Llei 40/2015 de Règim Jurídic del Sector Públic)

Gestió de riscos

Coneix els riscos més probables en relació amb els principis i drets fonamentals que s’han de protegir, i les mesures aplicades en cada cas per mitigar-los o minimitzar-los.

A. Igualtat i no discriminació

  • Riscos identificats: biaixos en els resultats, risc d’exclusió i discriminació.
    • El model LLM del motor GPT 5.4 mini, que constitueix la base dels xatbots de l’AOC, està preentrenat amb grans volums de dades d’Internet. Aquestes dades inclouen una àmplia varietat d’informació i poden contenir prejudicis relacionats amb el gènere, l’origen ètnic, la llengua, entre altres. Com a resultat, el sistema pot reproduir patrons discriminatoris presents en les dades d’entrenament. A més, la complexitat de les xarxes neuronals dificulta la identificació i prevenció d’aquests biaixos.
    • D’altra banda, el català no és una de les llengües principals utilitzades en l’entrenament del model. Això pot donar lloc a respostes amb un ús predominant de formes masculines i una menor diversitat lingüística, afectant la inclusivitat i la riquesa de les interaccions en aquesta llengua.
  • Mesures aplicades
    • Dades d’entrenament representatives: Les dades utilitzades per fer l’entrenament final i ajustar el xatbot han estat seleccionades amb cura per incloure diversos grups de població i evitar biaixos explícits a fi de garantir que les respostes siguin els més representatives i justes possibles.
    • Igualtat en l’accés lingüístic: El servei es pot utilitzar en català i castellà, amb l’opció de triar l’idioma al començament de la conversa o canviar-lo durant l’ús. Això permet que totes les persones usuàries puguin interactuar amb el sistema en la llengua que prefereixin.
      • Actualment, el xatbot pregunta a la persona usuària en quin idioma prefereix ser atesa, ja que així es millora la precisió en les respostes. Tot i això, s’estan realitzant proves per avaluar el seu rendiment sense necessitat de preguntar l’idioma.
    • Interpretació tolerant del llenguatge: El sistema està dissenyat per entendre el llenguatge natural, tot i que hi hagi errors ortogràfics o lingüístics, assegurant que les persones usuàries no es vegin penalitzades per petites equivocacions en les seves consultes.
    • Inclusió i diversitat en el disseny: S’ha treballat en una interfície del xatbot que qualsevol persona pugui utilitzar fàcilment, independentment del seu nivell d’habilitat digital, per garantir que tothom pugui accedir al servei sense barreres tecnològiques.

B. Protecció de dades, privacitat i llibertat d'elecció

  • Riscos identificats: possible amenaça a la privacitat, mal ús de les dades personals per tercers i pèrdua de la llibertat d’elecció.
    • El servei mai no sol·licita informació personal identificable. No obstant això, el servei implica un risc relacionat amb el tractament de dades personals si la persona usuària introdueix dades personals innecessàries.
  • Mesures aplicades
    • Per protegir les dades i la privacitat:
      • El proveïdor (1MillionBot) ha signat un Encàrrec de Tractament amb ubicació de les dades dins la Unió Europea.
      • El Responsable de Tractament (AOC) garanteix els drets ARCO (Accés, Rectificació, Cancel·lació i Oposició) de les dades tractades.
      • Es gestiona el consentiment i les cookies.
      • Els registres de conversa són revisats periòdicament per experts que eliminen qualsevol dada personal no detectada pel sistema.
      • S’ha incorporat un sistema automàtic que detecta determinats tipus de dades personals —com ara telèfons,
        correus electrònics o números d’identificació— i els substitueix per valors protegits (tokens xifrats) abans d’emmagatzemar els missatges. Aquests valors tampoc no es mostren en les converses consultades des de la plataforma i se substitueixen per indicadors de censura quan s’envien a processar pel LLM. Aquesta protecció redueix el risc d’exposició de dades personals que la persona usuària pugui haver introduït lliurement, encara que en cap cas se li demanin.
      • S’informa a la persona usuària que es desarà la conversa. Si no hi està d’acord, no es pot continuar.
      • La persona usuària pot esborrar les converses.
    • Per garantir la llibertat d’elecció:
      • Oferim alternatives d’atenció a la ciutadania sense l’ús d’algorismes d’IA, com l’atenció telefònica i per correu electrònic. Si la persona usuària demana expressament «contactar amb suport», «parlar amb un agent», «vull més suport», o similar, el bot redirigeix automàticament a les pàgines de contacte de suport de l’AOC. A més, el xatbot es troba dins dels mateixos portals de suport de l’AOC, on també es pot accedir directament a l’opció «Contacta amb suport» des del peu de pàgina.

C. Seguretat i robustesa

  • Riscos identificats: difusió d’informació incorrecta, errors i incoherències en les respostes, indisponibilitat del servei i accés no autoritzat a les dades.
    • Els models basats en xarxes neuronals i càlculs probabilístics dificulten la interpretació de com s’arriba al resultat final, fet que limita el control sobre les respostes generades. A més, la naturalesa de la IA generativa pot fer que, en ocasions, el sistema extregui informació més enllà de la seva base de coneixement específica, incloent-hi fonts o dades externes no verificades, cosa que pot donar lloc a respostes fora de context o sobre temes que no pertanyen al seu àmbit.
    • Per mitigar aquests riscos, el motor d’IA s’ha d’instal·lar en un entorn controlat i protegit, amb una configuració i securització rigoroses a fi de garantir la protecció i la integritat del servei.
  • Mesures aplicades
    • El sistema s’ha instal·lat en un entorn tancat i segur, basat en una arquitectura certificada (vegeu les principals característiques de l’arquitectura). Aquesta configuració garanteix:
      • Robustesa i fiabilitat, assegurant el correcte funcionament del sistema.
      • Seguretat i confidencialitat de les dades gestionades.
      • Adaptabilitat, per oferir respostes de qualitat alineades amb les necessitats dels usuaris.
    • Anàlisi de riscos de seguretat: l’AOC ha dut a terme una avaluació de seguretat seguint les guies de l’Agència Catalana de Ciberseguretat i de l’Esquema Nacional de Seguretat (ENS). El sistema ha estat classificat amb un nivell de seguretat BAIX, i d’acord amb aquesta categorització, s’han implementat mesures específiques per mitigar els riscos identificats. En concret, per garantir la disponibilitat i el correcte funcionament del sistema:
      • S’han establert Acords de Nivell de Servei (ANS) amb el proveïdor, que s’han de complir i revisar periòdicament, per assegurar la capacitat, disponibilitat i gestió d’incidents del sistema.
      • Es realitzen informes quinzenals de compliment dels ANS per garantir que el servei mantingui els estàndards pactats.
    • Per garantir el dret a una informació veraç i adequada: s’apliquen protocols per revisar el sistema, minimitzant errors i incoherències, i millorant la qualitat de les respostes. A més, per assegurar respostes dins de l’àmbit de competència del xatbot:
      • S’han implementat filtres de paraules clau i temes (p. ex. Certificat d’empadronament, pagament d’una multa, preinscripció escolar,…). Aquests filtres generen «intents fora de catàleg», amb els quals el xatbot informa que no disposa d’informació sobre el tema i recomana posar-se en contacte amb l’administració corresponent.
      • El model s’entrena exclusivament amb dades del domini de l’AOC, assegurant al màxim possible que la informació sigui rellevant i ajustada al seu propòsit.

D. Transparència i explicabilitat

  • Riscos identificats: desconfiança, interpretació errònia dels resultats per part dels usuaris (incapacitat per comprendre el resultat), confusió en pensar que es tracta d’una interacció amb un humà, dificultats per presentar queixes o consultes sobre els resultats obtinguts
  • Mesures aplicades
    • Identificació clara com a IA: Des del principi, el servei es presenta com a «assistent virtual» per evitar confusions sobre la naturalesa de la interacció.
    • Consentiment dels usuaris: S’informa als usuaris que la conversa serà guardada, perquè puguin decidir si volen continuar.
    • Fitxa de transparència algorísmica: Es publica al web de l’AOC, amb informació sobre:
      • Problemàtica que es vol resoldre
      • Con s’ha implementat el sistema d’IA
      • Públic destinatari
      • Dades utilitzades per entrenar el sistema d’IA
      • Identitat i dades de contacte del proveïdor
      • Organisme responsable i adreça de contacte per a queixes, consultes i suggeriments
    • Accés fàcil a la fitxa: La fitxa de transparència es pot consultar des de la pàgina d’inici del servei.

E. Retiment de comptes i auditabilitat

  • Riscos identificats: Limitacions en la traçabilitat dels resultats, manca de verificació i revisió periòdica, dificultats en la interpretació del model fins i tot per especialistes, absència de responsabilitat assignada.
    • Els riscos associats a la rendició de comptes i auditabilitat dels xatbots amb IA generativa poden posar en perill la fiabilitat del sistema si no es disposa de mitjans per traçar amb precisió el procés de generació de respostes, verificar la qualitat de manera regular i garantir que el funcionament sigui comprensible fins i tot per especialistes. Aquests factors dificulten la supervisió adequada del servei i compliquen l’atribució de responsabilitats en cas d’errors o decisions injustes, fet que pot afectar la confiança en el servei públic.
  • Mesures aplicades
    • Per garantir el retiment de comptes del sistema d’IA i els seus resultats:
      • Supervisió de qualitat i impacte: Es fan informes quinzenals amb indicadors de qualitat i d’impacte per avaluar si el servei acompleix els objectius establerts.
    • Per garantir la responsabilitat sobre el sistema i el seus resultats:
      • S’informa de qui és el responsable del servei (AOC) i del procediment a seguir per presentar una queixa en cas d’impactes adversos.
    • Per garantir l’auditabilitat:
      • L’AOC es reserva el dret de dur a terme auditories addicionals per revisar els indicadors de qualitat i els Acords de Nivell de Servei (ANS) en qualsevol moment, garantint així un seguiment continuat de la fiabilitat del sistema.

F. Desenvolupament sostenible i solidaritat

  • Riscos identificats: impacte negatiu mediambiental, desigualtats en l’accés a aquesta tecnologia pel seu elevat cost.
    • L’ús de xatbots amb IA generativa planteja reptes importants en termes de sostenibilitat i equitat. Per una banda, el seu impacte ambiental és elevat, ja que requereix grans recursos computacionals per al processament i l’emmagatzematge de dades, fet que implica un alt consum energètic i emissions de CO₂. Per l’altra, el seu cost d’implantació i manteniment és significatiu, fet que pot limitar l’accés a aquesta tecnologia a les organitzacions amb més recursos.
  • Mesures aplicades
    • Ajust i optimització de l’entrenament del xatbot per aconseguir la màxima eficiència. Estudis indiquen que una consulta a ChatGPT pot equivaldre a deu cerques amb Google; per tant, si això es confirma, l’elevat cost energètic de la IA generativa es podria compensar amb la seva major efectivitat en comparació amb mètodes més econòmics.
    • Foment de la transparència sobre els costos d’ús per contribuir a un ús més responsable d’aquesta tecnologia.
    • Foment de la transferibilitat: L’AOC està treballant per oferir el xatbot com a servei «claus en mà» a les administracions locals catalanes, facilitant l’accés a aquesta tecnologia de manera equitativa. Aquesta estratègia de replicabilitat permetrà l’adopció d’una IA generativa avançada sense requerir grans inversions.

Més informació

[1] Un intent fa referència a la intenció o propòsit que té la persona usuària quan formula una pregunta o fa una consulta al xatbot. Els intents ajuden a identificar què vol aconseguir la persona, per exemple, obtenir informació específica, resoldre un problema o completar un tràmit. En els xatbots tradicionals, els intents s’han de predefinir i entrenar de manera manual perquè el xatbot pugui reconèixer-los i oferir la resposta adequada. En canvi, els xatbots amb IA generativa poden identificar i interpretar intents de manera més flexible, ja que generen respostes en temps real a partir del context de la conversa, sense necessitat d’una classificació exhaustiva d’intents per endavant. Això fa que la interacció sigui més natural i adaptada a les necessitats de la persona usuària.

[2] Algunes de les capacitats principals del motor d’intel·ligència artificial generativa són:

  • Identifica i corregeix errors tipogràfics i ortogràfics per millorar la comunicació.
  • Detecta la intenció del missatge, fins i tot amb frases ambigües o amb múltiples significats.
  • Manté una memòria a curt termini per connectar preguntes i assegurar respostes coherents.
  • Avalua les possibles respostes, tria la millor i ofereix suggeriments per a converses més clares.
  • S’adapta a diversos idiomes (català, castellà, anglès), reconeix argots i emojis.

[3] El Reglament del Parlament Europeu i el Consell pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial i es modifiquen determinats actes legislatius de la Unió (també conegut com RIA o AI Act) va entrar en vigor el 2 d’agost de 2024 i s’aplicarà a partir del 2 d’agost de 2026.