Últimes Notícies
Barcelona

22/04/21

Laia Bonet presenta la mesura de govern per l’impuls de l’ús de la intel·ligència artificial per millorar els serveis públics garantint el respecte als drets humans

«Gobernar los algoritmos», l’article de Laia Bonet on explica la mesura de govern per impulsar una intel·ligència artificial més ètica

La tercera Tinenta d’Alcaldia de l’Agenda 2030, Transició Digital, Esports i Coordinació Territorial i Metropolitana, Laia Bonet, ha presentat la Mesura de Govern sobre Intel·ligència Artificial (IA), a la Comissió de Presidència, Drets de Ciutadania, Participació, Seguretat i Prevenció
L’Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial és el document marc que fixa els mecanismes de governança i d’impuls de la IA per tal que respecti els drets digitals de la ciutadania
L’Ajuntament de Barcelona disposarà per primer cop d’un marc normatiu per a l’aplicació de la IA i se suma a ciutats com Amsterdam, Nova York, Hèlsinki, Toronto o Seattle en la construcció d’un model d’intel·ligència artificial i tecnologies emergents urbà, basat en els drets humans i compromès amb una societat digital democràtica
La IA és ja una realitat a l’Ajuntament amb proves pilot en marxa per fer els serveis municipals més eficients i proactius tenint en compte la preservació dels drets de les persones. És el cas de les càmeres tèrmiques de monitoratge de l’ocupació de les platges, la classificació temàtica de queixes i suggeriments enviats per la ciutadania a la bústia electrònica o sistemes de millora de serveis socials

L’Ajuntament de Barcelona aposta per utilitzar la intel·ligència artificial com a eina per a la millora dels serveis públics i com una oportunitat per ser més eficaç i eficient en la resolució de reptes i en la gestió de les polítiques públiques de l’Ajuntament. La Tinència d’Àrea d’Agenda 2030, Transició Digital, a través del Comissionat d’Innovació Digital, Administració Electrònica i Bon Govern, ha elaborat la Mesura de Govern Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial que pretén fixar els mecanismes de governança i impuls de la IA per tal que respecti els drets digitals de la ciutadania.

Els sistemes d’IA no estan exempts de riscos tecnològics. La recol·lecció i el tractament de les dades sobre les quals es basen les decisions dels algoritmes no sempre són respectuosos amb el dret a la privacitat de la ciutadania i per això l’Ajuntament vol fixar aquests mínims per garantir un desenvolupament de la intel·ligència artificial i les tecnologies emergents que respectin els principis de l’humanisme tecnològic, els drets digitals i fomentin les tecnologies democràtiques.

A l’Ajuntament de Barcelona, l’ús de tecnologies basades en la intel·ligència artificial es troba encara en una fase incipient però ja s’estan fent proves pilot per contribuir a fer els serveis municipals més eficients i proactius, alhora que es té una especial cura pels drets de les persones. És el cas, per exemple, de les càmeres tèrmiques de monitoratge de l’ocupació de les platges, que han permès garantir el compliment de les restriccions d’aforament vinculades a la covid-19. O també la classificació temàtica de queixes i suggeriments enviats per la ciutadania mitjançant la bústia electrònica de l’Ajuntament. Les tecnologies d’IA ja s’estan utilitzant també en fase pilot per millorar els serveis socials ajudant a trobar les solucions més adequades a cada problemàtica o contribuint a l’avaluació de la qualitat dels serveis. D’altra banda, s’està estudiant l’aplicació de la IA en l’àmbit de la hisenda municipal i per a la gestió de recursos de multes i sancions o per ajudar a la creació d’un catàleg d’etiquetes que ajudi a identificar l’autoria de les pintades a l’espai públic de la ciutat.

Amb aquesta mesura de govern, l’Ajuntament de Barcelona disposarà per primer cop d’un marc normatiu per a l’aplicació de la IA en el si de la institució. Barcelona se suma a ciutats com Amsterdam, Nova York, Hèlsinki, Toronto o Seattle en la construcció d’un model d’intel·ligència artificial i tecnologies emergents urbà, basat en els drets humans i compromès amb una societat digital democràtica.

La mesura de govern proposa una vintena d’actuacions d’organització, gestió i governança que es desenvoluparan en el període 2020-023 i que parteixen de les premisses que son imprescindibles per l’Ajuntament:

Potenciar la transformació digital del propi Ajuntament de Barcelona, utilitzant la IA com a eina per a la millora dels serveis públics alhora que es garanteix que el seu desplegament i utilització compleix els requisits d’una tecnologia fiable.
Promoure la IA com una eina per avançar cap a un model de governança intel·ligent, més eficaç i eficient en la resolució de reptes i en la gestió de les polítiques públiques de l’Ajuntament.
Establir mecanismes de co-creació i participació ciutadana que incloguin la implantació d’una IA ètica a l’Ajuntament i a la ciutat, promovent els valors de l’humanisme tecnològic entre el teixit social.
Establir els mecanismes interns de governança per garantir els drets humans com a pilar fonamental del desenvolupament digital i assegurar processos de participació ciutadana per al seguiment i la millora contínua d’aquests mecanismes. Establir principis rectors, marc ètic, pràctiques de gestió responsable i orientacions tècniques que guiïn qualsevol aplicació d’IA perquè estigui basada en els drets humans i sigui tècnicament robusta i confiable.
Promoure models de desenvolupament de la IA que siguin transparents i auditables a través del foment de les tecnologies i el programari lliure i el coneixement obert.
Desenvolupar les eines tècniques per garantir el respecte als drets humans en el disseny, la privacitat, el dret a entendre la presa de decisions, mitigar els biaixos de les dades i els algoritmes i assegurar la supervisió humana en les decisions automatitzades de les màquines, quan aquestes afectin les persones.

La Intel·ligència Artificial és una oportunitat per una administració més proactiva – però té riscos ètics que no podem ignorar.

Presentem l'Estratègia municipal per un model d'#IA que transformi els serveis públics i respecti els drets humans [FIL]

👉 https://t.co/jAQjhpuXcJ pic.twitter.com/WsJRmFFOSn

— Laia Bonet (@laiabonetrull) April 21, 2021

Com a actuacions destacades, es preveu la creació d’un registre públic d’algoritmes on la ciutadania tingui accés a tots els algoritmes que es fan servir des de l’Ajuntament i que afecten a les persones, fent-los transparents i auditables; l’establiment de clàusules específiques per a que aquelles licitacions que incloguin sistemes intel·ligents ho facin respectant els drets de les persones; la promoció d’espais de debat i el networking amb l’ecosistema innovador per transmetre els valors de la IA ètica; l’acció internacional de la ciutat de Barcelona com a referent de l’humanisme tecnològic, amb la creació d’un observatori internacional d’IA amb la col•laboració del CIDOB i en el marc de la Coalició de Ciutats pels Drets Digitals; així com la creació d’un òrgan participatiu per a implicar als agents socials en el desenvolupament d’una IA ètica a l’Ajuntament i a la ciutat, que permetrà l’escolta activa dels principals reptes plantejats per la ciutadania.

La tercera Tinenta d’Alcaldia de l’Agenda 2030, Transició Digital, Esports i Coordinació Territorial i Metropolitana, Laia Bonet, ha assegurat que “les tecnologies emergents són una realitat a la nostra ciutat i no els podem girar l’esquena”. Segons ha explicat “les hem d’impulsar per aconseguir una administració més proactiva, per a que els serveis i recursos públics arribin més i millor a les persones usuàries”. Però Bonet ha alertat que “cal garantir el seu desenvolupament basat en els drets humans: les decisions que prenen i prendran les màquines no poden generar noves desigualtats ni amplificar o eternitzar les desigualtats existents”.

La mesura de govern s’ha elaborat després d’escoltar els principals referents científics de la ciutat en matèria d’IA, que configuraran un grup d’experts en IA i ètica que ha de permetre realitzar el seguiment de la implantació de l’Estratègia i dotar de rigor científic la presa de decisions en l’àmbit de la IA ètica.