O CiTIUS lidera o debate estatal sobre a Intelixencia Artificial ética

A semana pasada, o xoves 30 e venres 31 de maio, Madrid acollía na Fundación Ramón Areces (institución que se centra na investigación científica como motor de progreso e modernidade) as xornadas Social Impact of AI, un encontro para debater sobre os valores humanistas e principios éticos que deben guiar o desenvolvemento da Intelixencia Artificial (IA).
Cómpre dicir que este evento xorde proposto polo CiTIUS (Centro Singular de Investigación en Tecnoloxías Intelixentes da USC) e que reuniu a expertos nacionais e internacionais para discutir sobre o impacto social da Intelixencia Artificial ao longo dun foro organizado polo investigador do centro José María Alonso, coordinador da Rede Nacional en Intelixencia Artificial Fiábel; unha alianza de 12 grupos de investigación, coñecida polo acrónimo anglosaxón Technological, Ethical, Legal, Social, Economical, and Cultural issues for Trustworthy AI (TELSEC4TAI).
TELSEC4TAI tivo un especial protagonismo nas xornadas, introducindo desde distintas perspectivas os detalles da súa estratexia común para crear conciencia social sobre a importancia de avanzar cara a unha nova xeración de dispositivos intelixentes e responsábeis. Toda unha serie de novos sistemas e tecnoloxías deseñados para respectar e fomentar os principios de non discriminación e equidade, e que deberán ser, tamén, capaces de explicar as súas decisións de maneira comprensíbel para a cidadanía. En TELSEC4TAI axúntanse as capacidades de expertos de diversas disciplinas, co obxectivo de investigar e desenvolver tecnoloxías que promovan a seguridade, a cohesión social e a transparencia no uso da IA.
Alén disto, o encontro serviu tamén para presentar exemplos de uso do protocolo definido por Z-Inspection, a primeira ferramenta independente deseñada para avaliar a fiabilidade e ética das tecnoloxías baseadas en IA. A proposta, unha iniciativa sen ánimo de lucro creada no ano 2020 en Finlandia polo investigador Roberto Zicari, conta xa cun total de 37 entes asociados en todo o mundo (26 laboratorios, 9 institucións, e 2 proxectos de investigación); entre eles o CiTIUS, da USC que en 2023 converteuse na primeira institución española en adherirse a este novo protocolo.
A ferramenta baséase nas contribucións dun grupo multidisciplinar de expertos en distintos eidos, cuxo labor é identificar e debater cuestións e tensións éticas en escenarios sociotécnicos complexos.
O investigador do CiTIUS José M. Alonso, co-organizador das xornadas Social Impact of AI xunto co Profesor Ramón López de Mántaras, quixo salientar a importancia do encontro “para integrar o traballo da rede TELSEC4TAI con Z-Inspection e abordar o impacto da IA en diversos ámbitos, incluíndo a educación, a economía e a sanidade”.
Arestora hai 3 institucións españolas adheridas a Z-Inspection: CiTIUS e UPC-Universitat Politècnica de Catalunya (ámbalas dúas, parte da rede TELSEC4TAI); e o Instituto Ramón e Cajal de Investigación Sanitaria (IRYCIS).
As xornadas transcorreron ao redor do debate sobre como a IA pode beneficiar á cidadanía sen crear unha sociedade máis dividida e insolidaria. Engadir que o encontro contou tamén coa participación de membros do proxecto Interactive Natural Language for Explainable Aritificial Intelligence (NL4XAI), un proxecto pioneiro na formación de novos doutores e/ou doutoras no ámbito. Liderado polo CiTIUS e financiado polo programa Horizon2020 da UE, esta rede en IA Explicable céntrase en mellorar a explicabilidade dos sistemas intelixentes: como mellorar a capacidade das máquinas para informar sobre o porqué das súas decisións, nunha linguaxe sempre comprensíbel para os seres humanos.