Doutorado da FEUP cria ferramenta para detetar discriminação em sistemas inteligentes

Pedro Saleiro é o doutorado da FEUP responsável pelo desenvolvimento desta ferramenta.

Não é segredo para ninguém que cada vez mais se recorre à adoção generalizada de tecnologias baseadas em big data e machine learning no setor bancário, na saúde, administração pública ou até mesmo na justiça. A inteligência artificial tem um potencial enorme de melhoria da qualidade dos serviços públicos uma vez que permite aos governos alocarem recursos humanos e financeiros onde estes são efetivamente mais necessários e onde poderão ter maior impacto na sociedade. No entanto, algumas notícias recentes, sobretudo nos EUA, alertam para o risco da utilização de sistemas inteligentes que afetam injustamente os cidadãos porque aprendem e propagam as discriminações e preconceitos que existem na sociedade.

Pedro Saleiro, doutorado em Engenharia Informática pela Faculdade de Engenharia da U.Porto (FEUP) e atualmente a terminar o post doc na Universidade de Chicago, desenvolveu uma ferramenta que permite auditar sistemas de apoio à decisão baseados em inteligência artificial e detetar vários tipos de discriminações: raciais, de género, etárias ou até religiosas. A ferramenta chama-se Aequitas, tem como público alvo cientistas de dados e entidades governamentais, e foi já mencionada num artigo da conceituada revista Nature.

Desenvolvida no Center for Data Science and Public Policy, a Aequitas é de utilização gratuita e permite auditar os modelos antes de estes serem utilizados em produção, decompondo diferentes métricas de erro por diferentes grupos da população e assim detetar vários tipos de discriminação. “Vamos imaginar que eu quero desenvolver um sistema que detecte o risco de abandono escolar precoce: é importante que o sistema não funcione pior no interior do país do que no litoral, ou em determinados grupos minoritários ou etnias, porque aí estaríamos a exacerbar desigualdades. É imperativo auditar sistemas de apoio à decisão baseados em inteligência artificial e tornar públicos os resultados antes destes sistemas serem utilizados por entidades públicas”, explica o jovem investigador.

Durante o post doc na Universidade de Chicago com a orientação de Rayid Ghani – o Chief Data Scientist por detrás da campanha eleitoral de Barack Obama em 2012 – Pedro Saleiro tem estado sobretudo ligado a projetos de inteligência artificial no contexto de políticas públicas e impacto social, tanto em questões éticas e de transparência, como em projetos mais práticos em parcerias com instituições públicas que têm problemas que podem ser resolvidos com grandes dados e aprendizagem computacional. O alumni da FEUP acredita que “é fundamental formar cientistas de dados e quadros da administração pública para que desenvolvam sistemas inteligentes que diminuam as desigualdades sociais a longo prazo e não o contrário.”

Até porque – defende Pedro Saleiro – a tendência da utilização de modelos preditivos baseados em inteligência artificial é para aumentar: seja para decidir a fiança de detidos, admitir alunos em universidades, candidatos a uma vaga de emprego, já para não falar do acesso a crédito. Falamos sobretudo de situações em que é fundamental que os modelos preditivos utilizados funcionem sem que haja quaisquer tipo de descriminação ou motivo para que se levantem questões éticas.