Os sistemas de inteligência artificial já decidem sobre crédito bancário , recrutamento e detecção de fraude . Mas como é que podemos garantir que essas decisões são justas e podem ser explicadas a quem é afectado por elas? Sérgio Jesus testou, com analistas reais e não apenas em laboratório, como é que as explicações dadas pela IA afectam as decisões humanas, e mostrou que nem sempre os métodos existentes protegem contra a discriminação algorítmica. Disponibilizou ainda, com a sua equipa, em acesso aberto, o maior conjunto de dados público para testar equidade em sistemas de detecção de fraude, já usado por investigadores em todo o mundo.

Sérgio Jesus é investigador na Feedzai. A sua tese de doutoramento na Faculdade de Ciências da Universidade do Porto foi precisamente o trabalho premiado.

Corrigir erros de programação consome uma parte significativa do tempo dos professores de informática, mesmo quando se trata de erros simples e recorrentes entre estudantes que estão só a começar. Pedro Orvalho criou o MENTOR, um sistema que identifica automaticamente o erro no código do estudante e devolve feedback imediato e personalizado, sem nunca entregar a solução pronta, para que seja o próprio estudante a chegar à resposta. O resultado multiplica as capacidades de ambos os lados: o estudante aprende mais depressa e com mais autonomia tendo resposta no momento em que precisa dela, e o professor liberta tempo que passa a poder dedicar às dúvidas que realmente exigem atenção humana, em vez de repetir a mesma correcção a dezenas de alunos.

Pedro Orvalho doutorou-se no Instituto Superior Técnico e é actualmente MSCA Postdoctoral Fellow no IIIA-CSIC, em Barcelona.

Como é que dois hospitais podem comparar dados de doentes sem partilhar informação confidencial? Como é que duas empresas podem detectar e comparar desigualdades salariais entre géneros sem revelar salários individuais? Manuel Goulão desenvolveu protocolos de computação multipartidária que permitem a várias entidades calcular resultados em conjunto sem que uma veja os dados da outra, com aplicações que vão do equilíbrio do mercado à investigação médica. O seu trabalho parte do princípio de que a privacidade é um direito humano fundamental que a tecnologia deve proteger, não ameaçar. Foi construído a pensar no futuro, resistente a ataques de computadores quânticos que vão tornar obsoletas as formas de encriptação usadas hoje.

Manuel Goulão é actualmente investigador no INESC-ID, depois de uma passagem pelo Okinawa Institute of Science and Technology, no Japão.

Os modelos de inteligência artificial estão cada vez mais capazes, mas também exigem cada vez mais poder computacional, que se traduz num maior consumo de energia e numa pegada ambiental crescente. A par disso, tornam-se cada vez mais opacos, incapazes de explicar porque tomaram determinada decisão. Gonçalo Correia desenvolveu um método que ensina estes modelos a distinguir o que é relevante do que não é, em vez de processarem toda a informação com o mesmo peso. O resultado são modelos mais leves, que consomem menos energia e são mais transparentes, capazes de mostrar a quem os usa e a quem é afectado pelas suas decisões o raciocínio por detrás delas. Em termos simples, isto significa sistemas de IA mais sustentáveis e mais dignos de confiança num momento em que dependemos cada vez mais deles para decisões que nos afectam directamente.

Gonçalo Correia é actualmente Head of AI na Priberam e Professor Auxiliar Convidado no Instituto Superior Técnico, em Lisboa.