O trabalho de Sérgio Jesus parte da constatação incómoda de que a maior parte do que se sabe sobre o efeito da inteligência artificial nas decisões humanas foi estudado em condições artificiais, e as conclusões não se traduzem no que acontece quando os sistemas são postos a funcionar na realidade. Para demonstrá-lo, criou uma metodologia de avaliação inspirada em ensaios clínicos e testou-a em larga escala com analistas profissionais de detecção de fraude. Os resultados mostram que especialistas assistidos por IA com explicações correctas decidem mais depressa, mas cometem mais erros, contrariando a premissa de que supervisão humana e explicações automáticas são salvaguarda suficiente.

No âmbito desta investigação, Sérgio Jesus contribuiu para o desenvolvimento de dois recursos de acesso livre hoje em uso em todo o mundo: o Bank Account Fraud, o maior conjunto de dados público para testar se modelos de IA discriminam em função de características como género ou etnia, e a Aequitas Flow, uma plataforma para avaliar sistematicamente esse risco. Ambos foram integrados no software da Feedzai e somam mais de 250.000 transferências.

Sérgio Jesus é doutorado pela Faculdade de Ciências da Universidade do Porto, onde desenvolveu a investigação em parceria com a Feedzai, empresa portuguesa de prevenção de fraude financeira onde é Advanced Research Data Scientist.

O trabalho de Pedro Orvalho abordou um problema concreto no ensino da programação: corrigir erros de código consome uma parte significativa do tempo dos professores, muitas vezes em questões de nível básico. O MENTOR identifica o erro, dá feedback personalizado imediato ao estudante e encoraja-o a resolver o problema sozinho, sem oferecer a solução. O estudante aprende mais e o professor fica disponível para as questões que precisam mesmo de atenção humana.

Pedro Orvalho é actualmente MSCA Postdoctoral Fellow no IIIA-CSIC, em Barcelona.

O trabalho de Manuel Goulão abordou como usar dados sensíveis de várias fontes em conjunto sem os expor, recorrendo a protocolos que permitem a várias entidades fazer operações sobre informação partilhada sem que nenhuma aceda aos dados da outra. O trabalho foi desenvolvido com a ameaça da computação quântica em mente, sabendo que os sistemas de encriptação actuais se vão tornar vulneráveis à medida que os computadores quânticos se tornarem suficientemente potentes.

Manuel Goulão é actualmente investigador no INESC-ID, em Lisboa.

O trabalho de Gonçalo Correia abordou dois dos maiores problemas dos modelos de inteligência artificial: a opacidade, ou seja, a incapacidade de explicar as próprias decisões, e o peso computacional, que tem custos energéticos e ambientais muito elevados. A solução que o investigador propôs ensina o modelo a ignorar o que não é relevante em vez de processar tudo com igual peso. O resultado é um modelo mais compacto, mais eficiente e mais fácil de interpretar.

Gonçalo Correia é actualmente Head of AI na Priberam e Professor Auxiliar Convidado no Instituto Superior Técnico, em Lisboa.