"Em 2024, esperamos que o processo de digitalização que está em curso consiga melhorar ainda mais a eficiência dos programas e a eficácia das políticas públicas em Portugal. Dois elementos críticos que impulsionam esta transformação digital são os dados e a inteligência artificial (IA). A IA pode desempenhar um papel central na criação de valor a partir dos dados e na obtenção de insights mais aprofundados sobre a extensa informação que a administração pública reúne para servir os seus cidadãos.

Como é expectável que a procura por IA generativa cresça este ano em Portugal e em todo o mundo, torna-se imperativo que os líderes do setor público também adotem o uso responsável desta tecnologia. Só assim poderão estabelecer-se eles próprios como guardiões de informação dignos de confiança.

As diferenças entre IA generativa e IA tradicional

Para compreender os desafios únicos colocados pela IA generativa em comparação com a IA tradicional, importa compreender as suas diferenças fundamentais. A IA tradicional assenta principalmente em algoritmos e extensos conjuntos de dados rotulados para treinar modelos através de machine learning. Estes modelos podem formular recomendações ou identificar determinados comportamentos, reconhecendo padrões e seguindo regras predefinidas. Por exemplo, a IA tradicional é utilizada para melhorar a eficácia da filtragem de spam de e-mail, melhorar as recomendações de filmes ou de produtos para os consumidores e permitir que os assistentes virtuais possam ajudar as pessoas na procura de informação.

A IA generativa está a emergir como uma solução valiosa para automatizar e melhorar tarefas administrativas rotineiras e repetitivas. Esta tecnologia distingue-se pela aplicação de modelos fundacionais, que são grandes redes neurais treinadas com base em extensos conjuntos de dados não rotulados e ajustados para diversas tarefas. Na realidade, consegue identificar, resumir, converter, prever e gerar conteúdo de forma eficaz a partir de grandes conjuntos de dados. A implementação desta tecnologia no setor público pode melhorar significativamente a eficiência, permitindo que as organizações concluam as suas tarefas diárias com uma fracção dos recursos.

A IA generativa apresenta assim uma oportunidade sem precedentes para melhorar vários aspectos das operações do setor público e os serviços para os cidadãos. Pode capacitar os funcionários públicos com ferramentas mais poderosas para responderem a perguntas e fazerem pesquisas. Outras tarefas como a redação e a gestão de contratos, que são ambas demoradas e cruciais, podem beneficiar também elas da aplicação da IA generativa.

Gonçalo Costa Andrade© IBM  

Implementar a IA generativa de forma responsável

As notáveis capacidades generativas desta tecnologia emergente de IA levantam, no entanto, questões sobre a sua utilização responsável também no setor público. Por exemplo, os gestores de contratos públicos têm de saber se a pesquisa que esteve na origem foi fielmente convertida num contrato juridicamente vinculativo para duas ou mais partes.

As pessoas começaram recentemente a usar a IA generativa principalmente através de ferramentas que utilizam textos, imagens, vídeos e áudios pré-existentes para criarem conteúdo customizado tendo em conta uma determinada solicitação. Contudo, o nível de detalhe existente relativo ao treino de alguns destes modelos pode não ser o suficiente especialmente para grandes empresas ou indústrias altamente regulamentadas que dependem da confiança pública.

Para desenvolver uma IA responsável, os líderes da administração pública devem tratar cuidadosamente dos seus dados para tirar o máximo partido tanto da IA como da IA generativa. Definir padrões responsáveis é um papel crucial da administração pública, e requer a integração dessa responsabilidade desde o início, e não como uma reflexão a posteriori. Isto inclui manter a supervisão humana para ajudar a garantir a precisão do conteúdo gerado por IA e evitar preconceitos, entre outras questões.

Pilares fundamentais para uma IA responsável na administração pública

O desenvolvimento de IA por parte da IBM está centrado em torno de cinco pilares fundamentais que permitem ajudar a garantir uma IA confiável. Os líderes do setor público devem priorizar estes pilares sempre que considerarem o desenvolvimento, o treino e a implementação responsável de IA:

1. Igualdade num sistema de IA refere-se à sua capacidade de tratar indivíduos ou grupos de forma equitativa, dependendo do contexto em que o sistema de IA é utilizado. Isto significa combater preconceitos e prevenir a discriminação que está relacionada com características protegidas, tais como género, raça, e idade.
2. Privacidade diz respeito à capacidade de um sistema de IA de priorizar e salvaguardar a privacidade e os direitos dos dados dos consumidores, ao mesmo tempo que cumpre os regulamentos existentes relacionados com a recolha, armazenamento, acesso e divulgação de dados.
3. Explicabilidade é importante porque um sistema de IA deve ser capaz de fornecer uma explicação interpretável por humanos para as suas previsões e insights, de uma forma que não se esconda atrás do jargão técnico.
4. Transparência significa que um sistema de IA deve incluir e partilhar informação sobre a forma como foi concebido e desenvolvido e também sobre os dados ou fontes de dados utilizados para alimentar o sistema.
5. Robustez é a capacidade de um sistema de IA lidar eficazmente com condições excepcionais, tais como anomalias na introdução de dados. Ajuda a garantir resultados consistentes.

O IBM watsonx™ é uma plataforma integrada de IA, dados e governança que incorpora estes princípios, disponibilizando uma abordagem integrada, eficiente e responsável para o desenvolvimento de IA em vários ambientes. Mais especificamente, o recente lançamento do IBM® watsonx.governance™ ajuda as equipas do setor público a automatizar e endereçar essas áreas, permitindo-lhes orientar, gerir e monitorizar as atividades de IA de suas organizações. Esta ferramenta facilita processos claros para que as organizações possam proativamente detectar e mitigar riscos, ao mesmo tempo que suportam os seus programas de conformidade para políticas internas de IA e standards de indústria.

À medida que os líderes do setor público em Portugal continuam a procurar formas de aprofundar a adoção da IA e da automação para resolver problemas e melhorar a eficiência, é fundamental manter a confiança e a transparência em qualquer solução de IA. As equipas têm de ter a capacidade de compreender e gerir o ciclo de vida da IA de forma eficaz. A adoção proativa de práticas responsáveis de IA é uma oportunidade única para todos melhorarmos."

Leia Também: AI: Estado de Direito pode colapsar se não houver limites a tecnologias