"Entre a burocracia e o algoritmo: a IA e o Contencioso Administrativo"

 "Entre a burocracia e o algoritmo: a IA e o Contencioso Administrativo"

O ponto de partida da nossa discussão deve ser o artigo 2º CPA: nos termos do artigo 2º nº1 e nº3 CPA, os princípios gerais da atividade administrativa e as disposições do Código são aplicáveis a toda e qualquer atuação da Administração Pública, ainda que a atuação tenha uma natureza meramente técnica. A articulação deste preceito com o artigo 268º nº4 CRP, que consagra o direito a uma tutela jurisdicional efetiva aos administrados, confirma que qualquer atuação administrativa pode ser conhecida pelos tribunais administrativos, permitindo, por dedução lógica, o controlo do algoritmo e da atuação administrativa dentro do quadro jurídico da inteligência artificial (IA). No que respeita ao domínio processual, é concedida abertura ao mundo digital no exercício da atividade administrativa por força do artigo 52º CPTA, que determina que a impugnabilidade dos atos administrativos não depende da respetiva forma.

Todavia, apesar da existência destas regras genéricas, é alarmante constatar que o ordenamento jurídico português ainda não dispõe de um processo autónomo que defina de forma clara em que situações é admissível o uso destes meios digitais. Acresce que o CPTA não prevê qualquer mecanismo específico destinado a regular a atividade da Administração Pública nesse domínio, seja sob a forma de processo urgente, seja como ação principal: quanto a este tema, o nosso legislador demonstra uma postura de preocupante inatividade.

No âmbito do processo administrativo, o Professor Vasco Pereira da Silva identifica dois grandes problemas quanto ao recurso à IA: a liberdade de escolha e a possibilidade de reação contenciosa às decisões tomadas com base em algoritmos.

A problemática da liberdade de escolha surge associada ao crescimento rápido e exponencial da IA, crescimento este que pode implicar uma submersão. Como aconselha o Professor Vasco Pereira da Silva, para a liberdade de escolha ser preservada, é essencial compreender os impactos da digitalização e da IA, de modo a antecipar respostas jurídicas que assegurem os pilares dum Estado de Direito Democrático e a proteção dos direitos fundamentais dos seus cidadãos. Da mesma forma, os tribunais devem dispor de recursos e critérios necessários para exercer um controlo eficaz sobre a Administração e sobre qualquer entidade privada que possam comprometer as normas de utilização responsável das tecnologias digitais e da IA.

A segunda dificuldade identificada prende-se com a utilização dos algoritmos. Na perspetiva do Professor Vasco Pereira da Silva, os algoritmos devem ser encarados como regulamentos, uma vez que condicionam o futuro da atuação da Administração Pública. Com efeito, existem vantagens significativas que decorrem do auxílio da IA no procedimento administrativo, principalmente na fase de instrução e recolha de matérias, indo de encontro com o princípio consagrado no artigo 14º CPA que incentiva a utilização de meios eletrónicos e tecnológicos como forma de promoção de eficiência da atuação da Administração; também quanto ao processo administrativo conseguimos pensar em possíveis benefícios, como o auxílio da IA na organização de pedidos e causas de pedir, contribuindo para uma gestão processual mais célere e estruturada.

Contudo, o recurso aos algoritmos torna-se desafiante quando esteja em causa a tomada de decisões, quer no exercício do poder discricionário da Administração, quer na função jurisdicional.

Podemos distinguir dois tipos de situações: se estiver em causa, por exemplo, a atribuição de uma licença de pesca lúdica, emitida apenas para fins fiscais, não é exigido qualquer juízo de valor e a decisão pode, porventura, ser totalmente automatizada; se em juízo estiver a atribuição de uma licença de uso de arma, em que se torna necessário a apreciação de capacidades físicas e psicológicas, é preciso uma ponderação e decisão humana.

No grupo em que se insere o último caso referido, a decisão deve ser integralmente humana ou, pelo menos, assegurar uma intervenção humana determinante no momento decisório, garantido que a IA permanece apenas como instrumento de apoio e não como substituto da vontade decisória: embora a IA possa ser utilizada para auxiliar fases instrumentais do procedimento administrativo, tal como a instrução, as decisões que envolvem juízo de valor, poder discricionário ou apreciação subjetiva devem ser, quase, exclusivamente humanas.

A questão relativa à possibilidade do julgamento ser efetuado por sistemas de IA foi abordada no documentário Justiça Artificial (RTP, 2024), onde magistrados e especialistas refletem sobre a crescente dependência dos sistemas judiciais em relação à IA. O filme evidencia que, embora a IA possa auxiliar na gestão processual e a análise de dados, há situações em que decisões automatizadas conduzem a resultados absurdos.

O conteúdo do documentário não se encontra muito longe da nossa realidade: recentemente, surge o acórdão da jurisprudência espanhola BOSCO, em que decisões tomadas por algoritmos afetaram diretamente os particulares quanto à possibilidade de atribuição de um certo subsídio. Os particulares exigiram a fundamentação do algoritmo, mas tal revelou-se impossível devido à natureza opaca do sistema ( “dark box”) que compromete a transparência exigida à atividade da Administração Pública. Ora, a fundamentação da decisão é uma exigência absolutamente inderrogável: uma decisão desprovida de fundamentação é inadmissível no quadro administrativo.

Face a estas realidades, é indispensável criar normas processuais adequadas ao uso da IA, que definam domínios de atuação, limites e garantias. O controlo deve existir em vários níveis, assegurando simultaneamente a liberdade individual e a responsabilidade do Estado.

Atualmente, está em curso um projeto destinado à integração dos sistemas de IA no funcionamento dos tribunais administrativos e fiscais. O projeto, promovido pelo Conselho Superior dos Tribunais Administrativos e Fiscais (CSTAF), denomina-se AssessorIA e destina-se a apoiar os juízes de 1.ª instância na gestão e análise de processos. Trata-se de uma ferramenta de apoio técnico, não decisório, desenhada para aumentar a eficiência processual e reduzir a carga burocrática associada à pesquisa de jurisprudência, à análise documental e à redação de peças. Entre as suas funcionalidades, o sistema permitirá pesquisar automaticamente decisões judiciais, identificar referências legislativas e doutrinárias, transcrever gravações de audiências e organizar informação processual.

O AssessorIA foi classificado como um sistema de “alto risco” ao abrigo do AI Act da União Europeia, devendo, por isso, cumprir requisitos rigorosos de transparência, explicabilidade, proteção de dados e supervisão humana. O CSTAF aprovou também uma Carta Ética para o Uso da IA, que define princípios fundamentais de transparência, responsabilidade e respeito pelos direitos fundamentais.

O projeto avança, assim, numa zona de fronteira entre inovação tecnológica e necessidade de regulação jurídica, constituindo um teste prático, e bastante necessário, à capacidade do ordenamento português de adaptar-se aos padrões estabelecidos pelo AI Act e pela jurisprudência europeia.

Em suma, a IA tem potencial para apoiar a Administração e os tribunais, mas exige uma regulação clara, que defina os limites entre o apoio técnico e o exercício de poder decisório: o nosso desafio consiste em preservar a liberdade e a dignidade humanas sem travar o progresso tecnológico.

Margarida Cardoso

140122118

Referências bibliográficas: 

• Pereira da Silva, V. (2024). AI Constitutional and Administrative Law – How to Prevent 'Submersion'? In L. Mezzetti (Ed.), Science, Technology and Law – Mutual Impact and Current Challenges (pp. 265–286). Bologna University Press.
• AssessorIA. Juízes dos tribunais administrativos e fiscais terão sistema de IA para ajudar nos julgamentos – ECO

Este post foi elaborado com base nos apontamentos das aulas de Contencioso Administrativo.