(3ª Publicação) Quando o Algoritmo Decide: Desafios e Caminhos do Contencioso Administrativo na Era da IA

 A digitalização da Administração Pública já não é uma previsão futurista: é uma realidade que encontramos todos os dias, mesmo sem nos apercebermos. As multas de trânsito, as liquidações automáticas de impostos, a atribuição de pensões, o processamento de pagamentos, e até algoritmos que decidem prioridades ou análises de risco — tudo isto já faz parte do quotidiano administrativo. E é aqui que surge a grande questão: o que acontece ao Direito quando deixa de ser a mão humana a decidir e passa a ser um programa, uma máquina ou um algoritmo?

O texto que analisamos enfrenta precisamente este problema e coloca em cima da mesa os desafios de compatibilizar tecnologia, legalidade e tutela jurisdicional. A antiga solução encontrada pela doutrina alemã, a chamada “teoria dos dois níveis”, que separava decisões humanas (jurídicas e controláveis) de decisões técnicas (supostamente neutras e não jurídicas), revela-se hoje completamente ultrapassada. Os computadores não decidem sozinhos: funcionam dentro de parâmetros escolhidos por pessoas. Assim, qualquer decisão automatizada continua a ser uma decisão atribuída à Administração Pública, com efeitos jurídicos sobre os cidadãos. Não há, por isso, um “limbo tecnológico” fora do alcance do direito administrativo. A máquina não pode servir de escudo.

O texto é especialmente crítico quanto ao risco de a Administração utilizar a automação como forma de escapar às exigências da legalidade. Se não houver regras claras, a decisão algorítmica pode tornar-se opaca, difícil de compreender e ainda mais difícil de contestar. Por detrás de uma aparência de eficiência ou neutralidade, pode esconder-se um terreno perigoso para os direitos dos cidadãos. Na prática, podemos conceber um cenário em que a Administração invoca o funcionamento interno de um algoritmo para evitar explicar uma decisão, esvaziando o dever de fundamentação ou dificultando o acesso à justiça.

É verdade que a Constituição (art. 268.º, n.º 4) e o CPTA já garantem que qualquer ato administrativo, independentemente da sua forma, pode ser controlado pelos tribunais. Mas, apesar disso, a falta de legislação específica sobre decisões automatizadas significa que os juízes muitas vezes querem controlar... mas não têm as ferramentas para o fazer. Sem regras sobre como exigir transparência, como auditar algoritmos ou como interpretar decisões probabilísticas e modelos estatísticos, o controlo judicial arrisca tornar-se sobretudo formal. Na teoria, o cidadão pode impugnar; na prática, dificilmente terá meios de demonstrar o erro ou a ilegalidade.

A reforma do Código do Procedimento Administrativo de 2015 deu alguns passos na direção certa, ao introduzir princípios sobre o governo eletrónico. Porém, como o texto bem sublinha, estas normas são demasiado gerais, quase programáticas, e não chegam para regular situações em que toda a decisão é produzida digitalmente do início ao fim. Falta regulamentação concreta sobre participação dos interessados, dever de fundamentação, responsabilidade, limites constitucionais e garantias procedimentais quando a decisão é automatizada ou assistida por IA. E falta, sobretudo, capacidade de impor obrigações de transparência e auditabilidade à Administração.

Um ponto crítico que merece destaque é a ilusão da neutralidade tecnológica. Muitas vezes a IA é apresentada como objetiva e imune a enviesamentos, mas isso é profundamente enganador. Um algoritmo reproduz — e pode amplificar — os preconceitos dos dados com que foi treinado e das escolhas de quem o programou. Se a Administração Pública adotar sistemas automatizados sem controlo adequado, corre-se o risco de produzir decisões mais rápidas, mas também mais injustas e menos escrutináveis. O perigo não é apenas jurídico; é democrático.

O texto termina com um aviso pertinente: a digitalização pode não limitar a liberdade por repressão direta, mas sim por imersão, criando uma sensação de inevitabilidade e opacidade que dificulta a contestação. Este é talvez o maior desafio do Estado de Direito na era digital: garantir que, mesmo quando decide com base em algoritmos, continua vinculado aos princípios fundamentais da legalidade, da transparência, da fundamentação e da proteção dos direitos dos cidadãos.

O contencioso administrativo tem, assim, diante de si uma nova fronteira: o contencioso algorítmico. Não basta adaptar as velhas soluções; é preciso construir novas ferramentas jurídicas. A lei tem de acompanhar a tecnologia, os tribunais têm de ter meios para controlar decisões complexas, e a Administração precisa de regras claras para não transformar a digitalização numa forma de fugir ao Direito. A tecnologia pode trazer eficiência — mas nunca à custa dos direitos fundamentais ou da essência do Estado de Direito.

Bibliografia:

AI Constitutional and Administrative Law How to Prevent "Submersion"? Vasco Pereira da Silva

João Gil de Almeida Gameiro 140122082