(2ª publicação) Inteligência artificial e o Contencioso Administrativo: Salvação ou Perdição?

 

A inteligência artificial em si não é um fenómeno de todo novo, mas é inegável que a grande difusão dos sistemas de IA, as inovações ao nível dos LLM's (Large Language Models), a tecnologia de aprendizagem profunda ("deep learning") e do sistema de redes neuronais ("neural networks") bem como os sistemas de IA generativos ("generative AI") e a sua disponibilização ao público contribuíram para um desenvolvimento exponencial e avassalador dos sistemas de IA e ao surgimento de uma miríade de utilizações práticas para os mesmos, nas mais diversas áreas desde a saúde à educação, da programação à engenharia, mas também com grande relevância na área do Direito.

Como qualquer grande inovação, este desenvolvimento dos sistemas de IA apresenta variadíssimas vantagens, outras tantas desvantagens e fundamentalmente um grande conjunto de questões novas que necessitam de resposta.

Dentro do Direito, uma área já por si só vasta e repleta de questões que pululam em todos os seus ramos, a utilização dos sistemas de IA no âmbito da Administração Pública é um tema da maior relevância considerando de utilizações que já estão a ser feitas deste tipo de sistemas e a necessidade de tutelar os direitos dos particulares face à utilização dos mesmos bem como a legalidade das atuações da Administração Pública quando deles faz uso.

Com o desenvolvimento da IA surgiram igualmente novos direitos para proteção dos particulares, apelidados por alguns como "direitos da era digital" que embora não englobem somente direitos ligados à utilização de sistemas de IA, nem fosse esse originalmente o seu foco dada a relativa novidade dos grandes desenvolvimentos da área, podem e devem ser tutelados e defendidos, não só pela Constituição num Direito Constitucional mais moderno e adequado à atual realidade, como pelo Direito Administrativo.

Naturalmente, também se faz necessária uma tutela dos direitos do particular na sua relação com a Administração Pública e da legalidade das atuações da mesma.

Um grande problema que os sistemas de IA trouxeram em relação à Administração Pública prende-se com a utilização dos mesmos para a tomada de decisões, como seja, a decisão do resultado de um concurso público para adjudicação de um certo contrato, a atribuição de uma bolsa a um estudante, entre outros. Como resulta do art.152.º CPA, é imposto um dever de fundamentação dos atos administrativos que total ou parcialmente neguem, extingam, restrinjam ou afetem por qualquer modo direitos ou interesses legalmente protegidos, ou imponham ou agravem deveres, encargos, ónus, sujeições ou sanções, decidam reclamação ou recurso, decidam em contrário de pretensão ou oposição formulada por interessado, ou de parecer, informação ou proposta oficial, decidam de modo diferente da prática habitualmente seguida na resolução de casos semelhantes, ou na interpretação e aplicação dos mesmos princípios ou preceitos legais ou ainda que impliquem declaração de nulidade, anulação, revogação, modificação ou suspensão de ato administrativo anterior.

Ora, um grande problema da utilização de sistemas de IA para a prática destes atos administrativos prende-se com a existência de “blackboxes” ou “caixas pretas”, isto é, uma altíssima opacidade no funcionamento do sistema que leva a que os utilizadores somente consigam aceder aos “inputs” e “outputs” do sistema, mas não ao mecanismo de processamento que levou o mesmo a alcançar essa dada resposta, tornando-se imperscrutável para os utilizadores  e muitas vezes para os próprios desenvolvedores do software quando o sistema é mais complexo. Deste modo, se se utilizar um sistema destes para a prática de atos administrativos que pelo art.152.º CPA exijam uma fundamentação (o que ainda será um número considerável), muitas vezes, tornar-se-á bastante difícil, senão praticamente impossível, explicar como é que aquele sistema tomou aquela decisão, resultando violando o dever de fundamentação dos atos administrativos que tão relevante é para a tutela dos direitos dos particulares bem como da legalidade. Contudo, não se deve esquecer que o art.268.º/4 CRP que consagra o direito de acesso à justiça administrativa, refere que “É garantido aos administrados tutela jurisdicional efectiva dos seus direitos ou interesses legalmente protegidos, incluindo, nomeadamente, o reconhecimento desses direitos ou interesses, a impugnação de quaisquer actos administrativos que os lesem, independentemente da sua forma”, podendo assim entender-se, que, sendo a impugnação dos atos administrativos lesivos dos direitos dos particulares independente da forma destes mesmos atos que tal artigo se aplique também aos atos praticados pelos sistemas de inteligência artificial, não obstante a necessidade de mais legislação nesta matéria.

Pode ainda apontar-se o uso de sistemas de IA no sistema judiciário. Para o efeito, centrando a análise nos tribunais administrativos, mas valendo igualmente para os restantes tribunais, deve ter-se em conta que a inteligência artificial é efetivamente uma ferramenta útil, mas que deve ser utilizada com a maior cautela possível. A legislação em relação à utilização de inteligência artificial na justiça administrativa é bastante escassa e como tal, iniciativas como a Carta ética para a utilização da inteligência artificial nos tribunais administrativos e fiscais tornam-se de grande importância. Embora, a inteligência artificial possa ser bastante útil como ferramenta para auxiliar o juiz em determinadas tarefas repetitivas que consomem bastante tempo, organizando certos documentos, procurando jurisprudência para que este possa consultar, realizando traduções, entre outros,  a configuração da questão começa a mudar os seus traços quando o juiz recorre à inteligência artificial para resumir peças processuais, analisar jurisprudência, construir o texto da sentença ou pior ainda, realizar todo estes processos conjuntamente, quase que substituindo o papel do ser humano.

Devemos ter em conta que as decisões dos tribunais, especialmente os administrativos, tomadas maioritariamente ou completamente por sistemas de IA, podem impactar gravemente direitos fundamentais dos particulares. Para além disto, os dados que são utilizados para criar a base de dados do sistema são, muitas vezes, enviesados, existindo o risco de se reproduzirem estes mesmos enviesamentos nas decisões. Deve igualmente ter-se em conta que o fenómeno das “alucinações” destes sistemas, inventando normas legais, jurisprudência e doutrina que não existe, pode levar a decisões completamente desrazoáveis e sem qualquer tipo de base jurídica. O problema das “black boxes” estende-se também neste âmbito, tornando-se difícil, neste caso, ao juiz justificar e fundamentar a sentença quando não consegue compreender ao modo como o algoritmo chegou àquela dada decisão. É ainda de se ter em consideração o risco de, levado pelo facilitismo proporcionado pela aplicação cada vez maior de sistemas de IA, se acabar por substituir o papel do juiz, como intérprete e aplicador do Direito.

Em suma, a inteligência artificial trouxe consigo, sem qualquer sombra de dúvida, grandes transformações à sociedade e ao Direito como um todo, servindo como uma ferramenta com potencial colossal de auxiliar o ser humano no desempenho das suas tarefas, mas especialmente na área do Direito e concretamente no Direito Administrativo e no Contencioso Administrativo, os riscos da aplicação destes sistemas deve ser bastante analisado, regulado por legislação e restringida em certos pontos para que os riscos não ultrapassem os benefícios.

Referências bibliográficas

PEREIRA DA SILVA, Vasco, 2022, Automatisierte Systeme, C.H. Beck, Munique

PEREIRA DA SILVA, Vasco, 2016, O Contencioso Administrativo no Divã da Psicanálise, 2ª edição, Almedina, Coimbra

PEREIRA DA SILVA, Vasco 2024, Science, Technology and Law - Mutual Impact and Current Challenges: "Al Constitutional and Administrative Law - How to Prevent "Submersion"?", (pp. 265-286) Bologna University Press, Bologna

VVAA, Carta Ética para a Utilização da Inteligência Artificial nos Tribunais Administrativos e Fiscais, Versão preliminar, Fevereiro de 2025

 

Francisco Gominho

140122048