O Algoritmo Manda, o Homem Assina? A IA no Ato Administrativo

O fenómeno da digitalização e a evolução astronómica da Inteligência Artificial (IA) são transformações inevitáveis que têm vindo a agitar o Direito nos últimos anos, de tal modo que nenhuma área jurídica escapará às novas tecnologias. Face a estas novas realidades, a postura mais sensata é a de encontrar um equilíbrio, entre a integração destas tecnologias e a proibição, e regulamentação de outras, com base numa postura aberta e crítica, evitando-se os extremismos da euforia ou do ceticismo.

O conceito de IA é complexo, mas pode ser entendido como uma ciência da computação em que as máquinas atuam através de algoritmos. A IA tem como principal objetivo permitir que uma máquina simule, por meios digitais, a capacidade de gerar um raciocínio que seria, tipicamente, humano. Mas sendo este um conceito complexo podemos distinguir duas realidades de IA, a forte (a máquina replica a mente humana), e a fraca (a máquina como mero auxiliar, assumindo tarefas concretas sem reproduzir pensamentos humanos ou tomar decisões autónomas). O meio-termo entre estas duas realidades é a que a IA centra-se na capacidade de a máquina aprender com a experiência, recorrendo a sistemas de autoaprendizagem (machine learning) ou redes neuronais artificiais (deep learning).

No âmbito do Direito Administrativo português, o recurso à IA implica uma reflexão sobre como os sistemas de autoaprendizagem e as redes neuronais artificiais se integram nas balizas do Código do Procedimento Administrativo (CPA) e do Código de Processo nos Tribunais Administrativos (CPTA), quais os seus benefícios e, sobretudo, os seus constrangimentos legais.

Quanto aos benefícios, existem benefícios claros quanto à prossecução do princípio da boa administração (Artigo 5.º/1 do CPA), devido ao aumento da eficiência, economicidade e celeridade da atividade administrativa e, ao mesmo tempo, estaríamos a respeitar e a caminhar para o objetivo do Artigo 14.º/1 do CPA. Simplificando a tarefa do agente de Direito, ampliando exponencialmente a disponibilidade de informação e fornecendo uma forma rápida e fidedigna de aceder a regimes legais, jurisprudência e doutrina. Do ponto de vista procedimental, qualquer sistema de IA tem, à partida, aptidão para realizar o iter procedimental, verificando o cumprimento de atos e formalidades exigíveis. A otimização gerada pela IA é tão significativa que permite à Administração Pública focar-se no essencial: garantir um serviço público de qualidade, que defenda o interesse público de forma eficaz, diligente e que proteja os direitos e interesses legítimos dos particulares.

O maior desafio da IA reside na sua integração no ato administrativo. Uma vez que o ato administrativo expõe a vontade da Administração Pública, respeitando princípios como a igualdade (Artigo 6.º do CPA e Artigo 13.º da CRP), a proporcionalidade (Artigo 7.º do CPA) e a imparcialidade (Artigo 9.º do CPA). O cerne do problema da IA reside no facto de que o ato administrativo exige a manifestação da vontade por um órgão, necessariamente corporizado por pessoas reais, dotadas de personalidade e capacidade jurídica. A máquina nunca poderá substituir este órgão na competência decisória e na capacidade de gerar vontade. Nos casos de sistemas inteligentes de autoaprendizagem (machine learning ou deep learning), que são sistemas probabilísticos, apenas vêm o que é melhor objetivamente para o panorama geral, podem não funcionar bem a nível individual, a analisar o interesse de cada particular.

Quanto aos direitos, liberdades e garantias dos particulares, o recurso à IA levanta outros problemas, como a opacidade algorítmica. Ou seja, os sistemas de autoaprendizagem, que se constroem sem intervenção humana, funcionam como verdadeiras “caixas negras”. O percurso cognitivo da máquina não é conhecido, não conseguimos entender como a IA chega àquela conclusão, qual foi a sua linha de raciocínio. Isto compromete gravemente o dever de fundamentação da administração pública (Artigo 152.º do CPA). Se a máquina não consegue explicar as motivações que a levaram àquela solução, torna-se difícil cumprir este dever. Quanto às garantias procedimentais, a falta de transparência impede que os particulares tenham uma informação esclarecida sobre o processo decisório, colocando em risco princípios como o princípio da colaboração com os particulares (Artigo 11.º do CPA), o princípio da participação (Artigo 12.º do CPA) e o princípio da administração aberta (Artigo 17.º do CPA). Para além destes princípios, também existe uma ameaça ao princípio da igualdade, como abordei anteriormente (Artigo 6.º do CPA e Artigo 13.º da CRP). Isto porque a IA toma decisões baseadas em padrões aprendidos que, muitas vezes, excluem ou penalizam indevidamente certos grupos, resultando em decisões discriminatórias.

Outra questão que se coloca quanto ao uso da IA no Direito Administrativo é, quem é responsabilizado nos casos de vício? Uma vez que, a utilização de sistemas automatizados complexos dificulta a aplicação dos regimes tradicionais de responsabilidade civil extracontratual da Administração. Pois, a responsabilidade extracontratual exige que o facto praticado seja voluntário por parte do agente e que existe culpa por parte do mesmo. Estes pressupostos são extremamente difíceis de se verificar na IA, se não mesmo impossíveis, porque em sistemas automatizados é complexo perceber concretamente a origem do erro, será do algoritmo? Será da fonte dos dados? Será de algum input humano?

Por último, outro constrangimento que a IA apresenta é a sua dificuldade em acompanhar o raciocínio jurídico, que envolve uma ponderação mental complexa e a avaliação do peso de diferentes valores e princípios. Além disso existe um forte risco de a IA, que por natureza procura padrões, começar a decidir casos automaticamente, uma vez que irá apenas repetir decisões antigas, “congelando” o Direito e impedindo-o de evoluir com a sociedade

Concluindo, a Inteligência Artificial está a começar a entrar no Direito e isso é um caminho sem volta. No entanto, as leis que temos agora não são suficientes para controlar esta nova realidade. É necessária uma nova lei para a IA na Administração Pública. Esta lei deve estabelecer o que a IA tem competência para fazer e o que não tem competência para fazer (os seus limites), para que os nossos direitos fundamentais fiquem sempre protegidos. Se o recurso à IA for bem enquadrado e regulado, a Administração Pública conseguirá ser muito mais rápida e eficiente. Mas é fundamental que a máquina nunca decida sozinha. Por mais avançada que seja, a IA não tem consciência nem a capacidade humana para conseguir avaliar cada caso individualmente e tomar uma decisão justa, o que é essencial no Direito. Portanto, a sinergia entre a mente humana e a capacidade analítica da IA é o caminho a seguir, forjando uma Administração Pública mais transparente, ágil e em sintonia com os princípios fundamentais do direito.

Rafael Ferreira Pontes

N.º 140122237