(1ª Publicação) Primeira Abordagem ao AI no âmbito Administrativo

 Maria Inês Borralha Nº: 140121213

A inteligência artificial é um dos maiores desafios do séc. XXI. É uma ferramenta que foi criada pelo ser humano para o auxiliar. De entre as suas principais características um rápido processamento de dados e maior eficiência, precisamente por estas capacidades, pode ser tanto uma ferramenta positiva ou negativa dependendo de como é utilizada. E por isso, pode suscitar diversos problemas porque cria a ilusão de um interlocutor humano, apagando a fronteira entre o humano e a máquina, criando dificuldades de distinção entre o que é real ou gerado artificialmente.

Também neste sentido, têm se suscitado diversas questões nomeadamente no que toca ao uso da inteligência artificial, na ciência do Direito.

E por isso, houve uma corrida à regulamentação da mesma, desde logo a nível europeu. Na União Europeia surgiu regulamentação como: AI ACT, entre outros como o GDPR, sobre proteção e regulamentação de dados pessoais. Destes podemos extrair diversos princípios que devem ser tidos em conta na utilização destas plataformas como, transparência, presente no art.52º do AI ACT, isto é, quem está a interagir tem de saber que o está a fazer com uma máquina; a inclusão, a pessoa não pode ser sujeita a uma decisão tomada exclusivamente pelo AI, art.22º do GDPR; a explicabilidade, todos os que são sujeitos a uma decisão feita por AI têm o direito de receber informação significativa sobre o porquê de determinada decisão, art.15º do GDPR. E por fim a justiça, esta no sentido em que ninguém pode estar sujeito a decisões tomadas pelo AI com base num algoritmo que toma decisões discriminatórias, esta ideia está consagrada em diversos artigos do AI ACT bem como do GDPR.

No entanto, isto não é suficiente porque, enquanto regulamentos da EU, estas normas precisam para ser eficazes de ser concretizadas por cada estado-membro na sua própria legislação.

Já a nível português, há normas globais e genéricas. No CPA, prevê-se a possibilidade de a administração utilizar computadores, o que é manifestamente insuficiente, já relativamente ao contencioso, existe uma norma no art.268º nº4 da CRP, que depois é completada por outra norma do CPA, que permite o controlo dos algoritmos e o controlo dos atos praticados no quadro da inteligência artificial.

Neste sentido relativamente à utilização, no âmbito da administração pública, num primeiro momento o prof. Vasco Pereira da Silva reconhece alguns âmbitos em que a mesma poderá ser útil: como instrumento auxiliar, de apoio técnico e organizativo, fazendo sentido apenas em fases técnicas e procedimentais. Deve utilizar se como uma ferramenta de eficiência. Alguns exemplos que apresenta de possível utilização são: organizar processos, automatizar tarefas repetidas, recolha de dados, atribuição de licenças ou autorizações automáticas, nomeadamente quando as condições são puramente objetivas e verificáveis como refere no exemplo, da atribuição de uma licença de pesca lúdica. Ou, ainda a nível de apoio estatístico.

No entanto, uma das principais ideias também referidas pelo professor, é que tudo o que implicar um juízo, nomeadamente juízos de valor tem de ser realizados integralmente pelo ser humano, isto porque a máquina apenas deverá ser uma colaboradora supervisionada pelo humano.

 

Assim, um problema que se coloca é que não se sabe bem como é que o algoritmo chegou a determinada decisão, sendo um dos principais deveres da administração é o dever de fundamentação, isto porque o cidadão tem o direito de saber e compreender as razões da decisão.

Neste âmbito têm surgido vários casos emblemáticos, como o caso “Buona Scuola” em Itália. Neste caso foi criado um algoritmo para atribuir professores às escolas com base em classificações, preferências e disponibilidade regional. No entanto, os resultados foram caóticos porque professores com tudo igual foram atribuídos a regiões completamente opostas, sem justificação compreensível. Neste sentido foi pedido ao Ministro da Educação que se apresentasse justificação. No entanto, este recusou afirmado que aquele não era um ato administrativo, sendo realizado pelo algoritmo estava escrito em linguagem técnica não estando por isso sujeito ao dever de fundamentação, afirma ainda que estava protegido por propriedade intelectual pertencente a uma empresa privada. O tribunal discordou afirmando que: o algoritmo produziu diretamente uma decisão administrativa, portanto deve estar sujeito às mesmas regras de transparência e acesso que qualquer outro ato administrativo. O argumento da linguagem técnica era inválido, uma vez que o código poderia ser traduzido por especialistas. E que a proteção dos direitos de autor não se sobrepõe ao direito de os cidadãos terem acesso e compreenderem uma decisão pública que os afeta.

Deste modo, este é um exemplo claro da má utilização por parte da administração pública destes instrumentos. Sendo que neste sentido o tribunal chega à conclusão de que como referido acima o AI é um instrumento colaborativo que deverá estar sujeito aos mesmos princípios da administração pública como transparência e a necessidade de fundamentação.

Concluo que neste âmbito da inteligência artificial, como prof. Vasco Pereira da Silva sugere tem de existir uma regulamentação não excessiva, mas adequadas, assegurando liberdades e garantias, tendo em conta a parte jurídica, mas também técnica tão característica da mesma.