O Complexo Decisório no Procedimento Administrativo: quem decide, o humano ou o algoritmo?

Ao longo do presente texto, propõe-se analisar o complexo decisório no procedimento administrativo, especialmente à luz da crescente incorporação de tecnologias de Inteligência Artificial (IA) na atividade administrativa. Com o avanço tecnológico e a expansão do uso de IA em diversas esferas da vida social, a Administração Pública não permaneceu alheia a esta evolução e passou progressivamente a integrar sistemas algorítmicos no âmbito dos procedimentos administrativos. A emergência da digitalização e da Inteligência Artificial configura, na atualidade, uma nova dimensão da atividade pública. Com efeito, a utilização de meios informáticos tornou-se praticamente indispensável no quotidiano, distinguindo-se claramente das realidades vivenciadas por gerações anteriores, que não dispunham de acesso a tais tecnologias. Trata-se, ademais, de um fenómeno com forte impacto económico, o que gera uma crescente dependência de sistemas digitais, num contexto em que o uso da IA se expande de forma exponencial.

Na sociedade contemporânea, surge um risco latente de crescente automatização das decisões por via da IA. Tal resulta, em grande medida, da rápida evolução dos meios tecnológicos e do aumento exponencial dos conteúdos produzidos e processados por estes sistemas. Esta realidade, sendo inevitável, não está isenta de perigos; portanto, torna-se necessário implementar mecanismos de controlo, assegurados primordialmente pelo Direito.

Neste contexto, impõe-se uma reflexão central: quem é, em última instância, o verdadeiro decisor? Será o algoritmo que sustenta a IA, enquanto instrumento capaz de influenciar ou até determinar o conteúdo da decisão administrativa, ou o decisor humano, a quem incumbe o dever jurídico de apreciar criticamente os elementos do procedimento, verificar os factos e, com base numa análise fundamentada, optar pela adoção ou rejeição do resultado sugerido pela IA?

Com efeito, ainda que a IA desempenhe um papel relevante como instrumento de apoio à decisão, cabe ao decisor humano, no exercício das suas funções, assegurar a conformidade da decisão com os princípios da legalidade, da boa administração e da prossecução do interesse público, não podendo abdicar da sua responsabilidade última na formação do ato administrativo.

A Inteligência Artificial consiste na capacidade de uma máquina reproduzir competências semelhantes às humanas, como o raciocínio, a aprendizagem, o planeamento e a criatividade. Ela permite que sistemas tecnológicos interpretem o meio envolvente, processem a informação recolhida e atuem com vista à concretização de determinados objetivos. Para tal, o computador recebe dados - previamente fornecidos ou captados através dos seus próprios dispositivos, como sensores ou câmaras -, processa-os e gera uma resposta adequada. Adicionalmente, os sistemas de IA possuem uma certa capacidade de adaptação, pois ajustam o seu funcionamento com base na análise dos resultados de ações anteriores e operam, até certo ponto, de forma autónoma.

Os algoritmos, no contexto da IA, correspondem a conjuntos de instruções complexas, regras lógicas e procedimentos matemáticos que permitem a um software processar dados, identificar padrões e tomar decisões ou formular previsões de forma autónoma.

Neste contexto, a União Europeia tem adotado instrumentos normativos destinados à regulação da utilização da IA e das tecnologias digitais - designadamente o chamado “Digital Act” -, estabelece regras aplicáveis a estas novas formas de atuação e prevê sanções em caso de incumprimento. Não obstante, mantém-se a exigência de controlo humano, pois determinadas decisões não podem nem devem ser integralmente confiadas a sistemas automatizados. No domínio do Direito Administrativo, em particular, onde a decisão implica ponderação e escolha, a IA constitui um instrumento de apoio, apresenta alternativas ou soluções possíveis, mas não substitui o decisor humano.

Além disso, a utilização da IA suscita questões relevantes no plano dos direitos fundamentais e exige mecanismos adequados de controlo. Destacam-se, entre os principais problemas, a limitação da liberdade de escolha, na medida em que esta tende a ser orientada por algoritmos, e a necessidade de garantir a liberdade individual face à atuação mediada por sistemas de IA.

Esta problemática assume particular relevância no âmbito do exercício do poder público, especialmente na tomada de decisões administrativas e jurisdicionais. Na ausência de mecanismos adequados de controlo, corre-se o risco de subordinar a decisão humana a processos automatizados, afastando-a da vontade efetiva dos destinatários.

Por outro lado, importa reconhecer que a IA ainda não dispõe de informação suficiente e plenamente adequada no domínio jurídico, o que pode gerar impactos significativos na qualidade das decisões. Coloca-se, desde logo, a questão da necessidade de fornecer dados adequados e fiáveis aos sistemas. Num segundo momento, torna-se essencial reconduzir os resultados produzidos pela IA ao plano jurídico-administrativo, tratando-os como verdadeiras atuações da Administração.

Nas últimas décadas, os algoritmos conheceram uma evolução exponencial e encontram aplicação em praticamente todos os setores de atividade. A sua utilização resulta, por um lado, de uma escolha consciente - um verdadeiro ato voluntário - e, por outro, revela-se também como uma inevitabilidade decorrente do avanço tecnológico. À medida que estes sistemas se tornam mais sofisticados, capazes de analisar grandes volumes de dados e de trabalhar com informação não estruturada, aumentam igualmente os impactos das suas previsões e decisões.

Neste contexto, surgem diversos riscos, nomeadamente aqueles associados à utilização de bases de dados enviesadas ou não representativas da realidade social. Tais limitações conduzem a fenómenos de discriminação e enviesamento decisório, afetando sobretudo grupos vulneráveis ou minorias. Estes efeitos agravam-se devido à escalabilidade e à massificação dos resultados produzidos por sistemas automatizados, comprometendo garantias fundamentais de equidade.

Acresce ainda o problema da opacidade algorítmica, frequentemente designado como efeito black box. Nestes casos, a transparência quanto ao funcionamento dos sistemas é insuficiente, o que dificulta a compreensão, explicação e interpretação das decisões, especialmente por parte dos utilizadores - sejam eles intermediários ou finais. Tal realidade gera sérias questões no plano do dever de fundamentação das decisões, particularmente relevante no âmbito jurídico-administrativo.

O caso “Bosco”, atualmente pendente de decisão pelo Tribunal Supremo de España, constitui um exemplo paradigmático dos desafios da utilização de sistemas algorítmicos na Administração Pública, especialmente no que respeita à transparência, à legalidade e à proteção dos direitos dos cidadãos. Em causa está um sistema informático desenvolvido para determinar, de forma automatizada, a atribuição do “bono social eléctrico”, um apoio destinado a consumidores economicamente vulneráveis. Contudo, a partir de 2018, surgiram diversas situações de recusa aparentemente injustificada do benefício, incluindo casos de pessoas que preenchiam os requisitos legais.

Perante estas incongruências, a Fundación Civio solicitou o acesso à informação técnica e ao código-fonte do sistema, ao abrigo da legislação de transparência. A Administração recusou parcialmente esse acesso, invocando, numa primeira fase, a proteção da propriedade intelectual e, posteriormente, razões de segurança nacional. O litígio percorreu várias instâncias, tendo o Consejo de Transparencia y Buen Gobierno admitido apenas um acesso limitado, posição que veio a ser confirmada judicialmente pela Audiencia Nacional. Ainda assim, o caso foi admitido pelo Tribunal Supremo, reconhecendo a sua relevância para a formação de jurisprudência.

Este caso ilustra de forma clara os riscos associados à opacidade algorítmica. Os cidadãos afetados pelas decisões do sistema não conseguem compreender os critérios subjacentes à decisão nem o modo como esta se formou, o que compromete diretamente o direito à fundamentação e à transparência administrativa. Além disso, a existência de decisões incorretas sugere a possibilidade de enviesamentos nos dados ou nos critérios utilizados pelo algoritmo, o que pode conduzir a situações de discriminação.

Para além disso, a utilização de sistemas automatizados aumenta a massificação dos efeitos dessas decisões, na medida em que um eventual erro não se limita a um caso isolado, mas replica-se em larga escala. O caso Bosco evidencia ainda a tensão entre o direito de acesso à informação e outros interesses juridicamente protegidos, como a segurança nacional ou a propriedade intelectual.

A investigadora Helena Machado salienta que qualquer utilização de IA exige cautela e permite evitar resultados negativos mediante a adequada monitorização e acompanhamento. Contudo, sublinha a necessidade de uma análise crítica prévia e de uma avaliação rigorosa da forma como os sistemas são treinados.

Torna-se evidente a necessidade de um desenvolvimento legislativo mais aprofundado, que considere os riscos inerentes à utilização da IA e estabeleça regras claras e adequadas para a sua aplicação no âmbito da atividade administrativa. Em particular, importa assegurar a proteção da liberdade de escolha dos indivíduos e garantir mecanismos eficazes de controlo da atuação algorítmica. A crescente integração da IA na Administração Pública exige, assim, uma reflexão jurídica contínua e a criação de modelos normativos mais densos e específicos.

Em conclusão, apesar da crescente sofisticação e influência dos sistemas de Inteligência Artificial no âmbito do procedimento administrativo, a decisão final deve, necessariamente, caber ao decisor humano. Tal justifica-se pelo facto de a atividade administrativa estar juridicamente vinculada a princípios estruturantes, como a legalidade, a fundamentação, a prossecução do interesse público e a proteção dos direitos fundamentais. Ainda que os algoritmos desempenhem um papel relevante na análise de dados e na formulação de soluções, estes permanecem instrumentos auxiliares, incapazes de substituir a ponderação jurídica e a responsabilidade inerentes à função administrativa. Além disso, os riscos associados à opacidade algorítmica, ao enviesamento dos dados e à massificação de decisões potencialmente injustas reforçam a necessidade de controlo humano efetivo. Assim, a decisão administrativa deve sempre reconduzir-se à vontade de um agente humano, garantindo a conformidade da atuação administrativa com o Estado de Direito.