A Inteligência Artificial no Direito: Dilemas Éticos

A presença da Inteligência Artificial (IA) e a sua força transformadora em todos os setores da sociedade é indiscutível e, no mundo jurídico, é, inicialmente, ferramenta de otimização de atividades rotineiras – digitalização de processos, disponibilização de dados jurídicos –, com isso concorrendo para a melhoria da tomada de decisões e ampliação do acesso à justiça.

Ao lado de uma visão romântica, a utilização da IA no mundo jurídico enfrenta desafios, notadamente sobre o limite ético para utilização de tais ferramentas, sobretudo acerca da opacidade na alimentação de big datas e os dilemas éticos, técnicos e constitucionais, como o viés existente nos dados utilizados para treinamento dos modelos e a responsabilidade por decisões automatizadas.

Necessária a reflexão sobre os riscos decorrentes do uso desmedido de tais instrumentos, enfrentando-se o tensionamento entre as facilidades trazidas pela IA e os riscos de desumanização do processo de julgamento.

Constitucionalismo digital e a proteção de direitos fundamentais – A era digital demanda a adaptação dos princípios constitucionais às realidades tecnológicas, especialmente diante de tecnologias disruptivas como a IA, promovendo reinterpretação dos direitos fundamentais em um cenário marcado por dinâmicas tecnológicas complexas.

O constitucionalismo digital reconhece o potencial emancipatório da tecnologia emergente, sem, contudo, contornar os riscos à liberdade, à igualdade, à privacidade e à dignidade da pessoa humana que a novidade enseja. Isso faz mandatórias salvaguardas específicas para proteger os indivíduos e a sociedade diante da atuação de sistemas automatizados, algoritmos opacos, além da crescente dependência das tecnologias em processos essenciais da vida pública e privada.

Para assegurar a efetividade necessária dos direitos fundamentais, o constitucionalismo digital garante o devido processo legal, o contraditório, a ampla defesa, a dignidade da pessoa humana e da autonomia individual, e, para tanto, assevera a indispensabilidade da supervisão humana. A decisão e a supervisão humana, neste contexto, não são apenas escolha de política pública, mas exigência constitucional, vinculada à proteção dos direitos fundamentais na sociedade digital.

O ciberespaço é um universo cujos controle e estabelecimento de limites demandam o conhecimento de suas tramitações e nele emergem novas formas de poder, como as big techs, instâncias transnacionais que delegam funções púbicas a programadores detentores de códigos obscuros não atrelados a qualquer compromisso de observância de normas ou princípios constitucionais.

O constitucionalismo digital deve ancorar o enfrentamento de normas de governança descentralizadas e a falta de limites ao poder no ambiente digital, o que convoca a uma redefinição da eficácia horizontal dos direitos fundamentais e a compreensão da reterritorialização da internet.

Riscos de uma distopia virtual – Sistemas tecnológicos podem moldar comportamentos e produzir decisões de forma invisível. Sua utilização sem controle democrático nos conduz a um cenário distópico, em que algoritmos conformam condutas, restringem liberdades e comprometem a autonomia individual. São sistemas que operam com vieses ocultos, aptos a reforçar discriminações históricas, violar direito à privacidade e reduzir o espaço de deliberação.

A centralidade humana é barreira fundamental contra a desumanização e a arbitrariedade que podem emergir de sistemas automatizados, e a preservação da decisão judicial humana é imperativo ético e constitucional para assegurar a dignidade, a liberdade e a igualdade dos cidadãos na era digital.

O enfrentamento da perda de autonomia na era dos algoritmos e a falácia da neutralidade – A perda da capacidade de compreender e controlar as informações geradas por algoritmos ameaça diretamente a autonomia individual e coletiva. Diante da opacidade tecnológica – fenômeno conhecido como “caixa-preta algorítmica” –, os cidadãos veem-se, cada vez mais, afastados dos processos de decisão que impactam suas vidas, seja na esfera privada, seja na atuação do Estado.

Essa realidade impõe, ao Direito e ao constitucionalismo digital, a necessidade de criar mecanismos robustos de proteção à autonomia, baseados nos eixos fundamentais da transparência, da supervisão e do controle humanos. Releva destacar a necessidade de investimento em uma alfabetização algorítmica que capacite os humanos ao exercício do controle da IA. Os algoritmos não são neutros, e a construção de um sistema de IA envolve escolhas humanas – sobre quais dados utilizar, como organizar os parâmetros de análise, que resultados priorizar – que são permeadas por valores e visões de mundo. 

Tais escolhas são feitas por atores privados, o que gera risco de que decisões fundamentais passem a refletir não o interesse público, mas objetivos empresariais, opacos e incompatíveis com os princípios constitucionais. Como consequência desse cenário, são preocupantes a utilização de vieses estruturais com discriminações históricas, capazes de perpetuar e intensificar desigualdades.

O uso indiscriminado de soluções privadas para funções estatais pode submeter a atuação do Estado à lógica do mercado, comprometendo a imparcialidade, a dignidade e a equidade que deveriam nortear o serviço público. Tal estado da arte demonstra que não há ferramentas técnicas neutras e que a interação humana qualificada deve sempre estar presente.

Os riscos da opacidade da arquitetura algorítmica – A opacidade da arquitetura dos algoritmos consiste nos maiores desafios do uso da IA no Direito – especialmente em ferramentas como a Justiça Preditiva. Os processos internos que levam a uma decisão automatizada são muitas vezes incompreensíveis até mesmo para seus criadores e inacessíveis para aqueles que sofrem seus efeitos. A opacidade algorítmica fere princípios constitucionais fundamentais, como o devido processo legal, a necessária motivação das decisões judiciais e a igualdade.

Portanto, o processo de formação da decisão deve ser transparente, compreensível e contestável, uma vez que a arquitetura algorítmica, ao permanecer opaca, ameaça essa exigência básica de um Estado Democrático de Direito.

Para uma necessária auditoria algorítmica é crucial que se instituam órgãos independentes, compostos por especialistas multidisciplinares alfabetizados digitalmente para a avalição de conformidade com princípios constitucionais.

A ética imprescindível da decisão judicial atrai a impossibilidade da substituição da decisão humana pela IA. Tais elementos são fundamentos do direito fundamental à decisão ou à revisão humana.

O direito de ser julgado por um ser humano é um reflexo de uma concepção de justiça que vai além da simples aplicação de regras; trata-se de uma avaliação das circunstâncias específicas de cada caso, levando em consideração as nuanças humanas que nenhum algoritmo pode, de fato, compreender ou reproduzir. Diante do Judiciário, é indispensável ter-se a garantia de que o processo será analisado por juízes que, além de técnica, possuam empatia, valores éticos e sensibilidade para as complexidades da condição humana.

Esse direito à decisão humana ou à revisão humana das decisões automáticas é uma extensão da dignidade humana, pois preserva o controle humano sobre o destino jurídico dos indivíduos. Impõe-se, assim, que, ao aplicar a IA, o sistema judiciário assegure um mecanismo claro e acessível de revisão humana das decisões tomadas por algoritmos, permitindo aos cidadãos que contestem ou solicitem análise mais detalhada e humana.

Em um contexto jurídico, a ética não é apenas um valor abstrato, mas um fundamento essencial que orienta a formação de decisões justas e equilibradas. Cada decisão judicial não é apenas uma aplicação de normas, mas uma análise que envolve juízo crítico, empatia e sensibilidade para as complexidades da vida humana. É a ética que torna a decisão judicial uma expressão de justiça e dignidade, ao passo que a imparcialidade e a equidade guiam a aplicação da lei.

Ao se tratar de questões tão profundas quanto a liberdade, a vida e a dignidade dos indivíduos, a presença humana no processo de decisão judicial é indispensável. A ética judicial exige a habilidade de considerar, além dos fatos e da lei, os efeitos sociais e emocionais das decisões, algo que a IA não consegue oferecer de forma autêntica. A IA, por mais sofisticada que seja, não pode substituir o juízo ético de um ser humano, que, ao julgar, leva em conta não apenas as evidências, mas também os valores e os princípios fundamentais que sustentam o sistema de justiça.

Conteúdo relacionado: