Imagine receber uma decisão judicial elaborada com auxílio de inteligência artificial e, posteriormente, descobrir que ela continha informações equivocadas ou até precedentes inexistentes. Quem responderia por esse erro? O magistrado? O sistema? Ou o próprio Estado? Essa discussão, que parecia distante há poucos anos, já integra a realidade do Poder Judiciário brasileiro.
A crescente incorporação da Inteligência Artificial (IA) ao Poder Judiciário tem ampliado debates acerca de seus impactos jurídicos, especialmente quanto à responsabilização por danos decorrentes de seu uso em atos processuais e decisões judiciais.
Embora essas ferramentas possam contribuam para a eficiência e a celeridade da prestação jurisdicional, sua utilização sem critérios claros, adequada parametrização e revisões, também evidencia riscos relacionados à confiabilidade dos resultados produzidos, a despersonalização das decisões e atos judiciais em nome de uma produtividade que deve ser buscada através do exercício regular, sistemático e cotidiano do trabalho.
Nesse cenário, surge a discussão acerca da responsabilidade de magistrados, servidores e membros do ministério público por prejuízos causados pela utilização inadequada de sistemas de IA generativa. Em regra, prevalece a responsabilidade objetiva do Estado pelos danos decorrentes da atividade jurisdicional, sem prejuízo do direito de regresso contra o agente público quando comprovados dolo ou culpa grave.
Um erro produzido ou reproduzido por sistemas automatizados pode afetar diretamente a liberdade, o patrimônio, a reputação e até o acesso de cidadãos a direitos fundamentais, tornando indispensável a supervisão humana sobre essas ferramentas.
Para compreender os riscos envolvidos, é necessário reconhecer que a IA generativa não possui compreensão jurídica nem discernimento moral, funcionando por meio de modelos estatísticos que geram respostas com base em padrões extraídos de dados. Por isso, a qualidade de seus resultados depende diretamente da confiabilidade das informações utilizadas em seu treinamento.
Noutras palavras, a inteligência artificial não sente, não interpreta valores constitucionais e não possui senso de justiça. Ela apenas identifica padrões matemáticos e estatísticos. Por isso, embora possa auxiliar membros do ministério público, delegados, magistrados e servidores, não substitui a sensibilidade humana necessária à análise das peculiaridades de cada caso.
Entre os principais riscos da IA no Judiciário estão os vieses algorítmicos, a falta de transparência dos sistemas e as chamadas “alucinações”, que podem reproduzir preconceitos existentes ou gerar informações falsas com aparência de veracidade, comprometendo a segurança jurídica e a adequada fundamentação das decisões.
A utilização indiscriminada dessas ferramentas também pode afetar garantias processuais fundamentais, como o contraditório, a ampla defesa e a paridade de armas, sobretudo quando os critérios empregados pelos sistemas permanecem inacessíveis às partes e aos advogados.
Nesse contexto, a Resolução 615/2025 do Conselho Nacional de Justiça (CNJ) estabeleceu diretrizes para o uso da IA no Judiciário, exigindo supervisão humana, restringindo o uso de dados sigilosos em plataformas não autorizadas e mantendo a responsabilidade integral do magistrado pelo conteúdo das decisões.
Dessa forma, não se afasta que a Inteligência Artificial pode representar importante instrumento de apoio à atividade jurisdicional, mas jamais substituir o exercício do regular juízo humano. A utilização negligente ou açodada dessas ferramentas, especialmente sem verificação e análise crítica dos resultados produzidos, pode gerar nulidades processuais, responsabilização estatal e eventual responsabilização regressiva dos agentes públicos envolvidos e descrédito das instituições públicas perante a sociedade.
O desafio contemporâneo não consiste em escolher entre tecnologia ou ser humano, mas em garantir que a tecnologia permaneça subordinada aos princípios constitucionais e ao controle humano. A Justiça pode se tornar mais rápida com o auxílio da inteligência artificial, mas jamais poderá abdicar da prudência, da responsabilidade e do discernimento que caracterizam a atuação humana.
Junte-se aos grupos de WhatsApp do Portal CONTEXTO e fique por dentro das principais notícias de Anápolis e região. Clique aqui.