Direito fraterno previne riscos da inteligência artificial, dizem especialistas

O Direito fraterno pode ser entendido como um princípio que coloca a fraternidade como um pilar fundamental do ordenamento jurídico. Diante dos riscos trazidos pela inteligência artificial, como a opacidade dos algoritmos e a possibilidade de decisões injustas, esse conceito é essencial para garantir que a tecnologia seja guiada pela ética e preserve a dignidade humana.

IA tem sido bem recepcionada no Judiciário, mas apresenta leque de dilemas éticos

Esse entendimento é de magistrados e acadêmicos ouvidos pela revista eletrônica Consultor Jurídico sobre o artigo “Inevitabilidade do Direito fraterno na era da inteligência artificial”, de autoria do ministro Reynaldo Soares da Fonseca, do Superior Tribunal de Justiça, que foi publicado pela ConJur.

O ministro alerta no texto que a revolução digital criou assimetrias inéditas de poder, nas quais o indivíduo não negocia em condições de igualdade com as grandes plataformas digitais. O usuário é frequentemente colocado em situação vulnerável diante de sistemas com regras opacas.

Nesse cenário, segundo o magistrado, os princípios clássicos da liberdade contratual e da igualdade formal tornaram-se insuficientes para equilibrar as relações de poder atuais, que são marcas pela assimetria.

Diante desse cenário, o Direito fraterno é necessário para garantir que os desenvolvedores da tecnologia assumam a responsabilidade pelos impactos humanos gerados por suas inovações.

“A fraternidade reintroduz na ordem jurídica aquilo que a lógica puramente tecnológica tende a excluir: o cuidado com o outro”, aponta o ministro.

Dilemas éticos

Os desafios impostos pela inteligência artificial foram o tema central da encíclica Magnifica Humanitas, apresentada nesta segunda-feira (25/5) pelo Papa Leão 14. Na carta, que é a primeira encíclica do atual papado, o Pontífice alerta que a inteligência artificial não é uma tecnologia neutra e não pode ser desenvolvida apenas sob a lógica do lucro e da eficiência.

O advogado Pierpaolo Bottini, professor de Direito Penal da Universidade de São Paulo (USP), concorda com a premissa de que toda arquitetura tecnológica carrega escolhas e nunca é desprovida de ideologia. Para ele, a perspectiva constitucional é a via mais adequada para guiar os usuários e os reguladores do sistema de Justiça diante das inovações de automação.

“O resgate de elementos constitucionais como a fraternidade e a igualdade são formas de garantir princípios teleológicos que orientem a utilização das novas tecnologias.”

Opacidade algorítmica

Os especialistas destacaram o alerta do artigo para os riscos inéditos gerados pelos sistemas automatizados, que operam a partir de padrões estatísticos de probabilidade, sem consciência moral ou prudência ética institucional.

No texto, o ministro ressalta problemas como a opacidade dos algoritmos, a discriminação automatizada, que reveste preconceitos históricos com aparente neutralidade, e a facilidade de criação de informações falsas, os chamados deepfakes.

O advogado Renato Silveira, professor da Faculdade de Direito da USP e ex-presidente do Instituto dos Advogados de São Paulo (Iasp), avalia que a tecnologia avança como um problema democrático e gera dúvidas generalizadas sobre o que é real.

“Os dados generativos assustam e preocupam a ponto de se perguntar o que seria real. Mas a esperança finca-se em uma fraternidade a humanizar o mundo.”

O presidente do Conselho Federal da Ordem dos Advogados do Brasil (OAB), Beto Simonetti, considera que a manipulação e a simulação passaram a conviver com a verdade de forma quase indistinguível na era digital.

Para o advogado, a erosão da confiança nas provas e nas relações sociais desafia a estabilidade das instituições que operam a jurisdição no país.

“A tecnologia serve para ampliar capacidades e melhorar serviços, mas nunca pode substituir o compromisso ético e humano que protege a dignidade das pessoas e sustenta as garantias fundamentais.”

Limites da prova

O artigo do ministro Reynaldo Soares da Fonseca cita o Habeas Corpus 1.059.475, julgado pela 5ª Turma do STJ em abril deste ano, como o principal exemplo prático dos limites epistemológicos da inovação na área criminal.

No caso concreto, um relatório de inteligência artificial generativa foi requisitado pela polícia para analisar o áudio de um vídeo com o objetivo de atestar a existência de uma palavra com injúria racial, contrariando o laudo pericial humano e oficial, que atestou a falta de fonemas compatíveis com a ofensa.

A corte superior de Justiça invalidou o relatório tecnológico por entender que grandes modelos de linguagem (LLMs) processam apenas textos, e não ondas sonoras diretas, sendo estruturalmente inaptos para a análise fonética. O tribunal concluiu, na ocasião, que esses sistemas são probabilísticos e estão sujeitos a erros graves, as “alucinações”, já que não têm metodologia científica verificável.

“A conclusão revela importante premissa constitucional: a tecnologia pode auxiliar o Direito, mas não pode substituir as garantias epistemológicas do processo”, ressaltou o ministro no artigo.

Responsabilidade institucional

Para conter o risco de exclusão social e de perda de autonomia humana, os especialistas ressaltaram a urgência de estabelecer balizas normativas sobre o tema. O artigo do ministro usou como referência a recente Resolução 615/2025 do Conselho Nacional de Justiça.

A norma não afasta o uso da inteligência artificial dos tribunais, mas condiciona sua adoção a processos de avaliação de impacto algorítmico, à auditoria periódica e à efetiva supervisão por um magistrado na tomada de decisões.

A resolução do CNJ também estabelece que os tribunais devem preservar a privacidade desde a concepção da ferramenta (privacy by design) e proíbe terminantemente o uso de dados sigilosos ou protegidos por segredo de Justiça no treinamento de modelos tecnológicos, salvo se houver anonimização garantida na origem.

Ricardo Alves, chefe de Inovação do escritório Fragata e Antunes Advogados, lembra que outras inovações históricas, como a chegada da energia elétrica e a digitalização do processo judicial brasileiro, em 2006, também exigiram disciplina jurídica severa e mudança de cultura estrutural. Ele defende que a eficiência computacional em massa não deve ser confundida com a real entrega de justiça material aos cidadãos: “A síntese, portanto, não está em escolher entre otimismo e cautela. Está em adotar a IA com validação técnica humana qualificada, transparência metodológica e responsabilidade institucional. A tecnologia é inevitável. A validação humana competente, mais ainda.”