Inteligência Artificial, Opacidade Algorítmica E Decisões Judiciais: Necessidade De Estabelecer Uma Moratória - Ravelo Franco, Gabriel; Sarmiento Erazo, Juan Pablo; Sanabria Moyano, Jesús E. (DIXI, 2026)
O estudo examina a viabilidade do uso de sistemas de inteligência artificial (IA) em decisões jurisdicionais a partir da problemática estrutural da opacidade algorítmica (OA). O trabalho contrapõe as posições que admitem níveis de opacidade funcionalmente toleráveis àquelas que sustentam que toda ininteligibilidade compromete a legitimidade democrática, a justiça epistêmica e os direitos fundamentais. Ademais, integra aportes da XAI e da análise probatória para demonstrar que as explicações atualmente disponíveis não permitem reconstruir os raciocínios, os fatos nem os vínculos causais indispensáveis ao processo judicial. Por meio de uma revisão abrangente da literatura recente e da análise de padrões normativos, filosóficos e processuais, demonstra-se que as limitações técnicas, epistêmicas, sociotécnicas e institucionais dos modelos atuais impedem a garantia de condições mínimas de explicabilidade, auditabilidade e controle racional. À luz desses achados e do padrão interamericano relativo ao direito de compreender as razões de uma decisão, propõe-se uma moratória precautória que suspenda a incorporação de sistemas de IA no âmbito jurisdicional até que sejam validados padrões robustos de explicabilidade por meio de processos deliberativos interinstitucionais.
Keywords: devido processo; controle jurisdicional; risco epistêmico; fundamentação judicial