Inteligencia artificial, opacidad algorítmica y decisiones judiciales: necesidad de establecer una moratoria - Ravelo Franco, Gabriel; Sarmiento Erazo, Juan Pablo; Sanabria Moyano, Jesús E. (DIXI, 2026)
El estudio examina la viabilidad del uso de sistemas de inteligencia artificial (IA) en decisiones jurisdiccionales a partir de la problemática estructural de la opacidad algorítmica (OA). El trabajo contrasta las posturas que admiten niveles de opacidad funcionalmente tolerables con aquellas que sostienen que toda ininteligibilidad afecta la legitimidad democrática, la justicia epistémica y los derechos fundamentales. Asimismo, integra aportes de la XAI y del análisis probatorio para mostrar que las explicaciones disponibles no permiten reconstruir razonamientos, hechos ni vínculos causales indispensables en el proceso judicial. A través de una revisión exhaustiva de literatura reciente y del análisis de estándares normativos, filosóficos y procesales, se demuestra que las limitaciones técnicas, epistémicas, sociotécnicas e institucionales de los modelos actuales impiden garantizar condiciones mínimas de explicabilidad, auditabilidad y control racional. A la luz de estos hallazgos y del estándar interamericano sobre el derecho a comprender las razones de una decisión, se propone una moratoria precautoria que suspenda la incorporación de sistemas de IA en el ámbito jurisdiccional hasta que se validen estándares robustos de explicabilidad mediante procesos deliberativos interinstitucionales.
Keywords: explicabilidad; debido proceso; control jurisdiccional; riesgo epistémico; motivación judicial