LA CAJA NEGRA EN EL PLIEGO DE CONDICIONES: LÍMITES Y PAUTAS DEL CONTROL PREVIO DE IA POR LA ABOGACÍA PÚBLICA Y POR LA ABOGACÍA ESPECIALIZADA EN DERECHO PÚBLICO

Resumen

Este artículo analiza las condiciones de validez jurídica y los límites institucionales del control previo de legalidad ejercido por la Abogacía Pública Consultiva municipal en las contrataciones de sistemas de Inteligencia Artificial (IA), a la luz de la Ley Nº 14.133/2021 y de la Ley de Introducción a las Normas del Derecho Brasileño (LINDB), y examina también la actuación complementaria de abogados privados especializados en Derecho Público, sin sustituir las competencias del órgano de asesoramiento jurídico de la Administración. Se adopta una metodología jurídico-dogmática, crítico-sistemática y bibliográfica, con análisis normativo, doctrinal y de decisiones seleccionadas del Supremo Tribunal Federal y del Superior Tribunal de Justicia de Brasil, sin investigación empírica. Como resultado, se propone el concepto de “Debido Proceso Tecnológico por diseño”, estructurado en tres ejes: explicabilidad y verificabilidad contractual, prevención y monitoreo de sesgos y supervisión humana significativa, con canales híbridos de atención cuando sean necesarios. Se concluye que el dictamen jurídico puede actuar preventivamente en la estructuración del pliego y del contrato, sin sustituir la evaluación técnica ni la decisión administrativa, siempre que sus exigencias estén jurídicamente fundamentadas, sean proporcionales al riesgo y compatibles con el objeto contratado.