¿Qué pasaría si solicitaras una licencia, un permiso de edificación o la revisión de una multa y la respuesta llegara en cuestión de segundos: denegado? No hay una firma de un funcionario, no hay una explicación detallada, solo el veredicto frío de una máquina. Lo que hasta hace poco parecía ciencia ficción es hoy una realidad que se gesta en las sombras de la administración pública. Córdoba, siempre a la vanguardia tecnológica, está dando pasos agigantados hacia la digitalización, pero corremos un riesgo invisible: el de crear un Estado de «caja negra» donde la eficiencia tecnológica termine sepultando el debido proceso constitucional.
La pregunta no es si la IA es útil, sino si estamos dispuestos a entregar nuestra defensa jurídica a un código informático que nadie, ni siquiera el funcionario que lo implementa, termina de comprender del todo.
La trampa de la «caja negra» y el peligro de los sesgos
La automatización administrativa promete reducir tiempos y costos, y ese es un objetivo loable. Sin embargo, en el Derecho, la forma es fondo. Cuando delegamos el poder de decisión en sistemas de IA, nos enfrentamos a amenazas que el legislador cordobés debe abordar con urgencia:
- El automatismo de la injusticia: La IA no es neutral. Si un algoritmo se entrena con datos históricos que contienen sesgos —como criterios administrativos desactualizados o prácticas de gestión viciadas—, el sistema no solo replicará esos errores, sino que los «blindará» bajo una supuesta objetividad matemática. Estaremos, en la práctica, automatizando la injusticia del pasado y convirtiéndola en un estándar del presente.
- La necesidad de una Cláusula de Explicabilidad: Para que el ciudadano no quede en un estado de indefensión, toda resolución administrativa originada o asistida por IA debe incluir un anexo técnico —escrito en lenguaje llano— que detalle que parámetros, pesos y criterios lógicos llevaron a esa conclusión. Si el Estado no puede explicar por qué tomó una decisión, entonces no tiene autoridad para sostenerla.
- Registro Público de Sistemas: La creación de un repositorio abierto y auditable. El ciudadano tiene el derecho fundamental de saber qué algoritmos influyen en sus trámites y cuál es el impacto de esas herramientas en sus derechos. La transparencia algorítmica es en 2026 el nuevo escudo contra el abuso de poder.
El equilibrio humano como imperativo legal
El futuro no pertenece a un Estado automatizado donde el ciudadano choca contra una pared digital, sino a un Estado Aumentado, donde la tecnología libera al funcionario de la burocracia mecánica para que este pueda ejercer su juicio ético, su sensibilidad y su escucha activa.
El éxito de la modernización en Córdoba no se medirá por la velocidad con la que resolvemos un trámite, sino por la calidad de las garantías que protegemos durante el camino.
El principio de «human-in-the-loop» (humano en el bucle) debe ser el dogma: ninguna decisión de impacto debe carecer de una revisión humana significativa. Córdoba tiene la oportunidad histórica de redactar la primera «Carta de Derechos Algorítmicos» del país. Por más sofisticado que sea el software, la responsabilidad política y jurídica debe seguir siendo, siempre, humana.
La eficiencia no puede ser un cheque en blanco; nuestra seguridad jurídica depende de que sepamos, en todo momento, quién —o qué— está tomando las decisiones que marcan nuestra vida.
Autor: Mariano F. Fernandez