gonzalo@flores — ~/escritos/en-el-estado-lo-que-no-se-puede-auditar-no-se-puede-usar EN
Gonzalo Flores Kemec

← Escritos

·5 min de lectura ·sector público

En el Estado, lo que no se puede auditar no se puede usar

En el sector público una IA mal aplicada no solo cuesta dinero: cuesta derechos. Tres principios —ciudadano en el centro, IA como extensión del funcionario, auditabilidad como condición— y qué exige la modernización cuando hay trámites, datos y algoritmos en juego.

En la pyme, una IA mal aplicada cuesta dinero y tiempo. En el Estado, cuesta derechos: un algoritmo de asignación de turnos mal auditado puede dejar sin atención a quien más la necesita —y el ciudadano no tiene otro hospital al que ir. Una decisión opaca sobre salud, educación, seguridad o recursos afecta a personas que no eligieron ese sistema y no pueden cambiar de proveedor. Por eso la vara es más alta: lo que en la empresa es buena práctica, acá es requisito — auditabilidad, equidad, transparencia, rendición de cuentas.

El Estado concentra además tres males que la IA puede aliviar o agravar: burocracia que desgasta la relación cívica, silos de datos entre organismos y desconfianza cuando el algoritmo decide sin explicación.

Lo que no propongo

No propongo instalar sistemas ni comprar software como si la modernización fuera un catálogo. No propongo reemplazar al empleado público: propongo liberar su capacidad de gestionar y atender. La IA es extensión de su criterio, no sustituto. Y no propongo cajas negras: en decisiones sobre derechos, un modelo que no se puede auditar no se puede usar.

Tres principios en clave pública

El ciudadano en el centro. El trámite se rediseña desde la experiencia de quien lo sufre, no desde el organigrama.

La IA como extensión del funcionario. No se reemplaza el criterio público; se lo amplifica con evidencia. El empleado decide mejor y más rápido, no menos.

Auditabilidad como condición, no como adorno. La gobernanza habilita la confianza, y la confianza habilita la adopción. Cuanto más autónoma la capa agéntica —un expediente priorizado, un turno asignado, un caso derivado solo—, más alta la exigencia: el control humano se ejerce sobre el diseño y la auditoría de las reglas, no caso por caso en cada transacción.

Multicanalidad cuando hay derechos en juego

La modernización que elimina el mostrador sin ofrecer alternativa real no es eficiencia: es exclusión institucionalizada. Un trámite 100 % digital sin kiosk asistido, turno telefónico o punto presencial en barrios con conectividad inestable deja afuera a quien la política debería atender. El puente exige multicanalidad obligatoria cuando el trámite afecta derechos u oportunidades, y métricas de equidad publicadas: completitud por segmento, abandono del funnel, tiempo de resolución desagregado. La eficiencia del Estado se mide también en quién no quedó afuera.

Antes del código: evaluación de impacto

Para tratamientos de alto impacto —salud, menores, biometría, scoring con efectos legales— la higiene pública empieza antes del despliegue: una evaluación de impacto (PIA/AIA) liviana pero no delegable solo a compliance externo. Documentar finalidad, bases legales, grupos afectados, riesgos de sesgo, mitigaciones y canal de apelación humana. Tres preguntas antes de cada release público: ¿qué datos personales? ¿existe alternativa de menor intrusión? ¿quién responde si el algoritmo se equivoca?

Gobernanza de datos públicos

Romper silos sin romper privacidad es el trabajo del eslabón de datos: información fiable, interoperable y disponible para decidir con evidencia. Sin dueño de dato, sin linaje y sin definiciones compartidas, el tablero del ministerio y el del organismo vecino cuentan historias distintas —y la política pública decide a ciegas.

El IMIA (índice de madurez de IA) es el instrumento con el que mido si un organismo está listo para que la IA sume, antes de instalar nada: siete dimensiones, seis niveles, y un gate de gobernanza que topa el nivel cuando faltan reglas verificables. No es marketing: es condición de diseño.

Marco jurídico mínimo (sin sustituir al abogado)

Antes de firmar contratos o licitar plataformas, conviene cerrar preguntas previsibles: propiedad del código desarrollado con fondos públicos, roles de responsable y encargado del tratamiento de datos personales, licencias de dependencias open source, validez de firma digital cuando el acto lo exige, y salida ante lock-in del proveedor. El puente no reemplaza al asesor legal; evita sorpresas que después cuestan años de litigio o dependencia.

Sostenibilidad sin greenwashing

Sensores instalados con financiamiento internacional, mapas publicados, y a los dos años nadie calibra ni integra con obra real: piloto eterno. Smart city sin ticket municipal integrado es vitrina, no servicio. La sostenibilidad tecnológica incluye huella de infraestructura, inclusión digital y equidad en la transición —quién absorbe el costo de la digitalización—, no solo un cartel verde en el reporte.

El estado del arte 2025: la OCDE como mapa, la CEPAL como ancla

Dos publicaciones de 2025 actualizan el respaldo. La OCDE, en Governing with Artificial Intelligence (2025), releva alrededor de 200 casos reales de IA en gobiernos, distribuidos en 11 funciones core del Estado, bajo un marco de tres pilares: habilitadores (enablers), salvaguardas (guardrails) y participación (engagement). Ese orden confirma que la gobernanza no es un anexo del proyecto sino uno de los tres ejes —los eslabones en clave pública son habilitadores; la evaluación de impacto y la auditabilidad, salvaguardas; la multicanalidad y el ciudadano en el centro, participación.

Con un matiz geográfico que el puente mantiene: la evidencia de la OCDE es global e ilustra buenas prácticas; la escala latinoamericana se ancla en el ILIA 2025 (CEPAL/CENIA). El Índice Latinoamericano de Inteligencia Artificial, en su tercera edición, cubre 19 países de la región en tres dimensiones —factores habilitantes; I+D y adopción; gobernanza— y clasifica los ecosistemas nacionales en pioneros, adoptantes y exploradores según su madurez. Cuando hay que situar a la Argentina o a la región frente a la frontera, la referencia es ILIA, no un promedio global.

Qué hacer distinto

  1. Diagnosticar el trámite real, no el organigrama en PowerPoint.
  2. Exigir multicanalidad cuando el trámite toca derechos.
  3. Medir madurez (IMIA) antes de escalar pilotos de IA.
  4. Publicar equidad, no solo volumen procesado.
  5. Diseñar auditoría como parte del producto, no como fase posterior.

La modernización del Estado en América Latina no se compra: se construye fortaleciendo capacidades institucionales y poniendo al ciudadano en el centro (CEPAL, 2024). Una transformación que no reemplaza al empleado público sino que libera su capacidad de gestionar y atender —usando la IA como extensión de su criterio.


Desarrollo del marco en El puente sociotécnico y en Mi enfoque. Caso de portfolio: Rediseño de procesos en el sector público. Ensayo relacionado: La pyme no madura en línea recta.

./contacto --hablar

¿Esto le pasa a tu organización?

Diagnóstico, arquitectura, implementación o gobernanza de IA. Remoto, UTC−3, trilingüe.

Contacto