Capacidad para proteger: una arquitectura mexicana para gobernar la inteligencia artificial
Serie: México ante la nueva arquitectura global de la inteligencia artificial · 4/4
Categoría: Gobernanza de Inteligencia Artificial
Autora: María Gabriela Cordero González
Fecha: septiembre de 2026
La discusión internacional sobre inteligencia artificial ha avanzado con rapidez en los últimos años. Existen principios, recomendaciones, estándares, estrategias nacionales y marcos jurídicos que reconocen la importancia de la seguridad, la transparencia, la supervisión humana, los derechos fundamentales y la rendición de cuentas.
El problema comienza cuando esos principios deben convertirse en decisiones institucionales.
Una norma puede reconocer derechos. Una política pública puede definir objetivos. Un estándar puede establecer requisitos técnicos.
Pero cuando un sistema de inteligencia artificial interviene en una decisión que afecta a una persona, el Estado necesita algo más concreto: capacidad para saber qué sistema se utilizó, con qué propósito, en qué condiciones, quién era responsable de su operación, qué evidencia existe sobre su desempeño y qué mecanismos pueden activarse si produce un daño.
Ésta es la cuestión que atraviesa la última entrega de esta serie.
Después de hablar de capacidad institucional, soberanía tecnológica e interoperabilidad jurídica, queda una pregunta inevitable:
¿cómo se convierte todo eso en protección efectiva?
Mi propuesta es avanzar hacia una arquitectura de implementación capaz de conectar derecho, evidencia, capacidad técnica, supervisión y reparación.
De los principios a las instituciones
Uno de los principales aprendizajes que obtuve del Global Dialogue on Artificial Intelligence Governance celebrado en Ginebra en julio de 2026 fue precisamente éste: existe una convergencia internacional considerable alrededor de los principios que deben orientar la inteligencia artificial.
- Derechos humanos.
- Dignidad.
- Seguridad.
- Inclusión.
- Supervisión humana.
- Protección de infancias.
- Cooperación internacional.
- Rendición de cuentas.
La dificultad aparece cuando esos principios deben traducirse en mecanismos verificables.
En mi Informe Post-Ginebra señalé que la nueva etapa de la gobernanza internacional será una etapa de implementación: convertir principios en instituciones capaces, mecanismos jurídicos, evaluación técnica, reglas de responsabilidad y protección efectiva.
La diferencia entre una declaración y una política pública efectiva se encuentra precisamente ahí.
En la capacidad institucional.
Gobernar inteligencia artificial exige poder intervenir
La inteligencia artificial introduce una dificultad particular para las instituciones públicas, sus sistemas pueden cambiar después del despliegue, su desempeño puede variar dependiendo del contexto y los resultados pueden ser diferentes entre lenguas, poblaciones y territorios.
Las cadenas de responsabilidad pueden involucrar desarrolladores, proveedores, integradores, instituciones usuarias y operadores humanos.
Por ello, la supervisión jurídica de estos sistemas no puede limitarse al momento de su contratación.
La gobernanza debe acompañar su ciclo de vida.
El Informe Post-Ginebra plantea precisamente la necesidad de evaluación continua, monitoreo posterior al despliegue, reporte de incidentes y reevaluación cuando cambien el modelo, los datos o el propósito del sistema.
La capacidad institucional comienza cuando una autoridad puede observar, evaluar y, cuando sea necesario, intervenir.
Porque supervisar sin capacidad de intervención produce una garantía débil.
Una arquitectura de implementación
México tiene la oportunidad de traducir su política de inteligencia artificial en una arquitectura institucional capaz de acompañar la adopción tecnológica.
El Plan Nacional de Inteligencia Artificial ya incorpora elementos relevantes: soberanía tecnológica, infraestructura estratégica, desarrollo de talento, software público, gobernanza y capacidad estatal.
La siguiente etapa consiste en conectar esas capacidades con mecanismos que permitan conocer cómo se utilizan los sistemas de inteligencia artificial, evaluar sus efectos y responder cuando afectan derechos o intereses públicos.
En mi Informe Post-Ginebra propuse una arquitectura mexicana de implementación que conecte evidencia, derecho, infraestructura y reparación.
No significa construir una institución que concentre todas las decisiones relacionadas con inteligencia artificial.
La gobernanza tecnológica atraviesa sectores demasiado diversos para reducirse a una sola estructura. Salud, justicia, educación, seguridad, servicios públicos, contratación y protección de datos plantean problemas distintos.
La arquitectura debe permitir coordinación, obligaciones comunes y capacidades especializadas.
Lo importante es que determinadas funciones esenciales existan.
Saber qué sistemas utiliza el Estado
La primera capacidad parece elemental, pero es decisiva.
Un Estado necesita saber qué sistemas de inteligencia artificial utiliza.
- Qué institución los opera.
- Para qué finalidad.
- Qué proveedor participa.
- Qué nivel de impacto pueden producir.
- Qué personas o grupos pueden verse afectados.
Un inventario adecuado permite distinguir herramientas administrativas de bajo impacto de sistemas capaces de influir en decisiones relevantes para derechos o servicios públicos.
El Informe Post-Ginebra propone precisamente un inventario nacional de sistemas utilizados por el sector público, acompañado de clasificación de impacto y responsables identificables.
Gobernar comienza por conocer y evaluar antes de desplegar cualquier modelo de gobernanza.
Cuando un sistema puede afectar derechos, seguridad o acceso a servicios, la evaluación previa adquiere una función preventiva.
La pregunta debe plantearse antes:
- ¿qué problema intenta resolver este sistema?
- ¿qué población será afectada?
- ¿qué datos utiliza?
- ¿qué margen de error resulta tolerable?
- ¿qué efectos diferenciados puede producir?
- ¿qué mecanismos existen para corregirlo?
La evaluación de impacto permite transformar estas preguntas en decisiones institucionales documentadas y debe complementarse con monitoreo posterior.
Porque un sistema que funcionó adecuadamente durante una prueba puede comportarse de manera distinta cuando cambia el entorno, la población o el propio modelo.
La gobernanza de inteligencia artificial necesita asumir que la evaluación es un proceso, no un momento.
Documentación que permita entender y reconstruir
La transparencia también necesita adquirir contenido operativo.
Publicar información general sobre la existencia de un sistema puede ser útil, pero no siempre resulta suficiente para comprender cómo funcionó una decisión concreta.
Las instituciones necesitan documentación capaz de reconstruir los elementos relevantes del sistema.
- Versiones.
- Datos pertinentes.
- Cambios.
- Incidentes.
- Intervenciones humanas.
- Herramientas utilizadas.
- Responsables.
El Informe Post-Ginebra propone registros técnicamente útiles que permitan conservar precisamente esa información.
La documentación cumple una función jurídica.
- Permite evaluar.
- Permite auditar.
- Permite investigar.
Y cuando existe una controversia, permite reconstruir lo ocurrido.
La expresión “supervisión humana” aparece con frecuencia en los marcos de inteligencia artificial, su valor depende de las condiciones bajo las cuales se ejerce.
Una persona puede aparecer formalmente como responsable y, sin embargo, carecer de tiempo, información, autoridad o capacidad técnica para cuestionar el resultado del sistema.
En ese escenario, la supervisión se vuelve simbólica.
La arquitectura institucional debe asegurar que quien supervisa tenga capacidad real para detener, corregir, escalar o revertir una decisión cuando sea necesario.
El Informe Post-Ginebra lo formula de manera clara: supervisión humana con autoridad, tiempo, información y capacidad efectiva de detener o revertir, no una firma simbólica.
Este principio es especialmente importante cuando la inteligencia artificial participa en decisiones de alto impacto.
La existencia de una persona en el proceso no constituye por sí misma una garantía.
La garantía depende de su capacidad efectiva de intervención.
Capacidad pública de evaluación
Existe además una cuestión de independencia institucional.
Si un Estado depende exclusivamente del proveedor para determinar si una tecnología funciona adecuadamente, existe una asimetría evidente. La institución necesita capacidad propia para evaluar, esto no significa que cada dependencia pública deba construir laboratorios especializados, significa que el Estado debe poder acceder a conocimiento técnico independiente, y son las Universidades, centros de investigación, organismos especializados y capacidades públicas pueden formar parte de esa infraestructura.
El Informe Post-Ginebra propone desarrollar capacidad pública de pruebas y auditoría apoyada por universidades y centros de investigación, independiente del proveedor.
Esta capacidad tiene una relación directa con la soberanía tecnológica que desarrollé en la segunda entrega de esta serie. Un Estado conserva mayor autonomía cuando puede producir su propia evidencia. Y la gobernanza pierde sentido si la persona afectada no puede hacer nada frente a una decisión automatizada.
Por eso, la arquitectura institucional debe incluir vías reales de información, impugnación, revisión y reparación.
Cuando una decisión afecta derechos o intereses legítimos, la persona necesita saber que una tecnología intervino y debe poder cuestionar su resultado.
La explicación también tiene que ser útil.
El Informe Post-Ginebra propone precisamente información, explicación contextual, impugnación y revisión humana para decisiones que afecten derechos o intereses legítimos.
La protección efectiva comienza cuando un derecho puede ejercerse.
Una arquitectura mexicana de gobernanza necesita producir evidencia, la inteligencia artificial puede comportarse de manera diferente dependiendo de la lengua, el territorio, los datos disponibles y el entorno institucional y una evaluación realizada en otro país puede aportar información valiosa, sin embargo no siempre demuestra cómo funcionará un sistema dentro del país ya que las condiciones pueden ser completamente distintas al país que se aplico el modelo de IA.
El Informe Post-Ginebra identifica la necesidad de evaluar sistemas en español regional, lenguas indígenas y contextos administrativos propios, así como medir resultados por territorio, género, edad, discapacidad, lengua e ingreso.
México puede utilizar estándares internacionales y, al mismo tiempo, producir evidencia propia.
Las instituciones que gobernarán inteligencia artificial también necesitarán capacidad de aprendizaje.
- Los incidentes proporcionan información.
- Las evaluaciones generan evidencia.
- Las auditorías muestran patrones.
- Las impugnaciones revelan problemas que quizá no fueron previstos durante el diseño.
Una arquitectura madura necesita mecanismos para convertir esa información en aprendizaje institucional.
Por eso, el Informe Post-Ginebra plantea reporte de incidentes, reevaluación y cooperación entre instituciones como parte de una lógica de mejora continua.
Capacidad para proteger
A lo largo de esta serie he planteado cuatro ideas relacionadas.
- La primera fue que la nueva etapa de la gobernanza de inteligencia artificial exige pasar de los principios a la capacidad institucional.
- La segunda, que el acceso tecnológico no constituye por sí mismo soberanía y que México necesita fortalecer su capacidad soberana de decisión.
- La tercera, que esa soberanía puede coexistir con cooperación internacional mediante interoperabilidad sin subordinación normativa.
Esta cuarta entrega completa el argumento.
- La capacidad soberana adquiere sentido cuando puede convertirse en protección.
México y la nueva justicia digital
México se encuentra en un momento especialmente importante para construir estas capacidades.
- Existe una política nacional de inteligencia artificial.
- Existen instituciones jurídicas consolidadas.
- Existe capacidad científica y tecnológica.
- Existe una comunidad académica creciente.
- Existe talento especializado.
- Y existe una oportunidad para conectar esas capacidades dentro de una arquitectura institucional propia.
El Informe Post-Ginebra propone precisamente una ruta de construcción gradual: comenzar con capacidades técnico-jurídicas, identificación de sistemas de alto impacto, criterios comunes y mecanismos de evaluación; avanzar hacia evaluaciones, registros, protocolos de incidentes y cooperación; y consolidar posteriormente infraestructura permanente de evaluación y aprendizaje.
No necesitamos copiar de manera automática un modelo extranjero, podemos construir uno compatible con nuestras instituciones, nuestra Constitución y nuestras prioridades nacionales.
México puede participar en su construcción desde una perspectiva propia: humanista, jurídica, institucional y orientada a la protección efectiva.
Porque el liderazgo tecnológico de un Estado no se mide únicamente por la cantidad de tecnología que incorpora.
También se mide por su capacidad para gobernarla.
- Capacidad para evaluar.
Capacidad para decidir.
Capacidad para intervenir.
Capacidad para reparar.
En última instancia, capacidad para proteger.
El Informe Post-Ginebra concluye precisamente que la contribución mexicana será relevante si consigue demostrar que innovación, soberanía y derechos pueden avanzar dentro de una misma arquitectura institucional
Ésa es también la idea con la que cierro esta serie.
Soberanía primero. Tecnología con propósito.
México puede convertirse en arquitecto de la nueva justicia digital cuando transforme sus capacidades tecnológicas en instituciones capaces de proteger derechos, fortalecer al Estado y orientar la innovación hacia el interés público.
Esta arquitectura forma parte de una concepción más amplia que he desarrollado desde el Humanismo Digital Mexicano: la innovación tecnológica adquiere legitimidad cuando fortalece la dignidad humana, los derechos y la capacidad de las instituciones para protegerlos.