Cómo Construir la Gobernanza de IA para tu Función de M&E
Todo donante importante ahora espera alguna forma de gobernanza de IA. Este marco de 6 puntos, sintetizado a partir de los requisitos de la ONU, el Reino Unido, el Banco Mundial y la UE, te proporciona una estructura defendible antes de tu primer piloto de IA.
La gobernanza de IA para M&E no es un ejercicio de cumplimiento que haces después de que algo sale mal. Es la estructura que hace que el uso de la IA sea defendible ante los donantes, creíble para las partes interesadas y seguro para las personas cuyos datos manejas. La buena noticia: la mayor parte se basa en prácticas de protección de datos y calidad de evaluación que ya tienes.
El Marco de Gobernanza de IA de 6 Puntos
Sintetizado a partir de los controles de donantes más explícitos: principios de IA del sistema de la ONU, Guía de IA del Gobierno del Reino Unido, políticas de privacidad y acceso del Banco Mundial, y requisitos de la Ley de IA de la UE. Aplique los seis puntos antes de escalar cualquier caso de uso de IA.
Evaluación de Riesgos
Antes de usar IA para cualquier tarea de M&E, evalúe: ¿Cuál es el potencial de daño? ¿Los derechos de quiénes podrían verse afectados? ¿Cuál es la sensibilidad del contexto? El sistema de la ONU exige que las decisiones sobre derechos fundamentales nunca deben cederse a la IA. Si su caso de uso involucra poblaciones vulnerables, asignación de recursos o juicios evaluativos sobre personas, el nivel de riesgo es alto.
Gobernanza de Datos
Establezca la base legal para el procesamiento de datos con herramientas de IA. Aplique la minimización de datos (solo comparta lo que sea necesario). Proteja los datos en tránsito y en reposo. Evalúe los riesgos de transferencia transfronteriza (especialmente relevante para herramientas de IA basadas en la nube). La política de privacidad del Banco Mundial exige un procesamiento legítimo, justo y transparente con limitación de propósito.
Diseño de Supervisión Humana
Defina dónde los humanos revisan, validan y pueden anular los resultados de la IA. Esto no es negociable en los marcos de la ONU, el Reino Unido y el Banco Mundial. Los documentos de métodos del IEG del Banco Mundial son explícitos: "los expertos en el dominio deben validar e interpretar los resultados". Diseñe puntos de revisión en el flujo de trabajo, no como ideas tardías.
Validación y Control de Calidad
Establezca controles de precisión, procesos de revisión por pares y procedimientos de control de cambios. El IEG del Banco Mundial utiliza "procedimientos rigurosos de control de calidad y cambios" para mantener robusto el análisis asistido por IA. Para M&E, esto significa: verificar los resultados de la IA con los datos de origen, hacer que un segundo revisor verifique el análisis asistido por IA y monitorear la calidad de los resultados a lo largo del tiempo.
Transparencia y Documentación
Divulgue el uso de IA en las secciones de metodología de evaluación e informes. Mantenga registros de auditoría de qué herramientas de IA se utilizaron, con qué propósito, con qué datos y cómo se validaron los resultados. La reproducibilidad importa: otro evaluador debería poder comprender y examinar su proceso asistido por IA.
Monitoreo y Respuesta a Incidentes
La gobernanza de la IA no es una lista de verificación única. Monitoree el rendimiento de la herramienta de IA a lo largo del tiempo. Tenga un proceso para informar incidentes (resultados inesperados, filtraciones de datos, sesgos detectados). Reevalúe la gobernanza periódicamente y cuando cambien las herramientas, los datos o los contextos. Incluya criterios de desmantelamiento.
Gobernanza en la Práctica
Escenarios reales de M&E que muestran la diferencia entre el uso de IA no gobernado y gobernado.
Codificación Cualitativa Asistida por IA
"Usamos ChatGPT para codificar 200 transcripciones de entrevistas. Nos ahorró semanas." Pero: los datos de los participantes se subieron a una herramienta de IA comercial sin un acuerdo de procesamiento de datos. Nadie validó la codificación contra codificadores humanos. El informe de evaluación no menciona el uso de IA. Cuando el donante pregunta cómo se identificaron los temas, no se puede explicar el proceso.
Codificación Cualitativa Asistida por IA
"Utilizamos una herramienta de IA para ayudar con la codificación inicial de 200 transcripciones. Primero realizamos una EIPD, usamos solo extractos anonimizados, validamos los códigos de IA contra la codificación humana en una muestra del 20% (92% de acuerdo), documentamos el proceso en nuestra sección de metodología y conservamos los registros de auditoría." Defendible, transparente, creíble.
Marcos de Indicadores Generados por IA
"La IA generó nuestro marco de indicadores en una hora en lugar de tres días." Pero: la IA alucinó definiciones de indicadores que no coinciden con las definiciones estándar del donante. Nadie verificó con el manual de indicadores del donante. El marco lógico ahora contiene enfoques de medición que suenan plausibles pero son incorrectos y fallarán al final del proyecto.
Marcos de Indicadores Generados por IA
"Utilizamos la IA para generar un borrador de marco de indicadores, luego validamos cada definición de indicador contra el manual del donante y nuestra teoría del cambio. Detectamos 3 definiciones alucinadas y 2 fuentes de datos desalineadas. La IA ahorró tiempo de redacción, pero la validación experta aseguró la precisión." La IA acelera, los humanos verifican.
Adquisición de Herramientas de Evaluación de IA
"Compramos una plataforma de análisis de IA para nuestro equipo de M&E." Pero: el contrato no tiene cláusulas de transparencia. No se puede auditar cómo la herramienta procesa sus datos. Cuando la herramienta produce un hallazgo cuestionable, no se puede explicar la metodología. El proveedor puede cambiar el modelo sin previo aviso.
Adquisición de Herramientas de Evaluación de IA
"Antes de la adquisición, exigimos: transparencia sobre el modelo y los datos de entrenamiento, claridad de la PI, asignación de responsabilidad por errores, acceso a auditorías, notificación de cambios en el modelo y eliminación de datos al finalizar el contrato." El UK AI Playbook recomienda explícitamente abordar la PI, la transparencia y la responsabilidad en la adquisición de IA.
5 Principios de Gobernanza que Todo Equipo de M&E Necesita
La supervisión humana es innegociable
El sistema de la ONU, el gobierno del Reino Unido y el Banco Mundial coinciden en esto: la IA no debe tomar decisiones autónomas en contextos de alto riesgo. Para M&E, esto significa que cada resultado de IA que informe un juicio evaluativo, una asignación de recursos o un informe dirigido a las partes interesadas debe tener un paso de revisión humana.
Realice una EIPD antes de su primer piloto de IA
Las Evaluaciones de Impacto de Protección de Datos (EIPD) son requisitos estándar bajo el RGPD del Reino Unido y están emergiendo como una mejor práctica a nivel mundial. Evalúe: qué datos personales fluyen a la herramienta de IA, cuáles son los riesgos transfronterizos, cuál es la base legal y qué salvaguardas existen. Haga esto de forma proactiva, no después de un incidente.
Divulgue el uso de IA en las secciones de metodología
La transparencia es un requisito en los marcos de la ONU, el Reino Unido y el Banco Mundial. Cuando la IA ayudó con el análisis de datos, la codificación, la síntesis o la redacción, indíquelo en su metodología de evaluación. Explique qué herramienta, qué tarea y qué validación se aplicó. El silencio sobre el uso de la IA es un riesgo para la credibilidad.
Inicie la gobernanza antes del primer piloto
No espere a tener 10 casos de uso de IA para redactar las directrices de gobernanza. El marco de política modelo de la ONU exige estructuras de rendición de cuentas institucionales antes del despliegue. Redacte directrices básicas de uso, reglas de intercambio de datos y requisitos de divulgación antes de que cualquier persona utilice la IA para el trabajo real de M&E.
Incluya la gobernanza en los contratos de adquisición
El Manual de IA del Reino Unido recomienda abordar la transparencia, la responsabilidad, la propiedad intelectual, el manejo de errores y el acceso a auditorías en la adquisición de IA. Al comprar herramientas de IA para M&E, exija: transparencia del modelo, derechos de eliminación de datos, notificación de cambios en el modelo y responsabilidad clara por errores.
Generador de Lista de Verificación de Gobernanza de IA
Utilice esta instrucción para generar una lista de verificación de gobernanza personalizada para un caso de uso específico de IA en su trabajo de M&E.
Necesito que genere una lista de verificación de gobernanza de IA para un caso de uso específico de M&E. La lista de verificación debe cubrir los 6 dominios de gobernanza. Caso de uso: [DESCRIBA: ej., "Uso de IA para asistir con la codificación cualitativa de 150 entrevistas a informantes clave para una evaluación de medio término"] Contexto: - Organización: [ONG / agencia de la ONU / gobierno / firma consultora] - Donante(s): [USAID / FCDO / UE / Banco Mundial / ONU / otro] - Sensibilidad de los datos: [Baja: sin datos personales / Media: datos anonimizados / Alta: datos personales identificables] - Población: [DESCRIBA la población objetivo/afectada] - Herramienta de IA: [ChatGPT / Claude / Gemini / herramienta personalizada / aún no seleccionada] Para cada uno de los 6 dominios de gobernanza a continuación, proporcione: 1. Una lista de verificación de sí/no de 3-4 elementos específicos para este caso de uso 2. Una "bandera roja" que debería detener el proceso 3. Una acción recomendada si la lista de verificación no se cumple completamente Dominios: 1. Detección de Riesgos (potencial de daño, derechos, sensibilidad al contexto) 2. Gobernanza de Datos (base legal, minimización, seguridad, transferencias) 3. Supervisión Humana (puntos de revisión, autoridad de anulación, límites de decisión) 4. Validación y Control de Calidad (verificaciones de precisión, revisión por pares, control de cambios) 5. Transparencia y Documentación (divulgación, rastro de auditoría, reproducibilidad) 6. Monitoreo y Respuesta a Incidentes (seguimiento del rendimiento, proceso de incidentes, reevaluación) Formatear como una lista de verificación imprimible con casillas de verificación.
Da el Siguiente Paso
La gobernanza es la base. Una vez que tu marco esté establecido, evalúa la preparación de tu equipo y comienza a usar herramientas de IA con confianza.
Related Quick Guides
How to Assess Your M&E Team's AI Readiness
A 5-level self-assessment across data, governance, skills, tools, and value.
Read guideHow to Protect Data Privacy When Using AI
What's safe to share and what to remove before using any AI tool.
Read guideHow to Write AI Prompts That Actually Work for M&E
The 4Cs Framework for prompts that produce donor-ready outputs.
Read guide