Hoy me parece interesante compartir algunos apuntes y conclusiones extraídos del trabajo A Diversifying Market for Public Policy Advice Demand, Supply and the Challenges of AI-Generated Government Advice, elaborado por Rolf Alter y Bernhard Knoll-Tudor

La metamorfosis del asesoramiento político en la era de la inteligencia artificial

El clásico imaginario weberiano del funcionario custodio del interés general, celoso de su neutralidad y protegido de las veleidades partidistas, pierde nitidez y se desdibuja actualmente, cada vez en mayor medida. en un ecosistema donde el asesoramiento al poder político se transforma paulatinamente en mercancía, reputación y algoritmo. El sector político, los gobiernos y las instituciones públicas  transitan un mercado del asesoramiento público crecientemente diversificado y competitivo, donde la demanda institucional de asesoramiento y consejo informado por evidencia convive con presiones de inmediatez, ciclos políticos cortos, opinión pública hiperconectada y shocks exógenos de gran calado y donde la oferta, además de las tradicionales burocracias, académicos y think tanks tradicionales, está conformada por consultoras globales, empresas tecnológicas, organizaciones de la sociedad civil, foros internacionales, unidades internas de análisis de datos y, de modo emergente, sistemas de IA generativa que compiten por atención, legitimidad epistémica y contratos, generando una reconfiguración de reglas, incentivos, estándares metodológicos y salvaguardas de integridad que obliga a repensar el diseño y la gobernanza de los sistemas de asesoramiento público. Así se construye, sin apenas debate público, un mercado global del asesoramiento político, tan diversificado como opaco, donde la competencia más que por la verdad es por la confianza absoluta del decisor.

En la actualidad el sector político y los gobiernos en sus distintos niveles demandan consejo y asesoramiento más que nunca, pero la naturaleza misma del consejo se ha transformado. La política del conocimiento deviene en una economía política de la atención, donde los ministerios y gabinetes ministeriales actúan como compradores apremiados en un mercado saturado de expertos, consultores, algoritmos y gurús. La promesa de “decisiones basadas en evidencia” se transforma en una mera fórmula retórica que legitima la aceleración, la subcontratación y la desmaterialización del razonamiento público.

Determinantes de la demanda pública de asesoramiento.

Las distintas crisis concatenadas (energética, ecológica, tecnológica, migratoria, etc.) multiplican la incertidumbre, reduciendo la capacidad de las administraciones para formular estrategias de largo plazo y generando cierta suerte de “ansiedad cognitiva” por parte de los responsables políticos. Las estructuras ministeriales, fragmentadas por silos competenciales, se enfrentan a problemas que no caben en sus organigramas. La opinión pública exige soluciones inmediatas, las redes sociales amplifican cada error y el ciclo mediático transforma la política en reacción permanente. En ese torbellino, el consejo experto se convierte en un dispositivo de gestión de la ansiedad. El gobernante necesita parecer (en principio e idealmente) racional, incluso cuando el entorno le niega la posibilidad de serlo. El asesoramiento político se compra porque se carece de tiempo para cultivarlo internamente. Las administraciones, debilitadas por décadas de austeridad, externalizan su capacidad analítica a un ecosistema híbrido donde, como ya se ha mencionado, coexisten consultoras globales, universidades, think tanks y, ahora, sistemas de IA. La demanda de “evidencia” es genuina y performativa a la vez: sirve para orientar decisiones, pero también para justificar decisiones ya tomadas. La evidencia se convierte en ritual de racionalidad, una coreografía que mantiene la ilusión de control en un contexto de imprevisibilidad estructural.

La demanda se intensifica por la confluencia de cuatro vectores:

1. complejidad y acoplamiento entre problemas públicos que desbordan la división sectorial clásica de los ministerios y multiplican las interdependencias intergubernamentales y multinivel,
2. volatilidad y aceleración de los ciclos de atención política propiciada por plataformas digitales, medios en tiempo real y una ciudadanía expuesta a información abundante y heterogénea que solicita respuestas rápidas, comprensibles y trazables,

• ambigüedad valorativa y conflictividad distributiva que elevan el valor del consejo que consigue explicitar trade-offs, externalidades y costes intertemporales sin diluir la responsabilidad democrática,

1. escasez de capacidades internas, tiempo y datos curados en administraciones sometidas a reglas de gasto, a la herencia de sistemas de información fragmentados y a déficits de coordinación interministerial.

Transformaciones en la oferta

La oferta de asesoramiento se ha expandido hasta el enormemente. Burocracias analíticas, consultoras, think tanks, ONGs, laboratorios de políticas públicas, plataformas de datos y proveedores de IA compiten en el mercado global de conocimiento aplicado. Cada actor defiende su legitimidad con lenguajes distintos: unos apelan a la ciencia, otros a la eficiencia, otros a la experiencia participativa o al relato de innovación. El resultado es un caleidoscopio de estilos cognitivos y morales que compiten por la atención de los responsables políticos y las instituciones.

En esa constelación, se observan tres dinámicas preocupantes. La primera es la asimetría informacional: los gobiernos compran informes cuya metodología no comprenden y cuya replicabilidad no pueden verificar. La segunda es la captura cognitiva: el proveedor que diseña los indicadores o el modelo algorítmico impone implícitamente la definición del problema. Y la tercera es la erosión del tiempo deliberativo: la velocidad de producción de los informes, los dashboards y los resúmenes ejecutivos acorta el horizonte del pensamiento político. La política se vuelve presentista incluso en el dominio del conocimiento.

Las firmas de consultoría y auditoría globales, con sus plantillas de miles de expertos y su dominio del lenguaje corporativo, han conquistado el corazón de los Estados ofreciendo metodologías empaquetadas, prometiendo neutralidad y entregando certidumbre (o su ilusión) cuantificada. Pero esa misma estandarización homogeniza la política pública mundial, exporta formatos de decisión y convierte la diversidad de contextos nacionales en variaciones de una misma plantilla. La gobernanza global se vuelve modular y replicable, como el software.

La oferta se amplía y se estratifica mediante:

1. burocracias analíticas internas y unidades de evaluación que producen notas, policy briefs y análisis costo-beneficio bajo estándares administrativos;
2. consultoras y firmas de auditoría que empaquetan recomendaciones junto a ejecución, rediseño organizativo y gobernanza de datos, y que maximizan escalabilidad y reutilización de plantillas metodológicas;

• think tanks con financiación mixta que operan en el espacio intermedio entre incidencia pública y encargo gubernamental y que disputan autoridad epistémica mediante reputación y redes;

1. universidades y centros de investigación que aportan legitimidad cognitiva y métodos rigurosos, aunque con tiempos y métricas de reconocimiento académico que no siempre se alinean con los plazos políticos;
2. organizaciones de la sociedad civil que introducen conocimiento situado, evidencia cualitativa y vigilancia de derechos;
3. organizaciones internacionales que difunden estándares, métricas comparadas y marcos de referencia con efectos de isomorfismo institucional;

• empresas tecnológicas que aportan infraestructuras, datos y herramientas analíticas, con riesgos de dependencia, asimetrías de información y captura de la agenda;
• proveedores de IA generativa y de analítica algorítmica que empiezan a producir entregables en lenguaje natural, simulaciones y síntesis automatizadas a partir de grandes colecciones documentales. Cada tipo de actor combina una lógica de legitimación diferente (legal-burocrática, profesional-experta, de mercado, cívica o reputacional) y esa combinación configura la textura del consejo final, su estilo retórico, su aversión al riesgo y su tratamiento de la incertidumbre.

La irrupción de la inteligencia artificial

La inteligencia artificial generativa se convierte en un agente epistémico que produce lenguaje, organiza la información y sugiere cursos de acción. Por primera vez en la historia del gobierno, la generación del asesoramiento puede ser delegada a sistemas no humanos que operan con modelos de lenguaje entrenados en LLMs de propósito general, entrenados por corporaciones tecnológicas, carentes, en muchos casos, de contexto político, cultural o ético.

La IA simula comprensión. Produce respuestas plausibles, estructuradas, a menudo más coherentes que las de un humano apremiado por la urgencia. Su potencial es inmenso para la síntesis documental, el análisis comparado, la traducción multilingüe o la generación de escenarios hipotéticos. Pero su poder heurístico se acompaña del riesgo epistémico definido por la frontera entre lo verosímil y lo verdadero que se vuelve porosa. La IA puede reforzar los sesgos de los datos de entrenamiento, amplificar narrativas dominantes y generar una ilusión de objetividad estadística. En manos de políticos poco escrupulosos, esa ilusión puede convertirse en arma de legitimación tecnocrática.

¿Puede haber sabiduría sin responsabilidad? El asesor humano está inserto en una comunidad epistémica, sujeta a normas de revisión, reputación y rendición de cuentas. El sistema de IA, en cambio, opera sin biografía moral. La delegación cognitiva a máquinas sin responsabilidad diluye la noción misma de asesoramiento político, que en su raíz es un acto de juicio situado, deliberado y responsable.

Efectividad, integridad y asesoramiento reforzado por inteligencia artificial

La introducción de IA generativa reconfigura la cadena de valor del asesoramiento político mediante automatización de tareas de síntesis, elaboración de borradores, análisis comparado de legislación, generación de escenarios y apoyo a la consulta pública multilingüe, con ganancias de productividad y cobertura documental, aunque con riesgos operativos y éticos que deben tratarse como riesgos de política pública y no solo como riesgos tecnológicos.

Desafíos:

• calidad epistémica, debido a alucinaciones, razonamiento espurio, manejo inadecuado de incertidumbre y confusión entre correlación y causalidad,
• opacidad y explicabilidad limitada de modelos fundacionales y de pipelines complejos que combinan retrieval, prompts y orquestación de herramientas,
• sesgos en datos de entrenamiento y en prompts que afectan a la equidad de recomendaciones,
• privacidad, confidencialidad y secreto oficial, tanto por exposición de datos sensibles en prompts como por inferencias no deseadas, v) propiedad intelectual y uso legítimo de materiales de terceros en los outputs,
• seguridad y robustez frente a inyección de prompts, fugas de datos, jailbreaking y dependencias críticas de proveedores,
• gobernanza contractual y procurement responsable, con cláusulas sobre ubicación de datos, auditorías, logging, niveles de servicio, derecho de explicación y portabilidad.

Es necesario tener muy presente siempre que sin trazabilidad no hay confianza pública. Cada informe, cada recomendación generada o asistida por IA, debe acompañarse de metadatos claros sobre autoría, fuentes, versiones, supuestos y márgenes de incertidumbre. Es preciso exponer el proceso de razonamiento, los algoritmos intermedios, las limitaciones técnicas y las decisiones de diseño. La transparencia es una infraestructura democrática. Pero la transparencia exige capacidades técnicas, recursos y cultura institucional. Muchos gobiernos carecen de ellas. Y ahí reside una paradoja consistente en que los mismos Estados que externalizan su conocimiento se vuelven incapaces de auditar lo que compran.

La captura cognitiva del Estado

Puede llegar a producirse una captura epistémica consistente en un proceso que conlleva la sustitución de la inteligencia colectiva del Estado por la inteligencia contractual de las firmas privadas. Las consultoras globales han colonizado parte la infraestructura cognitiva de los gobiernos diseñando sus estrategias digitales, evaluando sus políticas, gestionando sus datos y redactando sus marcos de rendición de cuentas. Cuando una misma empresa asesora a un ministerio, audita su desempeño y luego vende software para ejecutarlo, la frontera entre independencia y conflicto de interés se disuelve. El Estado se convierte en cliente cautivo de su propio proveedor. La IA amplifica esa dependencia. Los modelos fundacionales (entrenados con datos masivos de origen incierto) son propiedad de corporaciones con jurisdicción extraterritorial. Su opacidad técnica convierte a los gobiernos en usuarios ciegos de herramientas que no comprenden. Las decisiones se toman en nombre de una eficiencia algorítmica que nadie puede verificar. El ideal ilustrado de la publicidad del razonamiento administrativo se desvanece ante los black boxes de la tecnología. Esta captura cognitiva limita la autonomía de los Estados transformando la naturaleza del saber público. La administración no aprende de sus errores, porque externaliza su memoria en servidores ajenos. La historia de las decisiones se fragmenta, los repositorios se privatizan, la continuidad institucional se vuelve dependiente de licencias de software. El peligro no es únicamente que la inteligencia artificial sustituya al asesor o al burócrata, el verdadero peligro es que acabe sustituyendo a la institución para la que opera.

Arquitectura de gobernanza para sistemas de asesoramiento políticos respaldados por IA.

 Rolf Alter y Bernhard Knoll-Tudor proponen una arquitectura por capas que alinea responsabilidad política, liderazgo administrativo y control técnico:

• capa de propósito y límites, con definición clara de casos de uso permitidos y prohibidos, evaluación de impacto algorítmico previa a la puesta en marcha y mapeado de riesgos por dominio de política,
• capa de datos y documentación, con catálogos de datos auditables, linajes, consentimientos, anonimización o seudonimización cuando proceda y fichas de datos y modelos que reportan cobertura, vacíos, sesgos conocidos y pruebas de rendimiento,

• capa de procesos y controles, con revisión por pares internos, red teams, pruebas de robustez, validación de resultados por analistas humanos y separación de entornos de desarrollo, pruebas y producción,

• capa de rendición de cuentas, con responsables nominados por caso de uso, registros de decisiones asistidas por IA, posibilidad de auditoría independiente, mecanismos de reclamación y salvaguardas para decisiones con efectos jurídicos,
• capa de apertura y participación, con transparencia del uso de IA hacia la ciudadanía, publicación de evaluaciones y espacios de consulta sobre el despliegue,
• capa de contratación y ciclo de vida, con cláusulas de acceso a logs, opciones de salida, requisitos de pruebas periódicas, obligaciones de notificar incidentes y derechos de inspección.

Prácticas operativas recomendadas para administraciones que compran o desarrollan IA aplicada al asesoramiento.

Conviene estandarizar:

1. políticas de prompting y plantillas de prompts con disclaimers, variables de contexto y gestión de temperatura para estabilizar resultados,
2. registros de interacción que permiten replicar salidas, con time-stamps, versiones de modelos y artefactos generados,
3. workflows de revisión humana estructurada donde el analista valida fuentes, contrasta cifras, calibra incertidumbre y documenta cambios,
4. safelists y blocklists de fuentes para retrieval, con preferencia por fuentes primarias y normativas, v) controles de seguridad y privacidad, incluyendo filtros de PII, escáneres de fuga de secretos y sistemas de detección de inyección de prompts,
5. separación de roles entre product owner, responsable de riesgos, responsable de datos y auditor interno,
6. métricas de desempeño que combinan exactitud factual, completitud, trazabilidad, reproducibilidad y utilidad para la decisión, con tests ciegos y benchmarks adaptados al dominio de política.

La incorporación de IA en el asesoramiento reconfigura perfiles profesionales y rutinas. Los analistas se orientan a curaduría de datos, diseño de experimentos, verificación y síntesis argumentativa; los juristas públicos fortalecen el control de legalidad, proporcionalidad y derechos; las unidades de tecnología asumen la orquestación segura de modelos, el mantenimiento de pipelines y la observabilidad; los directivos públicos refuerzan la función de “traductor” entre resultados automatizados y prioridades políticas. La formación continua en literacidad algorítmica, epistemología aplicada y ética pública deviene infraestructura crítica, junto con comunidades de práctica y catálogos compartidos de casos de uso.

Criterios para evaluar la calidad del consejo en un entorno de mercado diversificado.

 La evaluación debe moverse más allá de checklists formales y medir:

1. solidez inferencial y tratamiento transparente de la incertidumbre;
2. adecuación entre pregunta de política y métodos empleados;
3. pluralidad de escenarios y consideración explícita de efectos distributivos;
4. independencia y gestión de conflictos;
5. inteligibilidad pública y capacidad pedagógica;
6. trazabilidad y replicabilidad técnica;
7. impacto en decisiones y aprendizaje organizativo. La combinación de estas dimensiones, reportadas en informes de evaluación ex ante y ex post, permite construir una reputación institucional que compite con la reputación privada de consultoras y centros externos.