La inteligencia artificial suele aparecer en el debate público acompañada de dos relatos opuestos. En uno, constituye una amenaza capaz de inundar internet de desinformación, manipular elecciones, sustituir empleos y concentrar todavía más poder en manos de gobiernos y grandes empresas tecnológicas. En el otro, se presenta como una herramienta extraordinaria para resolver problemas, democratizar el conocimiento y hacer más eficientes nuestras instituciones. Reboot: AI and the Race to Save Democracy, publicado en 2026 por Yale University Press, intenta escapar de esa simplificación. Su autora, Beth Simone Noveck, propone una pregunta más interesante: ¿qué ocurriría si utilizáramos deliberadamente la inteligencia artificial para mejorar el funcionamiento de la democracia?
La pregunta merece atención porque Noveck no escribe únicamente desde la teoría. Es profesora en Northeastern University, dirige The Governance Lab y el Burnes Center for Social Change y ha trabajado en administraciones públicas como la Casa Blanca y el Gobierno de Nueva Jersey. Su trayectoria explica la perspectiva del libro: para ella, la democracia no es solo un conjunto de ideales políticos, sino también un problema de diseño institucional. Esta forma de observarla resulta especialmente sugerente porque desplaza la conversación desde la abstracción —“¿está la democracia en crisis?”— hacia una cuestión más concreta: “¿qué procesos institucionales están funcionando mal y cuáles podríamos rediseñar?”.
El texto que inspira este artículo resume precisamente esa propuesta. Noveck identifica diferentes crisis relacionadas con las elecciones, la verdad, la representación, la participación, la convivencia cívica y la eficacia institucional, y plantea que la inteligencia artificial puede agravar todas ellas o, utilizada de otra manera, contribuir a mitigarlas. En Muhimu nos parece que esta ambivalencia es quizá el punto más importante de toda la discusión: la tecnología raramente determina por sí sola el resultado político. Lo decisivo suele ser quién la diseña, qué incentivos tiene, sobre qué datos trabaja, bajo qué normas opera y quién puede exigir responsabilidades cuando falla.
La democracia también es una tecnología
Cuando pensamos en tecnología imaginamos ordenadores, satélites, teléfonos móviles o inteligencia artificial. Sin embargo, Noveck propone considerar las instituciones como una de las grandes tecnologías sociales inventadas por la humanidad. Un parlamento, un ayuntamiento, una administración pública, un tribunal o unas elecciones son mecanismos creados para organizar información, distribuir responsabilidades, resolver desacuerdos y convertir decisiones colectivas en acciones. La comparación es útil porque recuerda algo que a menudo olvidamos: las instituciones no son fenómenos naturales. Fueron diseñadas y, por tanto, también pueden ser rediseñadas.
Eso no significa que exista una definición única de democracia. Para algunas tradiciones políticas, lo fundamental son los procedimientos mediante los cuales las sociedades toman decisiones colectivas; para otras, una democracia requiere además derechos fundamentales, separación de poderes, igualdad ante la ley, libertad de expresión y protección de las minorías. Esta pluralidad de definiciones importa porque una administración extremadamente eficiente no sería necesariamente más democrática. La eficiencia es una cualidad institucional; la democracia exige además legitimidad, derechos, participación y mecanismos de control. La IA podría mejorar la primera y deteriorar simultáneamente las demás.
Noveck propone observar el funcionamiento institucional mediante tres grandes procesos: datos, deliberación y ejecución. Las instituciones reciben información sobre problemas y necesidades, deliberan sobre alternativas y finalmente convierten determinadas decisiones en actuaciones concretas. La simplicidad del esquema es precisamente su virtud. Permite preguntarnos en qué parte del proceso podría utilizarse la IA y, sobre todo, qué problema concreto estaría intentando resolver. Usar inteligencia artificial porque está de moda es una estrategia tecnológica; utilizarla porque mejora una fase identificable del servicio público es una estrategia institucional.
La primera fase es la información. Los gobiernos producen cantidades enormes de estadísticas, expedientes, investigaciones, normativas, consultas ciudadanas, resoluciones y documentos técnicos. Una de las referencias utilizadas en el texto original procede de un estudio del Banco Mundial de 2014 según el cual casi un tercio de determinados informes técnicos de Economic and Sector Work no registraban ninguna descarga en la base de datos analizada. El dato se ha repetido con frecuencia como si un tercio de todos los informes del Banco Mundial jamás fueran leídos, algo que la propia institución matizó: el estudio se refería a una categoría concreta de documentos y una ausencia de descargas no significaba necesariamente una ausencia completa de circulación. El ejemplo sigue siendo interesante, pero por una razón diferente: las instituciones pueden poseer enormes cantidades de conocimiento sin disponer de mecanismos adecuados para convertirlo en conocimiento utilizable.
Aquí la IA sí ofrece una posibilidad evidente. Los modelos lingüísticos pueden clasificar miles de documentos, detectar temas relacionados, extraer información, elaborar resúmenes o ayudar a encontrar precedentes administrativos. Pero conviene no confundir capacidad de procesamiento con comprensión política. Una herramienta puede condensar veinte mil respuestas ciudadanas en diez temas principales y, al hacerlo, decidir inevitablemente qué matices conserva y cuáles desaparecen. La propia Noveck ha escrito posteriormente sobre este “problema de compresión”: cuando una IA resume la opinión pública, la forma de sintetizar determina también qué voces se vuelven visibles. A nuestro juicio, esta advertencia debería acompañar cualquier entusiasmo por automatizar la escucha ciudadana: resumir no es una operación neutral.
La segunda fase es la deliberación. Miles de personas pueden enviar propuestas a una administración, pero si nadie dispone de tiempo para leerlas, clasificarlas y compararlas, la participación termina convirtiéndose en un ritual más que en una influencia real. La IA puede reducir ese cuello de botella: agrupar argumentos similares, detectar preocupaciones minoritarias, traducir testimonios o permitir explorar grandes conversaciones públicas. El potencial es considerable, aunque aparece inmediatamente una nueva pregunta: ¿quién diseña los criterios con los que la máquina decide que dos opiniones son equivalentes? La tecnología puede ampliar la deliberación, pero una deliberación automatizada necesita ser auditable para no transformar diversidad política en simples categorías estadísticas.
Finalmente está la ejecución. Un funcionario, una enfermera, una asociación vecinal o un trabajador social pueden utilizar actualmente herramientas de IA para programar pequeñas aplicaciones, analizar datos o automatizar tareas que antes requerían equipos técnicos especializados. Esta reducción de barreras puede resultar transformadora para administraciones con pocos recursos. Sin embargo, también plantea un dilema que reaparecerá continuamente en este artículo: facilitar la creación de tecnología no elimina la obligación de evaluar sus consecuencias. Crear una aplicación pública en una tarde puede ser técnicamente posible; garantizar que respeta la privacidad, la accesibilidad, la igualdad de trato y el derecho a recurrir decisiones exige un trabajo mucho más lento.
Cuando la IA entra en unas elecciones
El lugar donde las preocupaciones resultan probablemente más intuitivas es el proceso electoral. El resumen de Reboot identifica tres grandes riesgos: deepfakes, manipulación y desinformación. Son fenómenos diferentes y conviene no agruparlos indiscriminadamente bajo la etiqueta de “fake news”, porque cada uno requiere respuestas distintas.
Los deepfakes constituyen el ejemplo más visible. Generar una fotografía falsa convincente de una persona pública es cada vez más sencillo, pero la imagen quizá sea el problema menos inquietante. La clonación de voz permite fabricar grabaciones de políticos, periodistas, familiares o directivos a partir de muestras relativamente pequeñas. El peligro no es exclusivamente que alguien crea una falsificación: también puede aparecer el fenómeno contrario, conocido como liar’s dividend, por el cual una persona puede intentar desacreditar una grabación auténtica asegurando que ha sido generada por inteligencia artificial. En otras palabras, cuando fabricar pruebas falsas resulta fácil, las pruebas verdaderas también pueden perder parte de su capacidad para convencer.
En enero de 2024 ocurrió un caso que muestra que el riesgo ya no pertenece al terreno hipotético. Dos días antes de las primarias presidenciales de New Hampshire, votantes recibieron llamadas automáticas con una voz creada artificialmente para sonar como la del entonces presidente Joe Biden. La Comisión Federal de Comunicaciones de Estados Unidos documentó posteriormente que la llamada pretendía imitar su voz y abrió actuaciones relacionadas con la campaña de robollamadas. Lo relevante no es qué candidato podía beneficiarse, sino el precedente: una tecnología disponible comercialmente permitió suplantar la identidad acústica de un dirigente político y distribuir el mensaje de forma masiva.
La respuesta tecnológica habitual consiste en crear detectores capaces de identificar contenido sintético. El problema es que aparece una carrera permanente entre generadores y detectores. Cada mejora en la identificación proporciona información que puede utilizarse para producir falsificaciones más difíciles de reconocer. Por eso nos parece insuficiente imaginar una solución puramente informática. La procedencia verificable de los contenidos, la educación mediática, el periodismo profesional y los protocolos institucionales para confirmar rápidamente materiales sospechosos probablemente sean tan importantes como el detector más sofisticado.
La manipulación política personalizada plantea un problema distinto. La posibilidad de generar miles de versiones de un mismo mensaje y adaptarlas a distintos públicos reduce radicalmente el coste de la persuasión segmentada. Sin embargo, tampoco deberíamos asumir automáticamente que cualquier mensaje hiperpersonalizado cambia el voto de quien lo recibe. La investigación sobre persuasión política ofrece resultados variables y depende del contexto, del mensaje y de las predisposiciones previas. Estudios recientes sí muestran que los modelos lingüísticos pueden modificar opiniones sobre candidatos o políticas en condiciones experimentales, pero convertir esos efectos experimentales en predicciones sobre elecciones reales exige prudencia. Una investigación de Cornell publicada en 2025, por ejemplo, encontró cambios relevantes en preferencias después de conversaciones con chatbots en experimentos realizados en varios países; es una señal que merece atención, no una prueba de que una IA pueda decidir por sí sola unas elecciones.
Hay además una paradoja interesante. La IA puede abaratar la propaganda política, pero también abarata su supervisión. Un sistema podría comparar miles de anuncios y detectar si un candidato presenta posiciones contradictorias ante grupos diferentes o utiliza sistemáticamente mensajes distintos dependiendo de las características de la audiencia. Esta posibilidad no convierte automáticamente la campaña política en algo transparente, pero modifica la relación de fuerzas: la misma capacidad computacional que permite producir comunicaciones a escala puede utilizarse para analizarlas a escala.
El problema de la desinformación no nació con ChatGPT
Existe una tentación comprensible de responsabilizar a la inteligencia artificial de todos los problemas informativos contemporáneos. Sería históricamente incorrecto. La propaganda, el rumor, la manipulación política y las campañas de desinformación preceden en siglos a internet. Lo que cambia con la IA es fundamentalmente la velocidad, la escala, el coste y la capacidad de personalización. Crear cien versiones de una historia falsa, traducirlas a veinte idiomas y acompañarlas de imágenes aparentemente reales ya no requiere una organización considerable. Esta reducción del coste marginal constituye quizá uno de los cambios más profundos.
También merece cautela la idea de que los algoritmos de las plataformas necesariamente conducen a contenidos cada vez más extremos. Existe abundante debate académico sobre la relación entre sistemas de recomendación, polarización y comportamiento de los usuarios, pero no puede reducirse todo a una única cadena causal. Los modelos de negocio basados en publicidad sí generan incentivos para captar atención, y los sistemas de recomendación se optimizan utilizando métricas relacionadas con la interacción; concluir a partir de ahí que una plataforma “quiere radicalizar” a sus usuarios sería una afirmación mucho más fuerte. Nos parece más útil analizar incentivos que atribuir intenciones.
Una respuesta interesante aparece en organizaciones dedicadas a la verificación colaborativa. El texto de partida utiliza el ejemplo de Meedan, una organización tecnológica sin ánimo de lucro que desarrolla herramientas abiertas para periodismo, verificación e información pública. Aquí conviene corregir un detalle del resumen original: Meedan se constituyó en 2006 y ya trabajaba con periodistas e ingenieros en El Cairo desde 2007, pero la Primavera Árabe comenzó años después. La propia organización explica que esa presencia previa le permitió trabajar con comunidades de traductores durante la revolución egipcia de 2011. La precisión histórica es importante porque muestra algo más interesante que la anécdota original: las infraestructuras cívicas útiles en una crisis suelen construirse antes de que la crisis llegue.
Su plataforma Check permite a organizaciones establecer canales a través de servicios de mensajería para recibir rumores, preguntas o contenidos sospechosos, analizarlos y devolver información contrastada. Investigaciones vinculadas a Meedan han estudiado incluso técnicas de claim matching para reconocer afirmaciones similares formuladas de maneras distintas y en diferentes idiomas. Es un buen ejemplo de la tesis central de Reboot: la IA no tiene por qué generar únicamente el problema; también puede formar parte de la infraestructura para responder a él.
Aun así, ninguna herramienta de verificación resuelve el problema fundamental de la confianza. Una corrección factual solo funciona si el destinatario reconoce alguna legitimidad a quien la ofrece. Y aquí aparece una dimensión que la ingeniería no puede solucionar completamente. Una democracia necesita instituciones, medios, universidades, organizaciones civiles y comunidades capaces de construir credibilidad a largo plazo. La IA puede acelerar una comprobación; no puede fabricar por decreto la confianza social necesaria para que esa comprobación sea aceptada.
La crisis de representación también es una crisis de escala
Uno de los apartados más interesantes de Reboot deja las amenazas electorales para centrarse en algo mucho menos espectacular: la enorme distancia operativa que existe entre los representantes y la población. El texto base utiliza el Congreso estadounidense como ejemplo de una institución que recibe volúmenes inmensos de información mientras dispone de recursos humanos limitados para procesarla. Esta interpretación merece atención porque muchas crisis políticas que describimos como ideológicas tienen también componentes organizativos.
Hay que corregir, sin embargo, una de las cifras utilizadas en el resumen. En lugar de las 27 leyes mencionadas allí para 2023, el registro de los National Archives contabiliza 34 public laws durante la primera sesión del 118.º Congreso. Además, contar leyes es un indicador muy imperfecto de eficacia legislativa: una norma presupuestaria enorme y una pequeña designación administrativa cuentan ambas como una ley. El ejemplo puede servir para hablar de bloqueo o capacidad institucional, pero no debería convertirse en una tabla simplista donde “más leyes” equivalga automáticamente a “mejor democracia”.
El problema de escala aparece con mayor claridad en las comunicaciones. Los representantes reciben enormes cantidades de correos electrónicos, peticiones, formularios y mensajes. Cuando una oficina tiene que responder a miles de comunicaciones sobre los mismos temas, termina recurriendo inevitablemente a respuestas estandarizadas. Desde el punto de vista ciudadano, el resultado puede resultar frustrante: se envía un mensaje personal y se obtiene una plantilla. Desde el punto de vista administrativo, sin embargo, la alternativa de contestar manualmente cada comunicación puede ser sencillamente inviable.
Investigadores de Cornell han estudiado precisamente si la IA podría ayudar en esta relación. Experimentos sobre comunicación legislativa encontraron que respuestas elaboradas con IA y supervisión humana podían ser recibidas favorablemente y generar más confianza que respuestas genéricas de plantilla; los mismos trabajos advierten de que una IA que produzca respuestas incorrectas puede deteriorar esa confianza y subrayan la importancia de transparencia y supervisión humana. El resultado es más complejo que “los ciudadanos prefieren hablar con robots”: parece indicar que las personas valoran recibir una respuesta que realmente atienda su pregunta, independientemente de que una herramienta haya ayudado a redactarla.
Nos parece que aquí aparece una distinción esencial entre automatizar una relación y aumentar la capacidad humana para mantenerla. Si una administración utiliza un chatbot para evitar cualquier contacto con las personas, la tecnología podría aumentar la distancia institucional. Si utiliza la misma herramienta para que un pequeño equipo comprenda miles de consultas y responda mejor, puede ocurrir lo contrario. El software puede ser prácticamente idéntico; lo que cambia es el diseño organizativo.
Pero existe también el problema inverso. Si los políticos pueden utilizar IA para responder automáticamente, los ciudadanos, empresas, organizaciones y grupos de presión pueden utilizarla para escribir automáticamente. Investigadores de Cornell realizaron un experimento con miles de comunicaciones dirigidas a legisladores y comprobaron que las oficinas tenían dificultades para diferenciar mensajes redactados por personas de textos generados mediante GPT-3. La paradoja es evidente: una herramienta creada para superar la saturación informativa puede incrementar esa misma saturación.
En un escenario extremo, representantes y ciudadanos podrían acabar delegando ambos extremos de la conversación: una IA enviaría miles de mensajes a una oficina y otra IA los leería, resumiría y contestaría. Formalmente existiría comunicación; materialmente, dos sistemas automatizados estarían hablando entre sí. A nuestro juicio, este ejemplo casi absurdo sirve para establecer un criterio útil: el objetivo de la tecnología democrática no debería ser maximizar el número de mensajes intercambiados, sino aumentar la capacidad de las personas para comprender problemas, expresar preferencias y participar de forma significativa.
Hacer visible el funcionamiento del poder
Otra aplicación de la IA tiene que ver con algo mucho más básico: convertir las instituciones en sistemas que realmente puedan ser observados. Los parlamentos producen miles de horas de debates, votaciones, comparecencias y documentación. Técnicamente son públicos, pero lo público no siempre es accesible. Un vídeo de cuatro horas escondido dentro de una web institucional puede cumplir una obligación formal de transparencia y seguir siendo prácticamente invisible para la mayoría de la ciudadanía.
CalMatters desarrolló en California un proyecto especialmente interesante denominado Digital Democracy. Su base de datos reúne transcripciones de audiencias públicas, proyectos legislativos, votaciones, información sobre legisladores y datos sobre financiación política, y utiliza inteligencia artificial para analizar parte de ese volumen documental y sugerir líneas de investigación a periodistas. La propia organización subraya que la IA no escribe las historias: proporciona herramientas para que periodistas humanos investiguen. Nos parece una distinción importante porque convierte la automatización en una herramienta de rendición de cuentas, no en sustituto del juicio periodístico.
Un periodista puede ahora buscar sistemáticamente en miles de intervenciones, relacionar declaraciones con votaciones o examinar patrones que antes exigirían meses de revisión manual. Digital Democracy ha permitido a CalMatters trabajar con más de un millón de votos de legisladores actuales para investigar comportamientos parlamentarios. Naturalmente, disponer de más datos no garantiza mejores interpretaciones; las correlaciones siguen necesitando contexto. Pero bajar radicalmente el coste de inspeccionar al poder constituye una aplicación de la IA muy diferente de utilizarla para producir contenido sintético.
El caso del Parlamento de India también necesita un pequeño ajuste respecto al resumen original. La Unión Interparlamentaria informa de que la Lok Sabha amplió desde la sesión de invierno de 2025 la interpretación simultánea a las 22 lenguas reconocidas constitucionalmente, una operación que requirió ampliar equipos de intérpretes y actualizar los sistemas de audio. Paralelamente, el Parlamento utiliza herramientas de IA para funciones como análisis de debates y traducción automática de determinados documentos. Por tanto, no sería preciso afirmar simplemente que “la IA transcribe el Parlamento a 22 idiomas”. Lo interesante es justamente la combinación entre infraestructura humana y automatización.
Este ejemplo obliga además a ampliar nuestra idea de accesibilidad democrática. No basta con publicar información: debe poder encontrarse, comprenderse y utilizarse. La traducción, los buscadores semánticos, los resúmenes y las interfaces conversacionales pueden reducir barreras lingüísticas o técnicas muy reales. Sin embargo, cuanto más dependa una persona de un intermediario algorítmico para conocer lo que ocurre en su parlamento, más importante será poder rastrear la respuesta hasta la fuente original.
De escuchar a miles de personas a convertir sus aportaciones en políticas
La parte más ambiciosa de Reboot aparece cuando Noveck analiza la eficacia institucional. Los responsables públicos disponen hoy de más información que nunca, pero esa abundancia puede convertirse en incapacidad si no existen mecanismos para organizarla. El problema resulta reconocible fuera de la política: recopilar datos es relativamente sencillo; convertirlos en decisiones justificadas continúa siendo difícil.
Uno de los casos centrales es el trabajo realizado por el grupo de trabajo sobre inteligencia artificial del Estado de Nueva Jersey. El estado creó oficialmente su AI Task Force en octubre de 2023 para estudiar los efectos de las nuevas tecnologías y elaborar recomendaciones sobre su utilización responsable. Posteriormente, uno de sus grupos utilizó Policy Synth, una herramienta basada en modelos de lenguaje diseñada para realizar investigación automatizada a gran escala y ayudar a generar propuestas sobre el impacto de la IA generativa en el mercado laboral.
Aquí disponemos de documentación pública suficientemente detallada como para evitar la exageración. El informe oficial de Nueva Jersey explica que Policy Synth identificó 20 áreas problemáticas tras analizar más de mil fuentes online y produjo 1.451 ideas de solución asociadas a ellas. En un segundo proceso, centrado en problemas priorizados mediante participación de trabajadores, produjo otras 1.101 ideas distribuidas en 15 áreas. El grupo acabó concentrando el trabajo en ocho ámbitos prioritarios y redujo el conjunto a 40 soluciones para su consideración posterior. Más de 2.200 trabajadores participaron además en el proceso de priorización de preocupaciones.
Estas cifras impresionan, aunque precisamente por eso conviene interpretarlas correctamente. Generar 2.500 propuestas no significa generar 2.500 buenas políticas. Un modelo lingüístico puede multiplicar variantes de una idea con una facilidad que ningún equipo humano podría igualar, pero abundancia y calidad son conceptos diferentes. El valor del experimento de Nueva Jersey está menos en el número bruto de propuestas que en la arquitectura del proceso: investigación automatizada, participación ciudadana, clasificación, revisión por especialistas y selección humana.
La Citizens Foundation, que participa en el desarrollo de Policy Synth, resume la filosofía diciendo que la IA amplía el espacio de soluciones mientras las personas mantienen el control. En la experiencia de Nueva Jersey, las prioridades expresadas por trabajadores alimentaron posteriormente el proceso automatizado, y especialistas revisaron los resultados en las diferentes etapas. Esta estructura nos parece mucho más interesante que la idea de un “gobierno gobernado por IA”: no se pide a una máquina que decida cuál es la política correcta; se intenta utilizar capacidad computacional para que las personas puedan examinar más información y más alternativas.
Eso no elimina los riesgos. Toda búsqueda automatizada depende de las fuentes que encuentra; toda clasificación depende de criterios; todo ranking introduce una función de valoración. Un sistema puede presentar una recomendación como resultado de un proceso matemático extraordinariamente sofisticado y, sin embargo, estar reproduciendo supuestos introducidos al comienzo de la cadena. La objetividad aparente de los números puede ser incluso más peligrosa que una opinión explícita, porque resulta más difícil discutir aquello que se presenta como resultado técnico.
Por eso la trazabilidad debería considerarse un componente esencial de cualquier IA aplicada a decisiones públicas. No basta con conocer la recomendación final; sería deseable poder reconstruir qué evidencias se utilizaron, qué fuentes se descartaron, cómo se agruparon los problemas, dónde intervino la máquina y dónde lo hicieron los responsables humanos. Una administración democrática no necesita únicamente respuestas: necesita poder explicar por qué llegó hasta ellas.
¿Qué significa realmente una “IA pública”?
Después de analizar aplicaciones concretas, Reboot plantea una cuestión más estructural: si la inteligencia artificial se convierte en una infraestructura que condiciona educación, empleo, información y administración pública, ¿es suficiente que sus herramientas fundamentales dependan casi exclusivamente de empresas privadas? El libro introduce entonces la idea de public AI, sistemas e infraestructuras accesibles a instituciones públicas, universidades, investigadores y comunidades para perseguir objetivos de interés público.
La propuesta no obliga a concluir que los gobiernos deban construir un equivalente estatal de cada modelo comercial. “IA pública” puede abarcar infraestructuras computacionales compartidas, conjuntos de datos públicos, modelos abiertos, capacidad investigadora independiente, servicios desarrollados por universidades o sistemas contratados a empresas bajo requisitos estrictos de transparencia y auditoría. Nos parece importante mantener esta definición amplia, porque el debate se empobrece si se presenta como una elección binaria entre “IA privada” e “IA gubernamental”.
Existe, sin embargo, un argumento de fondo difícil de ignorar. Si analizar modelos avanzados requiere recursos computacionales que únicamente unas pocas empresas pueden financiar, la investigación independiente parte de una posición de desventaja. Una sociedad puede regular una tecnología mucho mejor cuando universidades, organismos públicos y sociedad civil disponen de capacidad técnica para estudiarla. Del mismo modo que no esperaríamos que la única investigación sobre contaminación de una industria fuera financiada y ejecutada por esa misma industria, resulta razonable valorar la existencia de infraestructuras independientes para investigar sistemas de IA.
Un ejemplo interesante es el National Deep Inference Fabric (NDIF), desarrollado por Northeastern University y apoyado por la National Science Foundation de Estados Unidos. Proporciona acceso remoto a grandes modelos y permite a investigadores inspeccionar y modificar determinadas operaciones internas mediante herramientas como NNsight. El texto original compara este tipo de infraestructura con enviar experimentos a una instalación científica que el investigador no podría poseer por sí mismo. La analogía nos parece acertada: democratizar la investigación no exige necesariamente entregar un superordenador a cada universidad, sino crear infraestructuras compartidas.
Hay, no obstante, otra corrección importante. El resumen de Reboot describe NDIF como una plataforma para experimentar sobre sistemas propietarios. Actualmente, la propia documentación de NDIF habla fundamentalmente de acceso a grandes modelos abiertos, entre ellos distintas versiones de Llama 3.1 y DeepSeek-R1. El principio sigue siendo válido, pero la precisión importa: investigar experimentalmente los sistemas comerciales más cerrados continúa siendo mucho más difícil.
Abrir una inteligencia artificial es mucho más complicado que publicar su código
La conversación sobre una IA democrática conduce rápidamente al concepto de open source, utilizado a menudo con demasiada ligereza. En el software tradicional, publicar el código fuente bajo una licencia abierta permite inspeccionarlo, modificarlo y redistribuirlo. En aprendizaje automático existen más componentes: código de entrenamiento, arquitectura, pesos del modelo, información sobre los datos, procesos de filtrado, herramientas de inferencia y condiciones de licencia.
Aquí también conviene matizar el texto de partida. La Open Source Initiative publicó la versión 1.0 de su Open Source AI Definition, que exige libertades de uso, estudio, modificación y distribución, junto con acceso al código necesario, los parámetros del modelo y suficiente información sobre los datos de entrenamiento para comprender y reproducir significativamente el proceso. Sin embargo, no exige necesariamente publicar todos los datos de entrenamiento originales, entre otras razones porque pueden existir restricciones de privacidad, propiedad intelectual u otros derechos. Decir que un modelo solo puede considerarse abierto si publica íntegramente cada dato con el que fue entrenado sería, por tanto, una simplificación.
Llama ilustra perfectamente por qué estas distinciones son importantes. Meta ha distribuido públicamente pesos de sus modelos Llama y los ha descrito en ocasiones utilizando lenguaje asociado a la apertura, pero la Open Source Initiative sostiene que las licencias de Llama 2 y Llama 3.x no cumplen sus criterios de open source, principalmente por determinadas restricciones de uso. Podemos estar o no de acuerdo con cada definición, pero el debate demuestra que “se puede descargar” y “es open source” no son sinónimos.
La apertura tampoco resuelve automáticamente el problema democrático. Un modelo abierto puede utilizarse para desarrollar herramientas de interés público y también para desarrollar sistemas dañinos. Un modelo cerrado puede incorporar controles de seguridad muy rigurosos y simultáneamente impedir cualquier auditoría externa significativa. La discusión real no debería reducirse a una etiqueta, sino examinar qué derechos de inspección, reproducción, crítica y modificación necesita cada contexto.
El gran problema de las cajas negras
Incluso teniendo acceso a un modelo, comprenderlo sigue siendo extraordinariamente difícil. Las redes neuronales modernas no funcionan como un programa convencional en el que un programador escribe explícitamente cada regla. Durante el entrenamiento se ajustan enormes cantidades de parámetros y surgen representaciones internas cuyo funcionamiento no resulta directamente interpretable para una persona. OpenAI ha descrito precisamente este problema al explicar que sus investigadores estudian “circuitos dispersos” para intentar identificar estructuras internas más comprensibles dentro de redes con miles de millones de conexiones.
Esto importa especialmente cuando una IA participa en decisiones institucionales. Si un modelo sugiere qué expediente debe investigarse, quién necesita una prestación o qué propuesta pública parece más relevante, “el algoritmo lo ha decidido” no constituye una explicación democrática suficiente. Una persona afectada debería poder entender al menos los factores relevantes y disponer de algún mecanismo para cuestionar un resultado.
La explicabilidad absoluta quizá sea técnicamente imposible para determinados sistemas complejos. Tampoco deberíamos idealizar la explicación humana: las personas toman decisiones utilizando sesgos, intuiciones y razonamientos que no siempre saben describir. La diferencia es institucional. Cuando una persona toma una decisión pública, podemos definir quién es responsable, qué normativa debe aplicar y ante quién puede recurrirse. Introducir IA no debería eliminar esa cadena de responsabilidad.
Nos parece que este punto marca una diferencia fundamental entre la inteligencia artificial como herramienta personal y la inteligencia artificial como infraestructura institucional. Si un usuario pide a una IA que le recomiende una película y el resultado es malo, la consecuencia es trivial. Si una administración utiliza un sistema para organizar expedientes que afectan a derechos, subvenciones o servicios públicos, la exigencia de trazabilidad debe ser mucho mayor. No existe una única definición de “IA responsable” válida para cualquier situación; el nivel de control debería estar relacionado con las consecuencias de la decisión.
La IA no necesita sustituir a las instituciones para transformarlas
Gran parte de la conversación popular sobre inteligencia artificial está construida alrededor de la sustitución: qué trabajos desaparecerán, qué profesionales serán reemplazados, qué tareas dejarán de realizar las personas. Reboot propone una conversación diferente. En el ámbito democrático, la transformación más relevante podría no consistir en sustituir al político, al funcionario o al periodista, sino en cambiar radicalmente lo que cada uno de ellos puede hacer.
Un periodista que antes podía escuchar dos audiencias parlamentarias puede buscar ahora entre miles de horas de transcripciones. Una pequeña administración que no podía procesar diez mil aportaciones ciudadanas podría agruparlas y analizarlas. Un investigador sin acceso a una infraestructura multimillonaria puede experimentar remotamente con modelos grandes. Un empleado público puede consultar legislación utilizando lenguaje natural. Nada de esto elimina la necesidad del trabajo humano; en muchos casos, aumenta la importancia de saber formular preguntas, verificar respuestas e interpretar resultados.
Pero también puede ocurrir lo contrario. Un periodista puede dejar de consultar las fuentes porque confía demasiado en un resumen automático. Una administración puede convertir la participación ciudadana en una encuesta algorítmica cuya clasificación nadie entiende. Un político puede enviar miles de respuestas personalizadas que simulan atención humana sin haber leído ninguna. Por eso, la pregunta “¿utilizamos IA?” resulta casi irrelevante. La pregunta interesante es qué comportamiento institucional incentiva esa utilización.
A nuestro juicio, éste es uno de los mayores méritos intelectuales de la propuesta de Noveck: devuelve la responsabilidad a las personas y las instituciones. Presentar la IA como una fuerza autónoma que inevitablemente destruirá o salvará la democracia puede resultar atractivo narrativamente, pero nos permite eludir las decisiones humanas. Los gobiernos eligen qué sistemas compran. Las empresas eligen cómo los diseñan. Los legisladores eligen qué obligaciones establecen. Las instituciones eligen cuándo mantener una persona responsable dentro del proceso.
Datos, deliberación y ejecución: volver al principio
Podemos regresar entonces a las tres funciones con las que comenzamos. En la fase de datos, la inteligencia artificial puede ayudar a encontrar, organizar y analizar información que antes era demasiado abundante para ser manejada. Pero cualquier sistema serio necesitará mecanismos para mostrar sus fuentes, reconocer incertidumbre y conservar opiniones minoritarias en lugar de hacerlas desaparecer dentro de un resumen mayoritario.
En la fase de deliberación, la IA puede permitir que miles de personas participen en conversaciones que antes resultaban imposibles de procesar. Sin embargo, la calidad democrática no se mide simplemente por el número de participantes. También importa quién queda fuera, cómo se formulan las preguntas, qué alternativas pueden proponerse y quién decide finalmente. Una consulta con un millón de respuestas puede estar peor diseñada que una asamblea de cien personas si la primera no permite realmente influir en el resultado.
En la fase de ejecución, la automatización puede reducir trámites, personalizar servicios y liberar tiempo de los profesionales para trabajos que requieren criterio humano. Pero cuanto más eficiente sea un sistema, más rápidamente puede escalar también sus errores. Una equivocación humana afecta quizá a un expediente; una regla automatizada incorrecta puede aplicarse a cien mil personas en unas horas. La velocidad, que solemos tratar como una ventaja indiscutible de la tecnología, puede convertirse también en un multiplicador del daño.
Esta es quizá la razón por la que necesitamos abandonar tanto el entusiasmo ingenuo como el pesimismo automático. Una herramienta capaz de procesar millones de documentos no es buena ni mala por esa capacidad. Su valor depende de lo que estemos intentando conseguir, de las restricciones que establezcamos y de nuestra capacidad para detectar cuándo está fallando.
De ciudadanos consumidores de tecnología a ciudadanos capaces de cuestionarla
La discusión sobre democracia e inteligencia artificial suele terminar en grandes propuestas regulatorias. Sin embargo, existe también una dimensión cotidiana. Las sociedades necesitarán ciudadanos capaces de distinguir entre una afirmación y su evidencia, identificar cuándo una imagen podría ser sintética, pedir una fuente a un chatbot y comprender que una respuesta extremadamente fluida puede seguir siendo incorrecta.
Eso no significa trasladar toda la responsabilidad al individuo. Sería absurdo exigir a cada ciudadano que se convierta en especialista en aprendizaje automático para defenderse de sistemas diseñados por organizaciones con presupuestos multimillonarios. Pero tampoco parece realista imaginar que la regulación eliminará cada riesgo antes de que llegue a las personas. La alfabetización informacional seguirá siendo una capa importante de protección, igual que ocurre con la educación financiera, sanitaria o mediática.
Las propias instituciones necesitan una alfabetización equivalente. Un departamento público que compra un sistema de IA debe entender lo suficiente para hacer preguntas sobre datos, errores, discriminación, seguridad, auditoría y dependencia del proveedor. No hace falta que cada responsable sea ingeniero, pero sí que una organización pública posea capacidad técnica independiente. De lo contrario, puede ocurrir algo paradójico: el Estado regula sistemas que ni siquiera tiene capacidad para evaluar.
La democracia como proyecto de diseño permanente
Una de las intuiciones más provocadoras de Reboot consiste en tratar la democracia como algo que puede mejorarse mediante experimentación institucional. La comparación con la ciencia no debe interpretarse literalmente: una sociedad no es un laboratorio y las decisiones políticas contienen valores que ningún experimento puede resolver. No existe un algoritmo capaz de determinar cuál debería ser el nivel correcto de impuestos, qué prioridades presupuestarias son moralmente superiores o qué equilibrio exacto debe existir entre intereses legítimos enfrentados.
Lo que sí puede estudiarse es si determinados mecanismos permiten escuchar mejor a la ciudadanía, detectar problemas antes, reducir tiempos administrativos o hacer más transparente una decisión. En ese nivel, las instituciones pueden experimentar, medir y aprender. La diferencia entre decidir qué valores perseguimos y estudiar qué mecanismos funcionan para perseguirlos nos parece crucial para entender hasta dónde puede llegar la tecnología.
Policy Synth puede generar alternativas, pero no decidir qué sociedad queremos. Digital Democracy puede revelar votaciones, pero no decirnos qué voto es moralmente correcto. Un chatbot parlamentario puede explicar una ley, pero no determinar si debemos apoyarla. Un detector puede identificar una posible falsificación, pero no sustituir nuestra capacidad de valorar el contexto. La IA puede ampliar nuestras facultades cognitivas; no elimina la necesidad de juicio político.
Ésta es probablemente la frontera que deberíamos vigilar con mayor atención. Las democracias delegan constantemente tareas: en funcionarios, jueces, comisiones técnicas, bancos centrales, agencias reguladoras y sistemas informáticos. El problema no es delegar. El problema aparece cuando ya no sabemos qué hemos delegado, bajo qué criterios y cómo recuperar el control cuando una decisión resulta incorrecta.
El futuro no depende únicamente de lo inteligente que sea la IA
Durante los últimos años hemos medido el progreso de la inteligencia artificial fundamentalmente por capacidades: escribir mejor, programar mejor, razonar mejor, reconocer imágenes, generar vídeo o resolver problemas científicos. Desde la perspectiva de Reboot, quizá falte otro indicador: nuestra capacidad institucional para utilizar adecuadamente esas herramientas.
Una sociedad podría disponer del modelo más poderoso del mundo y utilizarlo para inundar sus canales de información de contenido sintético. Otra podría utilizar un modelo menos sofisticado para hacer accesibles millones de documentos públicos, traducir servicios, detectar anomalías administrativas y facilitar investigación independiente. La diferencia no estaría únicamente en el modelo, sino en la arquitectura social que lo rodea.
Por eso resulta insuficiente preguntar cuándo llegará la próxima generación de inteligencia artificial. También debemos observar si evolucionan al mismo ritmo las normas, las instituciones, la investigación independiente, la educación y los mecanismos de rendición de cuentas. La innovación tecnológica puede producirse en meses; la adaptación institucional suele necesitar años. Esa diferencia de velocidad probablemente sea uno de los grandes desafíos de esta década.
Hay además una lección histórica bastante sencilla. Las sociedades anteriores también tuvieron que integrar tecnologías que transformaron la circulación de información: la imprenta, el telégrafo, la radio, la televisión, internet y las redes sociales modificaron de distintas formas la relación entre ciudadanos y poder. Ninguna produjo automáticamente democracia ni autoritarismo. Todas alteraron quién podía hablar, quién podía escuchar, cuánto costaba transmitir un mensaje y qué instituciones controlaban esos canales.
La IA añade algo nuevo: no solo distribuye información, sino que puede producirla, clasificarla, traducirla, sintetizarla y responder en nuestro nombre. En cierto sentido, introduce una capa cognitiva entre nosotros y las instituciones. Esa capacidad explica tanto su enorme potencial como sus riesgos. Cuando delegamos la lectura, el resumen o la búsqueda de alternativas, delegamos pequeñas partes de nuestro proceso de razonamiento.
La pregunta decisiva no es si la IA será buena o mala para la democracia
En este recorrido por Reboot hemos visto que la inteligencia artificial puede intervenir prácticamente en todas las fases de la vida institucional. Puede fabricar deepfakes y ayudar a detectarlos. Puede multiplicar propaganda y facilitar verificaciones. Puede inundar a los representantes con mensajes artificiales y ayudarles a comprender mejor las comunicaciones auténticas. Puede opacar decisiones mediante algoritmos incomprensibles y, al mismo tiempo, convertir millones de registros legislativos en información accesible. Puede concentrar poder tecnológico o proporcionar herramientas hasta ahora reservadas a organizaciones con grandes recursos. Ésa es precisamente la tensión central del libro.
No hay ninguna contradicción en aceptar simultáneamente ambas posibilidades. De hecho, probablemente sea la posición más realista. Las tecnologías de propósito general adquieren significados diferentes dependiendo de quién las utiliza y con qué incentivos. La electricidad puede alimentar un hospital o un sistema de vigilancia; internet puede conectar comunidades o distribuir propaganda. Preguntar si “internet fue bueno para la democracia” resulta demasiado amplio. Probablemente ocurrirá lo mismo con la inteligencia artificial.
La cuestión más fértil es otra: ¿qué condiciones hacen que una determinada utilización de la IA aumente realmente la capacidad democrática de una institución? La respuesta no puede reducirse a una palabra como “transparencia” o “ética”. Necesitamos observar resultados concretos: si permite a más personas comprender lo que ocurre, si mantiene la posibilidad de recurrir decisiones, si las fuentes son verificables, si existen responsables identificables, si las minorías siguen siendo visibles y si el sistema aumenta o disminuye la capacidad de la ciudadanía para controlar al poder.
En Muhimu creemos que quizá éste sea también el mejor antídoto contra dos discursos igualmente simplificadores. El primero afirma que la IA resolverá nuestros problemas porque es extraordinariamente inteligente. El segundo sostiene que inevitablemente destruirá nuestras instituciones porque es extraordinariamente poderosa. Ambos atribuyen demasiada autonomía a la máquina. Entre esas dos posiciones existe un espacio mucho más incómodo y mucho más interesante: el de nuestras propias decisiones.
Reboot pertenece deliberadamente a ese espacio. Beth Simone Noveck no niega los riesgos de la inteligencia artificial; intenta mostrar que limitar nuestra conversación a esos riesgos puede hacernos perder oportunidades para rediseñar instituciones que ya tenían problemas mucho antes de la aparición de ChatGPT. Su propuesta es, en el fondo, profundamente institucional: no preguntarnos simplemente cómo controlar una nueva tecnología, sino cómo aprovecharla sin renunciar a los principios que permiten controlar a quienes ejercen el poder.
Y quizá esa sea la conclusión más útil. La democracia nunca ha sido un producto terminado. Es una infraestructura social que requiere mantenimiento, modificaciones, controles y aprendizaje permanente. La inteligencia artificial puede añadir nuevas grietas a esa infraestructura o proporcionar herramientas para repararla. La diferencia no estará escrita dentro del código.
Estará en las instituciones que construyamos alrededor de él.