I. INTRODUCCIÓN.

En 2017, durante un período de comentarios públicos de la Comisión Federal de Comunicaciones (FCC), bots inundaron la agencia con más de un millón de comentarios de falsos ciudadanos solicitando la derogación de las normas de neutralidad de la red. Los reguladores descubrieron este intento encubierto de subvertir el proceso de formulación de políticas, pero solo porque cientos de miles de los comentarios eran extrañamente similares. En los seis años transcurridos desde entonces, las herramientas de inteligencia artificial (IA) solo se han vuelto más sofisticadas, y es probable que esfuerzos similares para engañar a los responsables de formular políticas se vuelvan cada vez más difíciles de detectar y prevenir. Este inquietante riesgo y sus implicaciones para un gobierno participativo exigen una acción urgente.

La práctica de un gobierno abierto y receptivo es parte integral de la tradición estadounidense. Su base es el principio de que el público debe tener amplio acceso a la información y oportunidad para opinar sobre decisiones políticas importantes. Las nuevas tecnologías, desde la invención del telégrafo hasta la explosión de las redes sociales, han creado nuevas vías para la participación democrática pública. Sin embargo, estas mismas tecnologías a menudo generan nuevas herramientas que pueden utilizarse para tergiversar la opinión pública y distorsionar la formulación de políticas. La IA no es una excepción.

Como en revoluciones tecnológicas anteriores, los desarrollos en IA ofrecen promesas: con el tiempo, podrían mejorar la capacidad del gobierno para comprender lo que quiere el público y ayudar a los ciudadanos a participar en las decisiones políticas. En particular, el resumen y análisis automatizados podrían utilizarse para ampliar la capacidad de los funcionarios de procesar las opiniones públicas. Pero estos beneficios potenciales solo pueden materializarse junto con salvaguardas que garanticen que los sistemas de IA sean precisos y adecuados para los fines previstos, que eviten que los sesgos del sistema reflejen desigualdades sociohistóricas y reduzcan las voces de comunidades específicas, y que mitiguen los efectos cuando tales resultados ocurran.

El episodio de la Comisión Federal de Comunicaciones (FCC) ejemplifica cómo los antagonistas pueden usar herramientas de IA para socavar la participación pública auténtica en la toma de decisiones gubernamentales. Los nuevos desarrollos en IA generativa permiten esfuerzos de engaño masivo mucho más sofisticados que imitan eficazmente las opiniones individuales sobre políticas públicas, generando el peligro de que los funcionarios sean engañados o desviados por contenido generado por IA difícil de detectar. Utilizando IA generativa, los estafadores pueden producir montañas de aportaciones aparentemente genuinas de política por parte de falsos interesados para manipular la percepción del sentimiento público. Si se emplean maliciosamente a una escala suficiente, tales esfuerzos pueden erosionar la capacidad del gobierno para responder al pueblo estadounidense —y, en última instancia, socavar la confianza de la gente en el gobierno—.

Por su parte, los funcionarios públicos que administran elecciones enfrentan riesgos agudos de que actores de mala fe utilicen herramientas de IA para amplificar preocupaciones infundadas sobre el proceso electoral, distraer de las necesidades de los votantes antes o durante el día de las elecciones, o saturar las oficinas con solicitudes de documentos generadas por bots que resultan difíciles de identificar como producidas por IA.

Estos peligros requieren intervenciones políticas específicas. Para abordar estas preocupaciones, las instituciones gubernamentales deberían tomar las siguientes medidas:

- Implementar sistemas de alta precisión para verificar la actividad humana cuando sea posible, prestando especial atención a la accesibilidad y la privacidad de los datos.

- Ampliar las oportunidades accesibles para la participación presencial en la toma de decisiones gubernamentales, incluidas audiencias públicas abiertas y reuniones comunitarias.

- Implementar encuestas de forma constante dirigidas a ciudadanos identificados, como aquellos que han utilizado servicios gubernamentales o recibido beneficios públicos, para obtener opiniones sobre la implementación de programas.

- Modificar las leyes y normas aplicables para que las agencias tengan autoridad para ignorar solicitudes de documentos y presentaciones sobre regulaciones propuestas que se haya demostrado que fueron transmitidas fraudulentamente por bots o sistemas automatizados, incluidos los impulsados por IA generativa.

- Establecer salvaguardas para regular el uso gubernamental de la IA en el análisis, resumen o agregación de comentarios públicos, o en la asistencia sustancial en la redacción de normas o políticas públicas, estableciendo requisitos para prevenir sesgos y garantizar la precisión.

- Colaborar regularmente con organizaciones cívicas para comprender mejor cómo los interesados y ciudadanos están utilizando la IA para interactuar y abogar ante el gobierno.

II. Participación Ciudadana y Capacidad de Respuesta del Gobierno: la IA como herramienta para distorsionar la percepción del sentimiento público.

Como observó célebremente el teórico político Robert Dahl, “una característica clave de la democracia es la continua capacidad de respuesta del gobierno a las preferencias de sus ciudadanos”. Políticos, analistas y académicos han debatido durante mucho tiempo si el gobierno estadounidense cumple esta promesa. Históricamente, gran parte del enfoque se ha centrado en fuerzas que socavan la capacidad de los ciudadanos para elegir a sus líderes —como la privación masiva del derecho al voto, la desproporción legislativa y la manipulación de distritos electorales—; así como en fuerzas que configuran los incentivos de los funcionarios públicos, como el papel desproporcionado de los grandes donantes de campañas y el riesgo correlativo de corrupción. Sin embargo, un requisito básico para la capacidad de respuesta es la habilidad de los funcionarios (responsables políticos) para evaluar lo que realmente quiere el público. Antes de que los responsables de políticas puedan atender las preferencias de los ciudadanos, primero deben poder comprender cuáles son esas preferencias.

Por supuesto, los responsables de formular políticas cuentan con una variedad de herramientas para entender lo que quiere el público. Algunas de estas herramientas, como las encuestas de opinión, están relativamente protegidas frente a la distorsión por IA (al menos por ahora). Pero otros métodos son mucho más vulnerables a la manipulación por IA que las encuestas, especialmente cuando estas dependen de métodos como el reclutamiento basado en direcciones. Además, las limitaciones de las encuestas —incluida su escasa capacidad para captar posiciones matizadas y opiniones expresadas con detalle— son bien conocidas, por lo que los métodos de contacto directo con el público y la solicitud de comentarios siguen siendo esenciales. Aquí, consideramos brevemente dos herramientas vulnerables para conocer las inclinaciones de los ciudadanos: la correspondencia dirigida a funcionarios electos y los comentarios públicos en línea enviados a agencias reguladoras.

Los funcionarios electos —desde presidentes hasta comisionados de condado— han dependido durante mucho tiempo de las comunicaciones escritas para mantenerse al tanto de las preocupaciones de sus ciudadanos, especialmente del subconjunto de votantes informados y atentos a un tema particular. En el pasado, grupos externos han tratado de manipular la evaluación del sentir ciudadano a través del proceso de reclutar personas para enviar cartas modelo, a menudo prediseñadas, con el fin de dar la falsa apariencia de un movimiento genuino de base. Sin embargo, la IA generativa permite a actores maliciosos crear, con facilidad y a gran escala, comunicaciones únicas de falsos ciudadanos que aparentemente defienden posturas políticas, lo que complica enormemente la tarea de detectar intentos de sesgar la percepción de las preferencias populares.

¿Pueden los funcionarios electos diferenciar el contenido generado por IA del auténtico, escrito por humanos? Investigaciones recientes sugieren que no. En 2020, investigadores realizaron un experimento de campo en el que enviaron aproximadamente 35 000 correos electrónicos defendiendo posiciones sobre diversos temas de política a más de 7 000 legisladores estatales. La mitad fueron escritos por humanos; la otra mitad, por GPT-3, el modelo de IA generativa más avanzado en ese momento. Para explorar si los legisladores podían reconocer contenido generado por IA, el estudio comparó las tasas de respuesta a la correspondencia humana y a la generada por IA (bajo la teoría de que los legisladores no perderían tiempo respondiendo a apelaciones de bots de IA). En tres temas, las tasas de respuesta fueron estadísticamente indistinguibles. En otros tres temas, las respuestas a los correos electrónicos generados por IA fueron menores, pero solo en un promedio del 2 %.

Este hallazgo sugiere que un antagonista capaz de generar con facilidad miles de comunicaciones únicas podría influir potencialmente en la percepción de los legisladores sobre los temas más importantes para sus electores y sobre sus opiniones en cualquier cuestión. Además, muchas de las inconsistencias y problemas que algunos legisladores señalaron como señales para identificar contenido sospechoso están siendo cada vez menos frecuentes con los modelos de IA más avanzados. Por ejemplo, GPT-3 tenía dificultades con la coherencia lógica al redactar un correo defendiendo una postura conservadora sobre legislación de control de armas, pero los algoritmos actualizados de GPT-4 están mejor preparados para evitar tales problemas. Los modelos de código abierto más avanzados también son ahora lo suficientemente sofisticados para estas tareas de redacción, lo que hace difícil —si no imposible— “volver a meter al genio en la botella”.

La IA generativa también podría amenazar la capacidad de respuesta democrática al socavar el principal mecanismo para incorporar aportes públicos en el proceso regulatorio: el período de comentarios públicos.

Las agencias administrativas desempeñan un papel vital en la formulación de políticas —especialmente a nivel federal—, pero su relativa protección frente a la política electoral puede generar preocupaciones sobre su rendición de cuentas ante el público. El proceso de notificación y comentarios, aunque lejos de ser perfecto, es una de las principales herramientas que usan los funcionarios no electos de las agencias para evaluar las preferencias públicas durante la elaboración de normas. La tecnología, especialmente con la llegada de la gobernanza electrónica en 2002, ha sido celebrada durante mucho tiempo como una forma de abordar las preocupaciones sobre la rendición de cuentas democrática al “aumentar la participación pública… para fomentar mejores decisiones regulatorias”. El sitio Regulations.gov, la plataforma oficial para información sobre la elaboración de normas, invita a los ciudadanos comunes a “marcar la diferencia. Envíe sus comentarios y haga oír su voz”.

Pero, como muestra la disrupción provocada por bots en el proceso de neutralidad de la red de la FCC, este proceso es susceptible de ser subvertido. Mientras que una avalancha de comentarios con patrones lingüísticos sospechosamente similares expuso el fraude en la neutralidad de la red, las nuevas tecnologías de IA generativa pueden superar fácilmente este problema creando millones de comentarios únicos y variados que defienden una postura política determinada. Como resultado, a las agencias les será mucho más difícil determinar qué comentarios representan realmente el sentir público predominante o, incluso, las opiniones de los actores más directamente interesados.

Reconociendo la amenaza que supone el uso malicioso de la IA, las empresas tecnológicas compiten por desarrollar herramientas que puedan identificar texto generado por IA. Sin embargo, los desafíos para hacerlo de manera eficaz son complejos y cambiantes. En julio de 2023, OpenAI retiró su herramienta de clasificación de IA debido a su precisión limitada. Dadas las exigencias sobre los comentarios públicos establecidas en la Ley de Procedimientos Administrativos, solo una herramienta de detección altamente precisa probablemente superaría el escrutinio en el contexto de los procesos de elaboración de normas federales. Y aunque los avances futuros logren producir herramientas fiables y eficaces, el acceso y la capacidad de utilizarlas pueden variar entre oficinas y niveles de gobierno.

III. Retos específicos en las elecciones: la IA como herramienta para desviar recursos y distorsionar la percepción de las necesidades públicas.

El potencial de la IA generativa para interrumpir el trabajo de las oficinas electorales representa un riesgo importante para la democracia. Las leyes de acceso público a la información (también llamadas leyes de transparencia) son herramientas esenciales de rendición de cuentas que permiten al público examinar el funcionamiento interno del gobierno y exigir responsabilidades a los responsables políticos. Pero en ciclos electorales anteriores, los negacionistas electorales han utilizado estas leyes como arma para distraer y sobrecargar a funcionarios de algunas oficinas electorales, sustituyendo el importante trabajo de la administración electoral en momentos cruciales.

En los meses previos a las elecciones legislativas intermedias de 2022, ciudadanos movilizados por grupos nacionales bien financiados y alimentados por teorías conspirativas —con conexiones al ataque del 6 de enero de 2021 al Capitolio de EE. UU.— inundaron las oficinas electorales locales con solicitudes de documentos. Algunas de estas solicitudes buscaban información sensible, como registros de votos emitidos, protocolos de seguridad electoral o números de serie de las máquinas de votación. Si bien las leyes estatales de acceso público pueden impedir legítimamente que las oficinas electorales divulguen información que ponga en riesgo la seguridad electoral, los funcionarios locales no siempre saben qué información debe o no debe divulgarse en respuesta a dichas solicitudes.

En el futuro, los negacionistas electorales y otros actores maliciosos podrían intensificar estos esfuerzos utilizando bots impulsados por IA generativa. Las leyes estatales generalmente no limitan el uso de bots para presentar solicitudes masivas de información, ni permiten a los funcionarios negarse a responder a solicitudes automatizadas, incluso si la intención es desviar la atención de las tareas críticas de administración electoral antes del día de las elecciones.

Las oficinas electorales también dependen de la participación pública para ofrecer información relevante sobre las elecciones y priorizar tareas frente a recursos extremadamente limitados. Los funcionarios electorales deben conocer las necesidades de las personas con discapacidad, de los grupos con idiomas minoritarios y de otras comunidades desfavorecidas, especialmente cuando esos grupos enfrentan problemas para registrarse o emitir su voto el día de las elecciones. Los funcionarios también deben estar al tanto de las áreas comunes de confusión sobre cómo votar y poder abordar eficazmente las preocupaciones sobre la seguridad electoral entre grupos específicos.

El uso malicioso de la IA generativa podría poner en riesgo estas funciones esenciales. Comentarios masivos engañosos generados por IA, que distorsionen o ahoguen las preguntas y opiniones genuinas del público, podrían derivar en un apoyo insuficiente para votantes necesitados y en esfuerzos educativos mal dirigidos. También podrían alimentar la aprobación de reglas restrictivas que crean más barreras al voto al generar la impresión de que los temores infundados sobre el proceso electoral son más comunes de lo que realmente son; en el pasado, difusores de desinformación han explotado temores infundados sobre la integridad electoral para impulsar políticas que restringen el acceso al voto sin una justificación legítima. La distorsión asistida por IA de las necesidades públicas percibidas podría, por tanto, hacer que los funcionarios electorales sean menos receptivos a los votantes, menos capaces de comunicar información electoral vital y menos propensos a proporcionar a los votantes información sobre los temas que más les importan.

IV. Motivos para un (moderado) optimismo: beneficios potenciales de la IA para un gobierno participativo y receptivo y salvaguardas necesarias.

Si bien la IA generativa y otras herramientas de IA presentan riesgos para un gobierno participativo y receptivo, también ofrecen oportunidades, especialmente su potencial para ayudar a los responsables de políticas a gestionar y responder mejor a los comentarios, opiniones y preguntas del público. Pero el uso gubernamental de la IA para asistir de forma sustancial en tareas delicadas también exige estándares para prevenir resultados inadecuados, sesgados o inexactos. (“Asistir de forma sustancial” significa emplear un sistema de IA para realizar una tarea más compleja que, por ejemplo, ordenar documentos alfabéticamente o clasificarlos por fecha o tamaño de archivo).

Las oficinas gubernamentales ya utilizan IA no generativa para proporcionar información al público y responder en tiempo real a ciudadanos que solicitan datos o servicios. Muchos organismos gubernamentales en Estados Unidos y en otros países emplean chatbots impulsados por IA para brindar asistencia las 24 horas del día. Normalmente no están impulsados por IA generativa, sino que suelen ser chatbots basados en reglas que reconocen palabras clave y ofrecen respuestas previamente aprobadas, o agentes conversacionales (similares a Siri de Apple) que utilizan aprendizaje automático y procesamiento del lenguaje natural para ayudar a los ciudadanos. Aunque los chatbots a menudo enfrentan resistencia pública —más de la mitad de los encuestados expresó opiniones negativas sobre interactuar con ellos en una encuesta—, a medida que mejoran, estas tecnologías de IA no generativa podrían ayudar a los gobiernos a conservar recursos y ser más receptivos si las oficinas aplican salvaguardas adecuadas para garantizar su uso correcto.

Los responsables políticos de todos los niveles de gobierno reciben un gran volumen de comunicaciones del público que pone a prueba la capacidad de personal ya sobrecargado para responder. Estos desafíos han sido ampliamente documentados en el contexto de la formulación de normas federales. Las agencias pueden recibir decenas o incluso cientos de miles de comentarios sobre una política propuesta, la mayoría de los cuales recibe un tratamiento superficial. Los organismos administrativos locales enfrentan dificultades similares para responder a solicitudes de información, opiniones y preguntas de los ciudadanos. Por ejemplo, en una auditoría sobre la capacidad de respuesta a solicitudes de información sobre cómo solicitar vivienda pública, alrededor del 40 % de las solicitudes, en promedio, no recibió respuesta.

Atender las comunicaciones del público también es una tarea prioritaria para el Congreso y para las legislaturas estatales y locales. La Fundación de Gestión del Congreso estima que muchas oficinas del Congreso dedican aproximadamente el 50 % de sus recursos de personal a gestionar y responder comunicaciones de los ciudadanos.

Responder a la participación pública impone costes de oportunidad a las oficinas gubernamentales, pero descuidar esa participación también es problemático. La falta de respuesta por parte de los funcionarios puede erosionar la percepción ciudadana de su eficacia política y provocar que los ciudadanos se desconecten del proceso político.

En algunos casos, puede tener consecuencias más inmediatas y tangibles, como que los ciudadanos no obtengan la información o ayuda necesarias para acceder a beneficios a los que tienen derecho. Es especialmente preocupante cuando funcionarios no electos ignoran o pasan por alto mensajes del público. En el contexto de la formulación de normas federales, la tendencia bien documentada de los reguladores a desestimar la mayoría de los comentarios centrados en preferencias o valores políticos, en favor de unos pocos comentarios técnicos relativamente detallados (a menudo de la industria u otros actores establecidos), socava la legitimidad democrática de decisiones administrativas que afectan la vida de millones de personas. También tiende a inclinar los resultados de las políticas en favor de las comunidades más poderosas con recursos para aportar el tipo de información técnica que es más probable que reciba atención del personal de las agencias.

La IA podría abordar potencialmente estas deficiencias y mejorar los procesos de elaboración de normas. Varios artículos recientes han explorado cómo las nuevas herramientas de IA podrían ayudar al personal de las agencias a revisar y resumir los miles o incluso millones de comentarios recibidos en procesos normativos de alto perfil. Por ejemplo, los reguladores podrían utilizar modelos lingüísticos entrenados con el conjunto de materiales y comentarios relevantes para asistir en el procesamiento, síntesis y resumen de la información aportada por el público. Esta estrategia podría animar a los reguladores a considerar comentarios más centrados en valores al elaborar políticas. Las herramientas de IA también podrían mejorar otros aspectos del proceso de notificación y comentarios; por ejemplo, ayudando a los reguladores a detectar y filtrar comentarios automatizados, mal atribuidos o espurios (aunque persisten desafíos significativos en la detección de contenido generado por IA, como se describió antes). Y, aunque los comentaristas estadounidenses se han centrado principalmente en el uso de la IA en procesos regulatorios, los parlamentos nacionales de otros países también están experimentando con formas de usar la IA para recopilar y organizar las opiniones ciudadanas.

La IA generativa también podría facilitar la participación ciudadana con los funcionarios gubernamentales durante el proceso de comentarios públicos. Algunos analistas han sugerido que la IA podría usarse para alertar a posibles comentaristas sobre temas de interés, ayudarles a revisar el texto de una norma, resumir literatura técnica e incluso redactar comentarios. Tales herramientas también podrían ayudar a personas que, de otro modo, carecerían del tiempo o la confianza para participar en el proceso de comentarios públicos. Sin embargo, nuevamente, es necesario abordar cuestiones relacionadas con la exactitud, el sesgo y la calidad de la información producida por la IA generativa.

A pesar de los beneficios potenciales, el uso de herramientas de IA más sofisticadas de aprendizaje automático y procesamiento del lenguaje —incluso aquellas no impulsadas por IA generativa— conlleva riesgos significativos. Los sistemas de IA necesitan pruebas adecuadas, verificación de la calidad de los datos de entrenamiento y supervisión humana para garantizar que proporcionen información precisa, accesible y útil al público. El sesgo es una preocupación importante. Por ejemplo, un bot de IA empleado por un gobierno local podría dar respuestas diferentes a ciudadanos que solicitan información sobre servicios municipales en función de los barrios donde viven. O un agente conversacional de IA podría tener dificultades para procesar ciertos acentos o dialectos, escenarios que podrían afectar de forma desigual a comunidades pobres, comunidades racializadas y comunidades cuya lengua principal no sea el inglés.

Las salvaguardas que regulen el uso de la IA para estos fines son imprescindibles. Usar IA para revisar, resumir y filtrar comentarios públicos presenta las mismas preocupaciones sobre precisión y sesgo que su uso en otros contextos. La gente se siente, con razón, incómoda ante la idea de que la IA sustituya la deliberación humana en la toma de decisiones gubernamentales. Una preocupación es que “nadie en la agencia lea realmente los comentarios y analice sus argumentos”. Además, las herramientas de IA podrían usarse no solo para revisar y resumir comentarios, sino también para generar respuestas que justifiquen un enfoque predeterminado de la agencia. Se necesitan estándares exigibles para garantizar que las herramientas de IA revisen y resuman los comentarios de forma precisa y sin sesgo. Y también para mantener a los responsables humanos activos en el trabajo reflexivo de responder a esos comentarios e incorporarlos, cuando corresponda, a las decisiones políticas finales.

V. Soluciones de política pública.

- Implementar sistemas precisos y eficaces para verificar la actividad humana, con especial atención a la accesibilidad y la privacidad de los datos. Los organismos gubernamentales deberían implementar políticas que protejan contra el uso malicioso de bots para presentar comentarios masivos generados por IA con la intención de distorsionar la percepción oficial del sentimiento público.

Los sistemas que verifican la actividad humana pueden ayudar en parte a este objetivo, pero también pueden añadir fricción para los usuarios, generar problemas de privacidad de datos y reducir el acceso para estadounidenses con discapacidades. La mayoría de las agencias federales reciben comentarios públicos sobre la elaboración de normas a través de Regulations.gov, que emplea el sistema de verificación humana reCAPTCHA para reforzar la integridad del proceso de envío de comentarios. (CAPTCHA significa “prueba de Turing pública y automática para diferenciar a máquinas y humanos”). Aunque no es infalible, reCAPTCHA ayuda a distinguir entre actividad humana y de bots. Regulations.gov utiliza una nueva generación de reCAPTCHA que mejora la accesibilidad respecto a generaciones anteriores, presentando a los usuarios una simple casilla de verificación “¿Eres un robot?” como primer desafío, mientras analiza el comportamiento del usuario para detectar señales de actividad automatizada. Sin embargo, al menos un estudio ha encontrado que esta versión de reCAPTCHA aún introduce obstáculos para personas con discapacidad visual; además, recopila algunos datos del usuario para determinar si es humano.

Las entidades gubernamentales —incluidos el Congreso, agencias estatales y departamentos que administran leyes de acceso a registros— deberían incorporar sistemas de verificación humana en sus procesos para recibir comentarios públicos y solicitudes de documentos. Los funcionarios deberían evaluar continuamente el sistema CAPTCHA y otros métodos de verificación a medida que evolucionen las capacidades tecnológicas, seleccionando aquellos que maximicen la seguridad y la accesibilidad. Deberían prestar especial atención al uso creciente de IA generativa para derrotar los sistemas CAPTCHA existentes y a la necesidad de nuevos sistemas que los sustituyan. Las leyes y normativas deberían exigir una recolección y retención mínima de datos necesaria para la tarea, prohibir que las oficinas compartan los datos recopilados y obligar a su eliminación periódica. Las oficinas gubernamentales y los proveedores de sistemas de verificación también deberían estar obligados a revelar detalles sobre la recopilación y almacenamiento de datos (sin comprometer sustancialmente la eficacia del sistema al dar pistas a posibles defraudadores sobre cómo eludir las defensas). Además, las oficinas gubernamentales deberían proporcionar métodos alternativos de envío y verificación para personas con discapacidades y para quienes no tengan acceso a tecnología o internet de alta velocidad.

- Crear oportunidades para la participación presencial y encuestas directas a ciudadanos identificados.

A medida que el problema de los comentarios públicos engañosos generados por bots se vuelva más disruptivo, los organismos gubernamentales deberían explorar modos de participación menos vulnerables a la distorsión mediante IA generativa.

Las oportunidades de participación presencial podrían incluir audiencias públicas, reuniones comunitarias y foros similares. Estas deberían celebrarse en lugares, regiones y horarios que permitan la participación de un amplio espectro de la población. Las instituciones de gobierno deberían aplicar buenas prácticas para aumentar el acceso a personas con discapacidades, comunidades racializadas y comunidades inmigrantes. Dichas prácticas incluyen ofrecer interpretación simultánea con intérpretes familiarizados con la terminología política relevante donde las comunidades con otra lengua dominante superen un umbral determinado; proporcionar intérpretes de lengua de signos americana y otras adaptaciones necesarias; y garantizar, cuando sea posible, que las audiencias sean accesibles mediante transporte público.

Dado que las reuniones comunitarias y audiencias públicas suelen carecer de representatividad y tienen un alcance limitado, las agencias y organismos deberían incorporar de manera sistemática herramientas como encuestas dirigidas a ciudadanos identificados —por ejemplo, quienes hayan utilizado servicios gubernamentales o solicitado beneficios públicos— para recopilar opiniones, percepciones y comentarios. Estas encuestas ofrecerían información valiosa sobre la implementación de programas y la prestación de servicios. Los funcionarios deberían realizar la difusión de encuestas de forma que refuerce la integridad y la inclusividad del proceso de recopilación de datos sin imponer cargas indebidas a los encuestados. Para reducir el riesgo de distorsión por uso engañoso de IA, las encuestas en línea deberían emplear sistemas de verificación humana eficaces, accesibles y respetuosos con la privacidad, y podrían ofrecerse en una plataforma uniforme para todas las agencias.

- Autorizar a los organismos gubernamentales a desestimar aportaciones sobre regulaciones propuestas enviadas fraudulentamente mediante bots o sistemas automatizados.

La Ley de Procedimiento Administrativo federal, las leyes administrativas estatales y las leyes de acceso a registros, exigen que los organismos consideren las aportaciones del público sobre reglas propuestas en plazos definidos y respondan oportunamente a las solicitudes de documentos, con ciertas excepciones. Sin embargo, actualmente no existe una excepción para los comentarios y solicitudes presentados utilizando herramientas de IA con la intención de distorsionar la formulación de políticas o desviar recursos. Cuando existan pruebas sólidas de que los comentarios o solicitudes de registros han sido transmitidos fraudulentamente mediante bots o sistemas automatizados, las leyes federales y estatales deberían permitir a las agencias negarse a considerar esas presentaciones y solicitudes.

Las regulaciones y políticas que rigen el uso fraudulento de la IA deberían abarcar la suplantación o replicación de actividad humana mediante bots u otros sistemas automatizados que representen de forma significativa una falsa magnitud de participación humana. Este estándar no debería incluir, por ejemplo, el uso de IA generativa por parte de una persona u organización para ayudar a redactar comentarios, ni el uso de cartas modelo cuando sean respaldadas por personas reales —un criterio que podría perjudicar a comunidades desfavorecidas—. Más bien, debería dirigirse al uso de bots o sistemas automatizados, impulsados por IA generativa o no, para enviar numerosas presentaciones políticas destinadas a sesgar la percepción oficial sobre el número de personas involucradas o para presentar solicitudes de registros en nombre de personas inexistentes. Debería otorgarse un aviso suficiente y oportunidad de apelación para cualquier determinación de este tipo. Dadas las limitaciones actuales de las herramientas de detección de contenido generado por IA, y su historial de clasificar erróneamente contenido de hablantes no nativos de inglés, dichas herramientas no deberían utilizarse a menos que cumplan con estándares rigurosos.

- Establecer salvaguardas para el uso gubernamental de IA en el análisis de comentarios públicos o la asistencia sustancial en la redacción de normas o políticas.

Si bien la IA presenta oportunidades para mejorar la capacidad de respuesta de los responsables políticos a sus ciudadanos, también puede introducir riesgos de sesgo, inexactitud y falta de fiabilidad que deben abordarse antes de poner tales sistemas en uso. El Congreso, las legislaturas estatales y las agencias federales y estatales deberían implementar salvaguardas para mitigar estos riesgos, incluidas exigencias aplicables al uso gubernamental de IA para analizar comentarios públicos, interactuar con los ciudadanos y asistir sustancialmente en la redacción de regulaciones, leyes y políticas.

Para el uso federal de IA, el Congreso debería ordenar a la Oficina de Gestión y Presupuesto (OMB) que promulgue regulaciones que establezcan umbrales mínimos de calidad de los datos de entrenamiento y precisión del sistema de IA; incluyendo estándares que aborden el sesgo derivado del aprendizaje por refuerzo con retroalimentación humana, prohíban la discriminación algorítmica definida por regulación y requieran un nivel mínimo de participación y supervisión humana en la toma de decisiones y comunicaciones públicas sustancialmente asistidas por IA. Los legisladores también deberían limitar los tipos de información que los sistemas de IA pueden examinar al evaluar comentarios públicos en el marco de procesos sujetos a la Ley de Procedimiento Administrativo (por ejemplo, restringiendo el uso de raza real o estimada para correlacionar opiniones con raza).

- El Congreso también debería:

>Facilitar el desarrollo de métodos de prueba para evaluar los sistemas de IA conforme a los requisitos mencionados para su uso específico en el análisis de comentarios públicos y la redacción de políticas.

>Obligar a la documentación por parte de organismos y proveedores de IA del cumplimiento de dichos requisitos.

>Exigir que los organismos implementen medidas de mitigación cuando sea necesario y prohibir el uso de sistemas de IA —incluida la IA generativa— con fines de análisis de comentarios públicos o redacción de políticas cuando no cumplan con los requisitos y sus defectos no puedan corregirse razonablemente.

>Obligar a los organismos a supervisar continuamente el uso de los sistemas de IA tras su prueba e implementación.

>Establecer mandatos de transparencia para el uso de IA en la asistencia sustancial a los procesos y decisiones del gobierno federal.

>Exigir a los organismos que revelen su uso de sistemas de IA, el propósito de dicho uso, los parámetros principales del sistema para clasificar información o realizar predicciones, las fuentes de datos utilizadas para entrenarlo y el nivel de participación humana en la revisión de decisiones y comunicaciones públicas importantes asistidas por IA.

En línea con la reciente orden ejecutiva del presidente Biden sobre IA, la OMB y la Oficina de Gestión de Personal deberían incorporar directrices similares para las agencias federales. Las legislaturas estatales deberían adoptar requisitos comparables para el uso estatal de sistemas de IA.

- Buscar una mejor comprensión de cómo los ciudadanos utilizan IA generativa para redactar comentarios en procesos normativos y otras presentaciones políticas

Las agencias deberían colaborar de forma continua con organizaciones cívicas para conocer cómo los actores sociales de diversas comunidades están utilizando la IA para interactuar con el gobierno e identificar carencias en educación y concienciación públicas. Las organizaciones cívicas deberían ofrecer orientación a los ciudadanos que deseen usar IA generativa para ayudar a redactar comentarios sobre normas propuestas u otras presentaciones políticas. Deberían aconsejar sobre la especificidad necesaria de las instrucciones, la importancia de revisar los comentarios antes de su envío para asegurar que reflejan con exactitud las opiniones de quien los presenta, la conveniencia de verificar los datos producidos por herramientas de IA, los sesgos culturales inherentes a algunos sistemas de IA y la posibilidad de que estas herramientas generen contenido falso, erróneo o que no refleje las opiniones reales de la ciudadanía.

Resumen: IA, participación ciudadana y capacidad de respuesta del gobierno.

1. El problema.

Caso FCC (2017): más de un millón de comentarios falsos, enviados por bots, pidieron derogar la neutralidad de la red.

Este caso mostró cómo la manipulación digital puede distorsionar la percepción oficial del sentir ciudadano.

La IA generativa permite producir mensajes masivos y variados que imitan a personas reales, dificultando su detección.

2. Riesgos para la democracia participativa.

- Manipulación de comentarios públicos en procesos regulatorios.

- Distorsión de la opinión pública que reciben legisladores y autoridades.

- Amenazas en elecciones:

Bots que saturan oficinas electorales con solicitudes falsas. Mensajes falsos que crean desconfianza en el proceso electoral. Desvío de recursos que deberían destinarse a la administración del voto.

3. Vulnerabilidades identificadas.

- Canales de participación pública más expuestos:

1. Correspondencia con funcionarios electos.
2. Comentarios en línea a organismos reguladores.

- Los avances en IA reducen las señales que antes delataban contenido falso.

- Herramientas de detección actuales tienen baja fiabilidad.

4. Oportunidades de la IA.

- Procesar, resumir y analizar grandes volúmenes de aportes ciudadanos. Facilitar la participación de personas que no disponen de tiempo o experiencia para escribir comentarios técnicos.

- Mejorar la accesibilidad a la información pública mediante chatbots y asistentes automáticos (con salvaguardas).

5. Riesgos adicionales de la IA.

- Sesgos algorítmicos que discriminen según origen, idioma o nivel socioeconómico.

- Posible sustitución de la deliberación humana, reduciendo el análisis crítico por parte de autoridades.

- Uso para justificar políticas predefinidas sin evaluar realmente las opiniones recibidas.

6. Propuestas de solución.

1. Verificación humana robusta en la recepción de comentarios y solicitudes, equilibrando seguridad, accesibilidad y privacidad.
2. Ampliar la participación presencial (audiencias, foros, encuestas a ciudadanos identificados).
3. Permitir legalmente que las agencias ignoren comentarios o solicitudes generados fraudulentamente por bots.
4. Establecer normas claras para el uso gubernamental de IA en el análisis de comentarios o la redacción de políticas. 5. Transparencia y supervisión: exigir que se revele el uso de IA, fuentes de datos, parámetros y grado de intervención humana.
6. Colaboración con organizaciones cívicas para comprender y guiar el uso ciudadano de IA en la participación política.

Idea central:

La IA puede mejorar la gestión de la participación ciudadana, pero sin salvaguardas sólidas, transparencia y control humano, también puede convertirse en una herramienta peligrosa para distorsionar la democracia.

Se cumplen 80 años del lanzamiento de la primera bomba atómica sobre Hiroshima. Aún hoy se mantiene la controversia y deberíamos preguntarnos si aquel acto fue realmente inevitable y si respondió a intereses estratégicos de Estados Unidos y al objetivo de hacer una demostración de poder ante Rusia.

¿Era imprescindible para forzar la rendición de Japón y evitar la muerte de miles de soldados estadounidenses en una ocupación del territorio japonés? ¿O fue un acto de guerra desproporcionado en un contexto geopolítico que ya anticipaba la Guerra Fría?

La entrada de la Unión Soviética en la guerra contra Japón, el 8 de agosto de 1945, pudo haber sido un factor suficiente para precipitar la rendición japonesa, tal como reconocieron varios miembros del alto mando nipón en sus declaraciones posteriores. Pero la participación de Stalin suponía un riesgo para los intereses americanos que no querían que se reprodujera la expansión de Rusia en Asía como acababa de suceder en Europa tras derrotar a Hitler.

La bomba causó la muerte inmediata de unos 70.000 civiles en Hiroshima. En los meses siguientes, las víctimas aumentaron drásticamente debido a las heridas, quemaduras y efectos de la radiación. Tres días más tarde, el 9 de agosto de 1945, Nagasaki fue atacada con una segunda bomba atómica. En conjunto, más de 240.000 personas murieron como consecuencia directa o indirecta de los bombardeos.

Es cierto que el ataque japonés a Pearl Harbor, el 7 de diciembre de 1941, había desencadenado la guerra del Pacífico. Sin embargo, resulta llamativo que el emperador Hirohito, responsable de no aceptar la rendición tras las tragedias del bombardeo convencional que arrasó Tokio (costó la vida a 100.000 personas en marzo de 1945) y el de la bomba de uranio sobre Hiroshima, no fuera juzgado por el Tribunal Militar Internacional cuando sí lo fueron otros altos mandos. La decisión de excluirlo de los juicios fue tomada por el general MacArthur y validada por el presidente Truman, con el objetivo de evitar una desestabilización interna en Japón y facilitar su rendición pero manteniendo la institución y la impunidad del emperador.

Se puede hablar de una guerra “justa” por parte de Estados Unidos en términos de legítima defensa. Pero eso no impide preguntarse si el lanzamiento de esas bombas nucleares fue desproporcionado. La dimensión del sufrimiento humano, como consecuencia de los efectos que produjeron, me llevan a considerarlo como un acto ilegítimo que debería ser calificado como crimen de guerra.

Los libros de historia documentan las atrocidades cometidas por el ejército japonés y recogen un relato de conveniencia que justifica el uso de las bombas atómicas. También explican y denuncian el genocidio perpetrado por la Alemania nazi. Sin embargo, cuesta más encontrar un análisis crítico de los dos bombardeos atómicos o de los ataques aéreos masivos sobre ciudades alemanas, como Dresde, al final de la guerra europea, que castigaron duramente a la población civil bajo el pretexto de haber apoyado a Hitler. Lo más preocupante es que la historia se narre, en ocasiones, desde una mirada acrítica, desde la óptica de los vencedores que son quienes escriben lo acontecido, sin aceptar ningún cuestionamiento ético de fondo.

¿Qué dirán los libros de texto sobre lo que ocurre hoy en Gaza? ¿Se hablará del genocidio sufrido por la población palestina o solo del ataque terrorista inicial de Hamás invadiendo el suelo israelí con toma de rehenes, que desató una respuesta desproporcionada y sostenida por parte de Israel? Las palabras importan. Y el modo en que nombramos los hechos puede condicionar cómo los comprendemos y juzgamos.

Por eso, en el escenario político actual —con figuras como Trump, Putin, Netanyahu y otros autócratas belicistas en escena, capaces de lo peor— es más necesario que nunca que la opinión pública levante la voz contra el uso de las armas nucleares, contra los actos desproporcionados y las atrocidades de la guerra.

Los conflictos han de abordarse desde el diálogo, el multilateralismo y la diplomacia. Aunque suene ingenuo son esos los verdaderos instrumentos en favor de la paz, además de la disuasión y prevención. Y no pueden seguir siendo despreciados si queremos hacer posible la defensa de la pervivencia de la humanidad y la dignidad humana.

Odón Elorza / Ex diputado socialista (2012-2022) y licenciado en derecho.
San Sebastián, 7 de agosto de 2025 / Publicado en agendapublica.es

En tiempos de desafección política, desinformación, retrocesos en el sistema democrático y discursos reaccionarios, aparecen iniciativas -contra todo pronóstico- que recuperan el pulso cívico y tratan de devolver la política a sus raíces: la participación activa de la ciudadanía en la defensa del interés general. Una de ellas se da en San Sebastián, donde un movimiento vecinal ha abierto una nueva vía de intervención democrática desde la base.

La protagonista es la Plataforma Ciudadana San Bartolomé, surgida para defender la ladera verde del cerro homónimo frente a la amenaza de levantar ahí un nuevo centro comercial. Pero esta no es una lucha nostálgica ni un simple “no” al urbanismo especulativo: es una propuesta constructiva y colectiva para respetar la memoria de un sitio con historia y crear un parque urbano accesible de 4.000 m2, diseñado desde la inteligencia compartida y el compromiso con el medioambiente.

Un lugar con historia, una ciudadanía con visión de futuro.

El Cerro de San Bartolomé, situado en pleno corazón de Donostia, acogió en el siglo XIII un primer monasterio. Hasta hace poco, su ladera era un espacio libre protegido por el planeamiento urbano. Sin embargo el Pleno del Ayuntamiento -gobernado entonces por Bildu— aprobó en 2015 una modificación del Plan General para construir en la ladera un proyecto de gran impacto: un centro comercial con aparcamiento subterráneo, promovido por el propio Ayuntamiento junto a cuatro constructoras y un fondo de inversión.

Lejos de resignarse, un grupo plural de vecinos y vecinas se organizó de forma independiente y apartidista para frenar la operación. La Plataforma nació como acto de resistencia, casi como una rebeldía. Pero hoy es mucho más: un foro vivo de propuestas, creatividad y participación democrática. Su objetivo es claro: recuperar el diálogo con las instituciones y defender el derecho ciudadano a imaginar y participar en decisiones sobre el futuro medioambiental de su ciudad. 

De la protesta a la propuesta.

Después de tres años de escritos para acceder a los expediente, formular quejas, recursos y un trabajo intenso de sensibilización, la Plataforma logró un giro inesperado. En abril, el alcalde Eneko Goia, que lidera un gobierno PNV-PSOE, anunció que renunciaba —al menos de palabra— a la construcción del centro comercial. Fue un reconocimiento tácito a la presión vecinal, aunque sin compromisos firmes. La desconfianza permanece ante el impasse. Mientras, Goia prorroga una licencia de obras, que ya había caducado, para un artefacto comercial especulativo.

Por eso, lejos de bajar los brazos, la Plataforma ha redoblado su empeño. En lugar del edificio comercial que arrasaba una zona verde, propuso un Parque público adaptado a las características del terreno. Para ello, ha recurrido a las nuevas herramientas: una página web participativa, presencia en redes sociales, una expo digital, el uso de inteligencia artificial para visualizar modelos posibles del Parque y, por supuesto, al asesoramiento de técnicos en urbanismo, patrimonio cultural, jardinería e ingeniería.

Hacer ciudad desde lo común.

La fuerza de esta experiencia no reside solo en su reivindicación, sino en el método: cooperación, innovación, horizontalidad. Son ya 500 personas las que se han sumado a la iniciativa. A partir del uno de septiembre la Plataforma reforzará el proceso de participación ciudadana con reuniones abiertas, actos culturales y una exposición online interactiva alojada en su página web (ver plataformasanbartolome.com).

Cualquier donostiarra podrá acceder a la expo, informarse, analizar representaciones visuales del parque y expresar ideas o comentarios. Todas las aportaciones serán analizadas. La propuesta final -rigurosa y documentada- se entregará al Ayuntamiento como contribución democrática a la recuperación de San Bartolomé.

Una pequeña epopeya democrática.

Este caso ilustra cómo la ciudadanía organizada puede desafiar modelos de ciudad impuestos, rescatar espacios públicos y revitalizar la democracia local. Ante gobiernos municipales que olvidan la transparencia y pierden sensibilidad social, esta iniciativa demuestra que otra forma de hacer ciudad, es posible y deseable.

San Bartolomé puede convertirse en un símbolo de la participación: el lugar donde la inteligencia colectiva diseñó un parque. En un momento en que el sistema democrático parece alejarse de la vida cotidiana, acciones como esta nos recuerdan que la política no se agota en los despachos e instituciones. Y que ejercer el derecho de ciudadanía con buenas prácticas, no es solo un acto de resistencia sino incluso de recuperación de la confianza en la democracia.

Odón Elorza / 31 de julio de 2025. 

Ex alcalde de Donostia-San Sebastián (1991-2011), licenciado en derecho y miembro de la plataformasanbartolome.com