En Algorithmic Democracy: A Critical Perspective Based on Deliberative Democracy, Domingo García-Marzá y Patrici Calvo desentrañan la creciente influencia de los algoritmos en la democracia, un campo de especial relevancia para el desarrollo de las sociedades. A través de tres secciones, los autores advierten de manera instructiva sobre cómo los algoritmos pueden socavar los cimientos de la democracia, a la vez que proponen las bases para la acción de la sociedad civil mediante una crítica filosóficamente fundamentada.

La primera sección introduce los argumentos fundamentales en que se apoya la propuesta de una crítica de la democracia algorítmica. En tanto que “sistema de organización social y gobernanza política cuyo ámbito de actuación se enmarca en la incorporación progresiva de la IA y sus tecnologías en todos los procesos de deliberación, toma de decisiones y diseño institucional, tanto en el Estado como en la sociedad civil” (p. 10), la democracia algorítmica contiene un peligro que los autores reconstruyen a contraluz de la democracia deliberativa y la ética discursiva: puede minar las bases de los modelos deliberativos de democracia al colonizar la sociedad civil, desvirtuar los procesos comunicativos y desactivar la participación ciudadana.

Tras enmarcar los riesgos que implica la algoritmización de la democracia, la segunda sección ofrece un recorrido histórico y conceptual de la inteligencia artificial que sirve de base para analizar los retos éticos y políticos que presentan los algoritmos. A diferencia de la segunda era de la inteligencia artificial, el uso de algoritmos ya no destaca solo por su contribución a la eficiencia. Puede debilitar la estructura misma de nuestras instituciones democráticas al tomar decisiones complejas que afectan directamente la vida de las personas. Esta transición plantea serios desafíos éticos, especialmente en términos de responsabilidad y transparencia, tanto en la toma de decisiones políticas como en la participación ciudadana.

Un ejemplo de ese desafío lo representa la “gobernanza algorítmica”, es decir, la toma de decisiones políticas basada en algoritmos. Frente a la idea seductora de que el reemplazo del político humano por el político virtual para la toma de decisiones puede ser útil para hacer frente a la corrupción y la ineficiencia, nos encontramos con el riesgo de eliminar la responsabilidad democrática, así como perpetuar y amplificar las desigualdades y los errores del sistema existente. Otro ejemplo de los riesgos de la algoritmización de la democracia lo encontramos en la plataformización de la esfera pública. Las plataformas digitales transforman la esfera pública, facilitan la comunicación y la organización, pero también se nos advierte de que la fragmentan y la polarizan. La esfera pública artificial creada por macrodatos y bots amenaza con disolver el espacio de deliberación racional y civilizado esencial para una democracia saludable, mientras se prioriza el contenido sensacionalista y polarizador que genera más interacciones.

En el libro también pueden encontrarse algunas dosis de tecnooptimismo, manifestado por ejemplo en el reconocimiento del potencial democrático del uso de gemelos digitales, es decir, de representaciones virtuales personalizadas de los ciudadanos. Desde un punto de vista teórico, los gemelos digitales podrían facilitar una participación directa y automatizada en los procesos democráticos si se actualizan continuamente con enormes cantidades de datos, hasta el punto de dar lugar a una “democracia aumentada”. Desde este punto de vista, a la vez que se advierte del riesgo que implica la simulación superficial de la democracia, y de los intereses que esconden las empresas tecnológicas que intentan promocionar su uso en diferentes ámbitos de la administración, los autores también sugieren que los algoritmos podrían ofrecer la base para un examen público de los procesos democráticos y para el acuerdo intersubjetivo.

Los autores no rehúyen entonces una pregunta pertinente tanto con la actual deriva tecnocrática, como con el potencial parcial que podrían presentar los algoritmos para la democracia: ¿es posible el aprendizaje moral de los algoritmos? La respuesta que encontramos está ciertamente marcada por el escepticismo. A pesar del avance en el aprendizaje automático y las redes neuronales, García-Marzá y Calvo dudan de la capacidad de los algoritmos para replicar la complejidad del juicio moral humano. Esto se sustenta no solo en que actualmente carecen de una completa capacidad de entender el contexto y las sutilezas de las situaciones humanas. Uno de los principales problemas ahora mismo es la falta de transparencia en cómo se toman las decisiones algorítmicas. Esto plantea serios problemas de responsabilidad frente a los que sería necesario contar con un marco claro de rendición de cuentas.

La segunda sección incluye también un análisis sobre otra de las tecnotendencias que han acaparado interés en los últimos tiempos: el metaverso. Como realidad digital completamente inmersiva en la que las interacciones económicas, sociales y culturales se entrelazan en un entorno virtual, se destaca el potencial del metaverso para crear nuevas oportunidades económicas, formas innovadoras de educación o experiencias culturales enriquecedoras. No obstante, también se advierte de algunos riesgos a tener en cuenta, tales como la concentración del poder económico en unas pocas plataformas gigantes, la explotación de los datos personales y la posibilidad de que el metaverso amplifique las desigualdades existentes.

La tercera y última sección contiene la parte con la que García-Marzá y Calvo plantean contrarrestar los peligros de la democracia algorítmica. Frente a la hiperética artificial que implica la automatización de la moral a través del uso de algoritmos, proponen una crítica de la razón algorítmica, sostenida fundamentalmente en las bases de la filosofía política y moral de Habermas, para defender que la eficiencia técnica siempre debe ir acompañada de una comprensión profunda de los valores humanos y la justicia social. Desde estas referencias, que nos permiten criticar la deshumanizante reducción de las complejidades de la vida a meros datos cuantificables, los autores no limitan el trabajo a una reconstrucción normativa de la crítica de la democracia algorítmica, sino que hacen uso de las bases de la ética discursiva para proyectar un horizonte de cambios. Bajo este enfoque, que conlleva la reivindicación del papel de la ética aplicada en el sistema democrático, se defiende el potencial orientador de una ética digital dialógica. Con esta propuesta se defiende el fomento de mecanismos basados en la transparencia y la explicabilidad para contribuir a generar la confianza necesaria para fortalecer la democracia mediante una mayor participación de la sociedad civil en el diseño y la implementación de sistemas algorítmicos.

De este modo, la idea habermasiana de que la democracia requiere de una sociedad bien informada y crítica se vuelve presente al reclamar la contribución de una sociedad civil crítica al desarrollo y uso de algoritmos alineados con valores democráticos y éticos fundamentales. Para trabajar en esta dirección, eso sí, los autores no depositan la responsabilidad en exclusiva a la ciudadanía que se ve afectada por la tecnologización de la vida democrática. La educación y la concienciación pública deben jugar un papel clave, así como la creación de plataformas y foros donde los ciudadanos puedan deliberar y expresar sus preocupaciones y sugerencias sobre el uso de la inteligencia artificial en la gobernanza.

En línea con este enfoque, el libro aborda los beneficios que puede aportar una perspectiva basada en el diseño institucional para mejorar la integración ética de los algoritmos en la gobernanza. Los autores ponen en valor el papel de las instituciones para crear nuevas estructuras y procedimientos que permitan una supervisión efectiva de los sistemas algorítmicos, a la vez que aseguran que estos procedimientos operan con transparencia y responsabilidad. Junto con un marco legislativo robusto, el avance hacia este horizonte solo se puede dar si también se acompaña del fomento de una cultura de ética y responsabilidad en las instituciones.

Algorithmic Democracy: A Critical Perspective Based on Deliberative Democracy (García-Marzá y Calvo, 2024) constituye una contribución actual a los análisis de los retos que presenta la inteligencia artificial para la democracia. De manera similar a aportaciones relevantes en este campo, como The Political Philosophy of AI (Coeckelbergh, 2022), incluye numerosos ejemplos prácticos que permiten visualizar diversos desafíos planteados por la inteligencia artificial. Sin embargo, a la luz del modelo de crítica defendido en la obra, el enfoque ilustrativo no es su único rasgo más distintivo. Desde la tradición habermasiana, en la que también se inscribe la reciente obra ¿Ética o ideología de la inteligencia artificial?: El eclipse de la razón comunicativa en una sociedad tecnologizada (Cortina, 2024), García-Marzá y Calvo justifican el valor de las coordenadas de la ética discursiva y la democracia deliberativa como base para la crítica de la algoritmización de la democracia. La obra no contiene, por lo tanto, un análisis crítico disuelto en el marco general de la ética. Se apoya en una fundamentación filosófica específica para abordar aspectos clave como la mercantilización de la esfera pública, y de la sociedad civil en general, a la vez explicita una serie de cimientos desde los que proyectar horizontes democráticos más optimistas.