INTRODUCCIÓN

Es tal el poder simbólico y tecnológico de la actual revolución digital para construir sentido y credibilidad a sus intervenciones, que cuesta un gran esfuerzo relacionar dos situaciones que, aparentemente, han coincidido casualmente para edificar el suelo firme en el que hoy se asientan las pretensiones de la democracia algorítmica.

Por una parte, nos encontramos con la desafección democrática, una situación donde los sistemas democráticos sufren un gran desapego, una fuerte desconfianza e indignación, incluso rencor. Una falta de afecto relacionado con el incumplimiento sistemático de las expectativas legítimas de libertad e igualdad que esperábamos alcanzar desde la democracia. No existe contrato social alguno que legitime el aumento desmesurado de la desigualdad, ni nuestro olvido de las futuras generaciones (García Marzá, 2020García-Marzá, D. (2020). “Contra el nuevo revisionismo democrático: el alcance del valor moral de la democracia en K.-O. Apel”. ethic@-An international Journal for Moral Philosophy, 19(3), 568-591.).

Por otra parte, nos encontramos con una confianza firme, por no decir inquebrantable, en las nuevas tecnologías, en la dataficación y sus elementos básicos, como son los macrodatos, los algoritmos inteligentes y la hiperconectividad digital, que van a ser capaces de solucionar los problemas que el individualismo egoísta natural de las personas -según afirman (Matsumoto, 2018Matsumoto, T. (2018). The Day AI Becomes God. The Singularity will Save Humanity. Cambridge (NZ): Media Tectonics.)- sus intereses y pasiones, han provocado. Los algoritmos no solo nos salvarán de nuestros políticos, también lo harán hasta de nosotros mismos. Un injustificado optimismo tecnológico que está estructurando nuestra visión actual de la democracia, tanto en la política como en las empresas, universidades, hospitales, etc. y que ha quebrado el concepto de opinión pública como expresión del acuerdo posible que subyace a la democracia (Calvo, 2019aCalvo, P. (2019a). “Democracia algorítmica: consideraciones éticas sobre la dataficiación de la esfera pública”, Revista del CLAD Reforma y Democracia (74), 5-30.).

Desde este contexto, el presente artículo pretende analizar si esta quiebra representa una nueva transformación estructural de la esfera pública o, más bien, el hundimiento definitivo de un concepto que ya solo sirve para la manipulación y el engaño. Su objetivo es mostrar que, desde una democracia algorítmica, desde la progresiva sustitución, y no solo complementación, de las elecciones y decisiones democráticas por la inteligencia artificial y sus algoritmos, el concepto de opinión pública es incompatible con nuestro sentido de la democracia. No es posible hablar de una opinión pública fabricada por los algoritmos y sus tecnologías, de una opinión pública artificial. Para argumentar esta afirmación, la metodología utilizada consiste en una hermenéutica crítica centrada en la reconstrucción del saber intuitivo, de los recursos y capacidades que utilizamos como ciudadanos, tanto en las prácticas e instituciones políticas como en las que componen la sociedad civil (Cortina, Conill y García-Marzá, 2008Cortina, A., Conill, J. y García-Marzá, D. (eds.) (2008). Public reason and applied ethics: The ways of practical reason in a pluralist society. New York: Ashgate Publishing, Ltd.). Desde una ética de la democracia, se trata de explicitar las bases éticas de la confianza depositada en el sistema democrático y en sus instituciones, en nuestro caso de las instituciones que conforman el entramado socio técnico digital.

Con este fin daremos los siguientes pasos. En primer lugar, el artículo se centra en los rasgos básicos del proceso de dataficación de la opinión pública, desde el marco de un nuevo revisionismo democrático en el que encaja perfectamente. En segundo lugar, a través del análisis de múltiples ejemplos, se muestra el mecanismo interno de esta dataficación a través de la relación entre los macrodatos y los bots sociales, así como los riesgos y las pérdidas que supone esta matematización de la opinión pública. Por último, entraremos en el concepto de sociedad civil de Habermas para proponer una ampliación de su espacio de intervención, pues es desde el protagonismo de la sociedad civil desde donde es posible frenar la acelerada colonización de la democracia y de sus instituciones y procesos de deliberación, elección y decisión. Como conclusión, resumiremos estos argumentos relacionándolos con las tres dimensiones del concepto de opinión pública y proponiendo la creación de espacios de participación en el interior de las organizaciones que componen la sociedad civil.

1. LA DATAFICACIÓN DE LA OPINIÓN PÚBLICA

Detrás del concepto de opinión pública se encuentra siempre la necesidad de aceptación racional del poder político, la necesidad de apoyarse en la voluntad no de un particular o de un grupo, sino en la voluntad racional y razonada de todos los afectados. Toda relación de poder reclama una justificación, base de la expectativa de credibilidad que requiere para su uso, y la idea que transmite nuestro concepto es que el poder político es un poder público cuyas metas y efectos son públicos y precisa, en consecuencia, una aceptación pública. En definitiva, la idea de que las decisiones democráticas deben ser fruto de un acuerdo racional, de un consenso sobre lo que es de interés general. De ahí que la función básica del concepto dentro de la reflexión democrática sea precisamente constituir un criterio de legitimación del poder político (Sartori, 1992Sartori, G. (1992). Elementos de teoría política. Madrid: Alianza.; Pérez-Díaz, 1997Pérez-Díaz, V. (1997). La esfera pública y la sociedad civil. Madrid: Taurus.; Cortina, 1998Cortina, A. (1998). Hasta un pueblo de demonios: ética pública y sociedad. Madrid: Taurus.; Keane, 2018Keane, J. (2018). Vida y muerte de la democracia. México: Fondo de Cultura Económica.).

Sin embargo, la mala situación de nuestros sistemas democráticos, el incumplimiento sistemático de las expectativas que le otorgaban credibilidad, ha provocado un nuevo revisionismo donde la democracia ha dejado de ser la única respuesta posible a cómo organizar una opinión y una voluntad común dada la creciente desigualdad desafección (García Marzá, 2020García-Marzá, D. (2020). “Contra el nuevo revisionismo democrático: el alcance del valor moral de la democracia en K.-O. Apel”. ethic@-An international Journal for Moral Philosophy, 19(3), 568-591.). Una desconfianza que alcanza también al concepto de opinión pública. De hecho, la pregunta clave que debemos responder es si la opinión pública es hoy una opinión autónoma o más bien debemos olvidarnos del concepto desde las coordenadas de un nuevo cambio estructural, un cambio que tiene que ver con la dataficación, con la digitalización de la opinión pública y, con ella, con los rasgos de lo que denominaremos una democracia algorítmica (García Marzá y Calvo; 2022García-Marzá, D. y Calvo, P (2022). Algorithmic democracy: A critical perspective from deliberative democracy. Cham: Springer.; Calvo, 2019aCalvo, P. (2019a). “Democracia algorítmica: consideraciones éticas sobre la dataficiación de la esfera pública”, Revista del CLAD Reforma y Democracia (74), 5-30.).

En la actualidad la discusión democrática ya no se centra tanto en los modelos (deliberativo, elitista, asociativo, etc.), sino en los fundamentos mismos de la democracia, en concreto, en la igualdad de todos los afectados a la hora de tomar decisiones y en su inclusión en los diferentes procedimientos participativos. En su lugar, se presentan alternativas que, si bien mantienen el nombre, requieren de adjetivos muchas veces contradictorios. Este es el caso de la democracia iliberal o del autoritarismo democrático que comparten, de hecho, muchos gobiernos europeos. Democracias sin los derechos básicos para garantizar la igualdad y la participación, esto es, la autonomía de los ciudadanos. Ya no se intenta relacionar la igualdad intrínseca con la competencia cívica. Se discute la segunda, se niega la primera.

Un ejemplo de este nuevo revisionismo democrático es el de Jason Brennan, para quien la democracia no es inherentemente justa y, por tanto, nuestra obligación actual es buscar alternativas que funcionen mejor, que obtengan mejores resultados. La democracia tiene un carácter instrumental, no intrínseco. Es una herramienta y, si encontramos una mejor, deberíamos sentirnos libres para usarla. Dentro de esta búsqueda propone una epistocracia, el gobierno de los más preparados, de los expertos, puesto que, si «para la mayoría de nosotros la libertad y la participación política son perjudiciales, mejor es confiar en la racionalidad estratégica y su capacidad para tomar decisiones. Debemos partir de “como en realidad es la gente”, es decir, de su ignorancia, irracionalidad y desinformación (Brennan, 2018, p. 69Brennan J. (2018). Contra la democracia, Barcelona: Planeta.).

Por este camino de la sustitución de los afectados por el gobierno de los expertos en la búsqueda de profesionalidad y eficiencia en la toma de decisiones, dada su supuesta neutralidad y competencia, no es nada extraño que, en plena revolución digital, con los fenómenos de la hiperconectividad, la dataficación y la algoritmización, lleguemos a la idea de que mucho mejor nos iría si la toma de decisiones estuviera en manos de los algoritmos y no de las personas. Mientras que las personas no pueden ser objetivas y neutrales, dado su limitado ancho de banda cognitivo y su natural sesgo emocional, los algoritmos, en contra, se apoyan en los flujos de miles de millones de datos y metadatos masivos en línea de todo y en su alta capacidad de cómputo, muy superior a la humana, para describir la realidad y calcular las consecuencias. Estos nunca mienten, ni engañan, ni tergiversan la información de forma intencionada.

Los algoritmos proporcionan -nos dicen (Matsumoto, 2018Matsumoto, T. (2018). The Day AI Becomes God. The Singularity will Save Humanity. Cambridge (NZ): Media Tectonics.)- la objetividad y eficacia de los modelos matemáticos, capaces de sustituir las debilidades emocionales de los seres humanos, principal causa de las malas decisiones políticas y de los conflictos de interés, y sustituirlas por datos cuantificables y análisis estadísticos sobre los aspectos positivos de las propuestas políticas y las peticiones ciudadanas y sus posibles consecuencias. En este marco, la información publicada y el diseño, análisis, interpretación y reutilización de los macrodatos están intrínsecamente vinculados con modelos matemáticos artificialmente inteligentes. Por un lado, el conocimiento se basa en los datos y metadatos masivos que generan, principalmente, las cuentas de las redes sociales, las cuales son gestionadas en gran medida por bots sociales; es decir, por algoritmos diseñados para generar contenidos y/o mantener interrelaciones en el ciberespacio. Por otro lado, la recopilación, interpretación y reutilización de los datos y metadatos masivos que generan esas cuentas se lleva a cabo por otro tipo de bots sociales, aquellos dotados de inteligencia artificial y diseñados específicamente para este objetivo (Harper, 2017, p. 428Harper, T. (2017). “The big data public and its problems: Big data and the structural transformation of the public sphere”. New Media & Society 19(9), 1424-1439. https://doi.org/10.1177/1461444816642167 ). Esta opinión pública artificial, fabricada desde el interés técnico de dominio, es el nuevo pilar básico de esta democracia algorítmica, un marco de sentido y actuación cuyos rasgos pueden sintetizarse en los siguientes (Dijck, 2014Dijck, J. van (2014). “Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology”. Surveillance & Society 12 (2), 197-208. https://doi.org/10.24908/ss.v12i2.4776 ; Calvo, 2019aCalvo, P. (2019a). “Democracia algorítmica: consideraciones éticas sobre la dataficiación de la esfera pública”, Revista del CLAD Reforma y Democracia (74), 5-30.; García Marzá, 2020García-Marzá, D. (2020). “Contra el nuevo revisionismo democrático: el alcance del valor moral de la democracia en K.-O. Apel”. ethic@-An international Journal for Moral Philosophy, 19(3), 568-591.; Innerarity y Colomina, 2020Innerarity, D. y Colomina, C. (2020). “La verdad en las democracias algorítmicas”. Revista CIDOB d’afers internacionals (124), 11-23. ; Saura, 2022Saura, C. (2022). “El lado oscuro de las GAFAM: monopolización de los datos y pérdida de privacidad”. Veritas. Revista de Filosofía y Teología (52), 28-46. ):

Estamos ante una democracia donde son los algoritmos quienes definen los procesos de formación de la opinión pública, la toma de decisiones en las políticas públicas, el cálculo de resultados, etc. No es que los ordenadores hayan aprendido a pensar y tomar decisiones por sí mismos, más bien somos nosotros quienes hemos dejado que sean ellos quienes piensen por nosotros (Runciman, 2019, p. 151Runciman, D. (2019). Así termina la democracia. Barcelona: Paidós). De este modo, la ciudadanía deja de ser el objetivo para convertirse en el producto y la opinión pública va quedando cada vez más maniatada por la doxa masiva y eco artificial que producen los bots sociales y políticos, dotados o no de inteligencia artificial, en los diferentes espacios digitales de participación e interacción social. De hecho, la hibridación entre lo humano y no humano distorsiona las fronteras entre lo real y lo virtual y, con ello, deforma los procesos de gestión de lo público y sus resultados (Donati, 2019Donati, P. (2019). Sociología relacional de lo humano. Barañain: EUNSA. ). La autonomía de la voluntad enmohece ante la seducción del paternalismo algorítmico, ante el llamado tecnochovismo que nos invade (König y Wenzelburger, 2022König, P. D. y Wenzelburger, G. (2022). “Between technochauvinism and human-centrism: Can algorithms improve decision-making in democratic politics?”. European Political Science (21), 132-149. https://doi.org/10.1057/s41304-020-00298-3 ).

El principal problema de esta concepción de democracia pensada y diseñada desde la inteligencia artificial, es que los déficits de participación que supone la progresiva sustitución de las personas por los datos y metadatos masivos, los vacíos en la formación de la opinión y la voluntad común, han sido rellenados y ocupados rápidamente por los medios de comunicación sustentados por algoritmos dotados de inteligencia artificial, que hoy en día constituyen el impulso decisivo en este nuevo cambio estructural de la opinión pública (Hagen, Wieland e In der Au, 2017Hagen, L. M.; Wieland, M. e In der Au, A.-M. (2017). “Algorithmischer Strukturwandel der Öffentlichkeit: Wie die automatische Selektion im Social Web die politische Kommunikation verändert und welche Gefahren dies birgt”. Medienjournal-Zeitschrift für Medien-und Kommunkiationsforschung 41(2), 127-143.; Habermas, 2021Habermas, J. (2021). “Überlegungen und Hypothesen zu einem erneuten Strukturwandel der politischen Öffentlichkeit”. En: Seeliger, M. y Sevignani, S. (eds.), Ein neuer Strukturwandel der Öffentlichkeit?, Baden-Baden: Nomos, pp. 470-500.). Lo más preocupante es que esta suplantación no es una mera confusión entre opinión pública y opinión común, como recuento de datos y metadatos masivos sobre las opiniones individuales que dejan humanos y no humanos en el ciberespacio. Lo peor es que esta opinión así conformada no hace más que reflejar en los sondeos basados en datos y metadatos masivos aquella realidad que previamente se ha construido desde unas redes sociales en manos de las grandes compañías tecnológicas (Harper, 2017Harper, T. (2017). “The big data public and its problems: Big data and the structural transformation of the public sphere”. New Media & Society 19(9), 1424-1439. https://doi.org/10.1177/1461444816642167 ; Saura, 2022Saura, C. (2022). “El lado oscuro de las GAFAM: monopolización de los datos y pérdida de privacidad”. Veritas. Revista de Filosofía y Teología (52), 28-46. ).

Ni la libertad, ni la autonomía interesan. Tampoco, por supuesto, la responsabilidad. Si la opinión pública ya no es el fruto de la deliberación libre e igual, la democracia deja de tener sentido, puesto que se rompe el hilo, ya de por sí débil, que relaciona a quienes de hecho toman las decisiones -esto es, aquellos que diseñan los algoritmos- con quienes han de sufrir las consecuencias de su aplicación. Como muy bien dice Christina Larson, «Quién necesita democracia si tiene datos» (Larson, 2018Larson, C. (2018). “Who needs democracy when you have data?”. MIT Technology Review, 121(5), 50-55.). Un breve recorrido por algunos escenarios de la actual colonización algorítmica nos permitirá especificar la profundidad de este nuevo cambio estructural de la opinión pública.

2. BIG DATA Y BOTS SOCIALES: LA QUIEBRA DE LA OPINIÓN PÚBLICA

Puede parecer exagerado hablar de una colonización algorítmica, pero en la actualidad quien controla el big data y sus tecnologías de aplicación práctica controla la estructura sobre las que se sustenta la opinión pública e, incluso, las diferentes esferas del mundo de la vida (Lebenswelt), a saber: cultura, sociedad y personalidad. Por consiguiente, mueve a placer los hilos de un mundo cada vez más hiperdataficado, hiperconectado e hiperdependiente de las TIC. Este poder tecnológico otorga una capacidad quasi ilimitada para transformar el mundo social e influir en la construcción de sentido -verdad y justicia- y amenaza con desterrar a través de imperativos sistémicos como el poder y el dinero -siguiendo de nuevo a Habermas (1987)Habermas, J. (1987). Teoría de la Acción comunicativa. Madrid: Taurus.- los procesos de comunicación que los seres dotados de habla y acción ponen en marcha para llegar a acuerdos intersubjetivos, como debería ser el caso de nuestros sistemas democráticos. Los medios sistémicos como el poder y el dinero tienen ahora nuevos instrumentos para suplantar, por así decirlo, al lenguaje cotidiano. Los macrodatos llenan el vacío creado por la actual desafección y reemplazan, al menos en cierta medida, las necesidades de comunicación, de establecer acuerdos. Ya vienen fabricados (Ritzer, 1995, pp. 510-511Ritzer, G. (1995). Teoría sociológica contemporánea. Madrid: McGraw-Hill.). Un paso más en el avance de la colonización sistémica al instrumentalizar las capacidades y recursos del mundo de la vida a través de las tecnologías digitales (Habermas, 1987, p. 155Habermas, J. (1987). Teoría de la Acción comunicativa. Madrid: Taurus.). Veamos a continuación algunos ejemplos de cómo se construye esta violencia que ejerce la colonización algorítmica sobre el mundo de la vida (Lebenswelt), centrándonos en la formación de la opinión pública política.

El big data, concepto acuñado alrededor del año 2000 en ámbitos como la astronomía y la química (Mayer-Schöenberger y Cukier, 2013Mayer-Schoenberger, V. y Cukier, K. (2013). Big Data. A Revolution that will transform how we live, work, and think. Londres: John Murray Publishers. ) y definido desde la velocidad, variedad, versatilidad, valor y volumen de los datos en línea, se refiere al ingente flujo de datos y metadatos estructurados y no estructurados, fruto de la tendencia cada vez mayor de la ciudadana a estar constantemente comunicada con todo aquello que considerase relevante -personas, animales, procesos u objetos de todo tipo- en cualquier momento y lugar mediante dispositivos móviles interconectados a través de internet. Desde entonces, alrededor del big data se han ido edificando diferentes disciplinas -como la Ciencia de datos-, técnicas -como el data mining (clustering, association rules, etc.)- y tecnologías -como las grandes bases de datos o las herramientas de analítica de datos- cuya convergencia ha posibilitado, por un lado, recopilar, almacenar y procesar datos y metadatos masivos de todo, y, por otro, convertir esos datos y metadatos masivos en información relevante primero y en conocimiento aplicable después gracias al uso de la inteligencia artificial (Calvo, 2020Calvo, P. (2020). “The ethics of Smart City (EoSC): moral implications of hyperconnectivity, algorithmization and the datafication of urban digital society”. Ethics Inf Technol (22), 141-149. https://doi.org/10.1007/s10676-019-09523-0 , 2022Calvo, P. (2022). “Gemelos digitales y Democracia”. Revista del CLAD. Reforma y Democracia (83). ).

La consolidación del big data tras los atentados del 11 de septiembre de 2001 ha supuesto un punto de inflexión para las sociedades modernas y sus diferentes campos de actividad, pero no siempre para mejor. Por un lado, el big data ofrece grandes oportunidades de mejora de los procesos productivos, asistenciales, clínicos, comunicativos, participativos, decisorios, artísticos, investigadores e innovadores en clave de sostenibilidad, predictibilidad, velocidad, exhaustividad, extensibilidad, capacidad, completitud, consistencia, eficiencia, ratificación, precisión, detección, entretenimiento o creatividad, entre otras muchas cosas (Marr, 2015Marr, B. (2015). Big Data - Using SMART Big Data, Analytics and Metrics to Make Better Decisions and Improve Performance. UK, Wiley.). Por otro, el uso del big data también ofrece una cara abyecta por su implicación directa o indirecta en el aumento exponencial de la complejidad social, la cual conlleva mayores cotas de vulnerabilidad, incertidumbre, desigualdad, desafección, instrumentalización, cosificación, heteronomía, alienación, anomia o psicopatologías para la sociedad y la ciudadanía, especialmente para sus colectivos más vulnerables (Dijck, 2014Dijck, J. van (2014). “Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology”. Surveillance & Society 12 (2), 197-208. https://doi.org/10.24908/ss.v12i2.4776 ; O’Neal, 2016O’Neal, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Broadway Books. ; Calvo, 2019bCalvo, P. (2019b). “Etificación, la transformación digital de lo moral”, Kriterion. Revista de Filosofía (144), 671-688. https://doi.org/10.1590/0100-512X2019n14409pc , 2022Calvo, P. (2022). “Gemelos digitales y Democracia”. Revista del CLAD. Reforma y Democracia (83). ; Cortina, 2022Cortina, A. (2022). “Los desafíos éticos del transhumanismo”. Pensamiento. Revista de Investigación e Información Filosófica, 78 (298), 471-483. https://doi.org/10.14422/pen.v78.i298.y2022.009 ; González y Calvo, 2022González, E. y Calvo, P. (2022). “Ethically governing artificial intelligence in the field of scientific research and innovation”. Heliyon (8), e08946. https://doi.org/10.1016/j.heliyon.2022.e08946 ; Vayena y Gasser, 2016Vayena, E. y Gasser, U. (2016). “Strictly Bioomedical? Stretching the Ethics of the Big Data Ecosystem in Biomedicine”. En: Mittelstadt, Brent D. y Floridi, Luciano (eds.), The Ethics of Biomedical Big Data, Cham: Springer, pp. 17-40.).

En el ámbito democrático, la potencialidad del big data y sus diferentes técnicas y tecnologías digitales de aplicación, como el data mining, las grandes bases de datos o las herramientas de data analytics, pueden ayudar a elaborar políticas públicas más cercanas, eficaces y eficientes mediante un mejor conocimiento sobre las preferencias, los intereses y las opiniones de la ciudadanía digitalmente hiperconectada; a desarrollar sistemas democráticos más sostenibles a través de una mayor y más rápida capacidad de detección de patrones comportamentales y anomalías disruptivas ocultas; a diseñar y aplicar tecnologías capaces de detectar con mayor precisión la corrupción, el cohecho o la evasión fiscal, así como sistemas de seguridad y salud ciudadana más robustos, trazables y predictivos; a poner en marcha procesos y procedimientos de gestión de la conflictividad subyacente más rápidos y eficientes mediante un incremento notable de la predictibilidad de las expectativas y demandas de la ciudadanía; a mejorar la captación y/o fidelización del electorado mediante campañas publicitarias personalizadas, entre otras muchas cosas (Napoli, 2014Napoli, P. M. (2014). “Automated media: An institutional theory perspective on algorithmic media production and consumption”. Communication theory 24(3), 340-360. https://doi.org/10.1111/comt.12039 ). No obstante, como se expondrá a continuación, pronto estas expectativas de mejora se han ido convirtiendo en riesgos y auténticos peligros para la democracia.

Uno de los primeros casos de aplicación y uso de big data en la política tuvo lugar en las elecciones presidenciales de 2008 de los EE. UU. (Dijck, 2014Dijck, J. van (2014). “Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology”. Surveillance & Society 12 (2), 197-208. https://doi.org/10.24908/ss.v12i2.4776 ), cuando el equipo de Barack Obama decidió aplicar modelos predictivos sobre la base de datos analíticos HP Vertica con el objetivo de conocer con mayor profundidad al electorado indeciso y, de ese modo, lanzar campañas de publicidad personalizadas a través de las redes sociales para captar su voto. Un año más tarde, en 2009, se gestó el que posiblemente sea el primer intento de aplicar técnicas y tecnología big data para la gobernanza de un país. Fue precisamente la administración Obama la que impulsó y financió el diseño, aplicación y uso de sistemas de análisis de datos y metadatos masivos para el control de las fronteras, la salud y seguridad nacional y la gestión del territorio.

Destaca al respecto la puesta en marcha de la Open Government Directive, que obligaba a las agencias gubernamentales a revelar sus datos, y la creación del portal en línea Data.gov para cumplir con la Directive en 2009; la Big Data Research and Development Initiative en 2012 (Kalil, 2012Kalil, T. (2012). “Big Data is a Big Deal”. The Whitehouse President Barack Obama. Washington: The Whitehouse. https://obamawhitehouse.archives.gov/blog/2012/03/29/big-data-big-deal ), con una hoja de ruta con más de 85 acciones en diferentes campos por valor de 250 millones de dólares anuales; o el nombramiento en 2015 del primer Chief Data Scientist of the United States. Como afirmó Tom Kalil, Deputy Director for Policy at OSTP, en el comunicado de la White House sobre el lanzamiento del programa Big Data Research and Development, «al mejorar nuestra capacidad de extraer conocimientos e ideas de grandes y complejas colecciones de datos digitales, la iniciativa promete ayudar a acelerar el ritmo de los descubrimientos en ciencia e ingeniería, reforzar nuestra seguridad nacional y transformar la enseñanza y el aprendizaje» (Kalil, 2012Kalil, T. (2012). “Big Data is a Big Deal”. The Whitehouse President Barack Obama. Washington: The Whitehouse. https://obamawhitehouse.archives.gov/blog/2012/03/29/big-data-big-deal ). Todo ello llevó a Obama a ser apodado por The Washington Post como «the “big data” president» (Scola, 2013Scola, N. (2013). “Obama, the ‘big data’ president”. The Washington Post, June 14.).

Los resultados del big data en este y otros gobiernos estatales, como una mejora sustancial en la toma de decisiones políticas, en la elaboración de las políticas públicas y en la reducción del fraude, por ejemplo, junto al discurso embriagador que acompaña su desarrollo y aplicación en las diferentes esferas de actividad humana, ha impulsado la rápida expansión y aceptación de la hiperconectividad digital por parte tanto del público informado como de la ciudadanía en general (Marr, 2016Marr, B. (2015). Big Data - Using SMART Big Data, Analytics and Metrics to Make Better Decisions and Improve Performance. UK, Wiley.). Sin embargo, el proceso produce consecuencias intencionadas o intencionadas altamente corrosivas para los usuarios del sistema y la sociedad (Dijck, 2013Dijck, J. van (2013). The Culture of Connectivity: A Critical History of Social Media. New York: Oxford University Press. , 2014Dijck, J. van (2014). “Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology”. Surveillance & Society 12 (2), 197-208. https://doi.org/10.24908/ss.v12i2.4776 ). Al respecto, tal y como se ha comentado con anterioridad, cabe resaltar el uso fraudulento de bots políticos por parte de agencias estatales y los partidos políticos para manipular la opinión pública y/o interferir en la comunicación política con el objetivo de lograr contribuciones, captar votos, recrear un aura artificial de popularidad, interferir en la comunicación de los rivales o lanzar falsas opiniones y bulos para influir en la voluntad libre del electorado, etc. En suma, de la fabricación de una opinión pública artificial, en el sentido de externa a los propios implicados y afectados.

Por ejemplo, en EE. UU. Obama fue criticado por llenar las redes sociales con mensajes automatizados con la intención de atraer la atención y el apoyo de la ciudadanía en las elecciones de 2008 y 2012; Mitt Romney, candidato republicano a las elecciones estadounidenses de 2012, fue acusada de comprar miles de seguidores en Twitter en un intento por parecer más popular, y Donald Trump utilizó bots sociales y perfiles falsos en Twitter y otras redes sociales para lanzar opiniones favorables sobre su candidatura, aumentar sus seguidores, generar una percepción artificial de mayor popularidad y atacar a sus contrincantes lanzando noticias falsas o distorsionando subliminalmente su imagen, entre otras cosas (Bessi y Ferrara, 2016Ferrara, E.; Varol, O.; Davis, C.; Menczer, F. y Flammini, A. (2016). “El auge de los bots sociales”. Comunicaciones de la ACM, 59(7), 96-104.; Howard et al., 2017Howard, P. N.; Kollanyi, B.; Bradshaw, S. y Neudert, L. M. (2017). “Social media, news and political information during the US election: Was polarizing content concentrated on swing states”. https://doi.org/10.48550/arXiv.1802.03573 Molina, et al., 2017Molina, M. D.; Sundar, Sh.; Le, Th. y Lee, D. (2017). “‘Fake News’ Is Not Simply False Information: A Concept Explication and Taxonomy of Online Content”. American Behavioral Scientist 65(2), 180-212. https://doi.org/10.1177/0002764219878224 ). En Francia, durante las elecciones presidenciales de 2017 se detectaron bots vinculados con la candidata Marine Le Pen y el candidato Emmanuel Macron en los días previos a las elecciones (Ferrara, 2017Ferrara, E. (2017). “Disinformation and social bot operations in the run up to the 2017 French presidential election”. First Monday, 22(8), 1-33. https://doi.org/10.5210/fm.v22i8.8005 , 2020Ferrara, E. (2020). “Bots, Elections, and Social Media: A Brief Overview”. En: Shu K.; Wang S.; Lee D. y Liu H. (eds.), Disinformation, Misinformation, and Fake News in Social Media. Lecture Notes in Social Networks, Cham: Springer, pp. 95-114.). En Brasil, Jair Bolsonaro fue acusado de poner en circulación millones de noticias falsas a través de redes sociales como WhatsApp durante las elecciones presidenciales de 2018 y, ya en el gobierno, fue criticado por gastar 1,8 millones de euros en publicidad en redes sociales principalmente para generar una imagen positiva de su gestión de la pandemia por la COVID-19. En México, un estudio demostró que durante las elecciones presidenciales de 2018 el 53 % de los seguidores de los candidatos a la presidencia de las elecciones de 2018 -Andrés Manuel López Obrador, Ricardo Anaya, José Antonio Meade y Jaime Rodríguez Calderón- no eran personas, sino bots sociales (Barabási y Ruppert, 2018Barabási, A. L. y Ruppert, P. (2018). “Bots and Their Influence During the Mexican Presidential Election - A Network Science Perspective”. Botometer [Blog] , June 18.). En España, los políticos multiplicaron seguidores y likes en Twitter durante las elecciones presidenciales de 2019 y la pandemia de la COVID-19, con un promedio de perfiles falsos en torno al 42 % entre los principales líderes políticos del país (Lagares et al., 2021Lagares, N.; López, P. C.; Jaráiz, E. y Rivera, J. M. (2021). “La comunidad digital y el uso político de las redes sociales: elecciones generales del año 2019 en España”. Araucaria 23(48), 235-273. ; Manfredi, Amado y Waisbord, 2021Manfredi, J.; Amado, A. y Waisbord, S. (2021). “Presidential Twitter in the face of COVID-19: Between populism and pop politics”. Comunicar (66), 83-94. https://doi.org/10.3916/C66-2021-07 ). Y en Reino Unido, tal y como desveló The Guardian, las campañas a favor del Brexit, lideradas entre otros por el que posteriormente sería primer ministro británico, Boris Johnson, contrataron los servicios de Cambridge Analytica y AggregateIQ para influir en la ciudadanía mediante la aplicación de técnicas de Minería de datos sobre los datos y metadatos masivos que generaban los usuarios de redes sociales como Facebook y que fueron captados fraudulentamente (Cadwalladr, 2017Cadwalladr, C. (2017). “The great British Brexit robbery: how our democracy was hijacked”. The Guardian, May 7.).

Estas y otras cuestiones sobre el proceso de dataficación de la opinión pública exigen una reflexión profunda sobre las implicaciones éticas del gobierno algorítmico, de la colonización tecnológica del espacio público y de los posibles efectos negativos de la hiperconectividad digital en la sociedad. Especialmente, porque lo que subyace a la hiperconectividad digital y todo lo que la rodea es información, y esta no es un bien privado, sino público que no es posible consumirlo sin que afecte, por un lado, a nuestra comprensión del mundo y, con ella, a nuestra voluntad individual (aspiraciones, deseos, intereses, etc.), y, por otro lado, a la formación colectiva de la opinión y la voluntad, pilar básico de la democracia (Habermas, 2009Habermas, J. (2009), ¡Ay, Europa! Madrid: Trotta).

En este mundo hiperconectivizado, el principal problema es que las nuevas tecnologías digitales están amplificando el poder de la mentira, de la manipulación y el engaño, y, con ello, acaban con la reputación y la confianza en los medios y en la fuerza de la opinión pública. Este proceso de destrucción de toda referencia a la verdad y a la justicia sigue siempre el mismo camino. En primer lugar, destruir el concepto de realidad. Hoy, por ejemplo, se habla de conceptos tramposos como posverdad, como si hubiera algo más allá de la verdad, como si fuera posible la coordinación de la acción sin una pretensión intersubjetiva de verdad y justicia. Se trata de un escenario donde la realidad es la que cada uno define a su gusto; donde quien acumula más poder tiene mayores posibilidades de persuadir y tergiversar; donde la justicia es relativa, es arbitraria y, por tanto, no hay orientación de la acción; donde, en definitiva, el rumbo es el que cada uno define a conveniencia según sus intereses y deseos. La confianza en el proceso democrático depende de que se cumplan una serie de expectativas y si sabemos que nos manipulan, nos mienten o engañan, dejamos de votar a un partido político, comprar un periódico, ver un canal de noticias, participar en los procesos de toma de decisiones políticas, etc. De ahí que los grandes centros de poder están utilizando las nuevas tecnologías digitales para generar artificialmente credibilidad y, por tanto, una confianza artificial mediante la recreación de campos de distorsión de la realidad tan seductores y absorbentes que evitan la crítica de la ciudadanía digitalmente hiperconectada (García Marzá y Calvo, 2022García-Marzá, D. y Calvo, P (2022). Algorithmic democracy: A critical perspective from deliberative democracy. Cham: Springer.).

Al respecto, cabe destacar cómo durante la última década los bots sociales se han convertido en uno de los principales elementos disruptores del proceso democrático. Especialmente, por su intromisión en los procesos de generación de opinión pública. Desde la irrupción de internet y de fenómenos vinculados como las redes sociales, la hiperconectividad digital y la dataficación, el ciberespacio se ha ido convirtiendo poco a poco en el principal soporte de la esfera pública, sustituyendo los espacios tradicionales de participación y relacionalidad (Hagen, Wieland e In der Au, 2017Hagen, L. M.; Wieland, M. e In der Au, A.-M. (2017). “Algorithmischer Strukturwandel der Öffentlichkeit: Wie die automatische Selektion im Social Web die politische Kommunikation verändert und welche Gefahren dies birgt”. Medienjournal-Zeitschrift für Medien-und Kommunkiationsforschung 41(2), 127-143.). Ello, dado el alto número de algoritmos artificialmente inteligentes que interactúan en el ciberespacio y la cada vez mayor dificultad para distinguir entre interlocutores humanos y no humanos, especialmente los bots sociales, ha generado una desfiguración y deshumanización de las relaciones sociales con consecuencias cada vez más visibles en el acelerado derrumbe, en la quiebra, de la opinión pública.

Los bots sociales son cuentas de redes sociales que, en mayor o menor medida, pueden estar controladas por algoritmos artificialmente inteligentes. Estos son capaces de interactuar con personas y máquinas e, incluso, generar contenidos específicos para satisfacer algún tipo de objetivo estratégico (Yang et al., 2019Yang, K.-C.; Varol, O.; Davis, C. A.; Ferrara, E.; Flammini, A. y Menczer, F. (2019). “Arming the public with artificial intelligence to counter social bots”. Human Behavior & Emerging Technologies 1(1), 48-61. https://doi.org/10.1002/hbe2.115 ; Hajli et al., 2021Hajli, N.; Saeed, U.; Tajvidi, M. y Shirazi, F. (2021). “Social Bots and the Spread of Disinformation in Social Media: The Challenges of Artificial Intelligence”. British Journal of Management 33(3), 1238-1253. https://doi.org/10.1111/1467-8551.12554 ; Ferrara et al., 2016Ferrara, E.; Varol, O.; Davis, C.; Menczer, F. y Flammini, A. (2016). “El auge de los bots sociales”. Comunicaciones de la ACM, 59(7), 96-104.). Per se, estos bots sociales inteligentes no son maliciosos. Pueden cumplir diversas funciones útiles y beneficiosas para las agencias, corporaciones o personas, como la reducción de trabajo humano, la resolución de problemas o la prestación de servicios de información y asesoramiento. No obstante, estos actores sociales artificiales también pueden llevar a cabo muchas acciones perjudiciales, como proporcionar información errónea a la gente, aumentar las discusiones, perpetrar estafas y explotar el mercado de valores (Ferrara et al., 2016Ferrara, E.; Varol, O.; Davis, C.; Menczer, F. y Flammini, A. (2016). “El auge de los bots sociales”. Comunicaciones de la ACM, 59(7), 96-104.; O’Neal, 2016O’Neal, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Broadway Books. ). Es decir, si el malware tradicional -como virus informáticos, gusanos, troyanos, software de rescate, spyware, adware, software de miedo, etc.- atacan los puntos débiles del hardware y del software, los bots sociales explotan las vulnerabilidades humanas para alcanzar un objetivo dado, como, por ejemplo, su incapacidad para distinguir entre lo humano y lo no humano cuando interactúan en el ciberespacio, su exceso de confianza hacia aquellas relaciones sociales que ocurren en la red, su mayor atención a todo aquello que parece envuelto de un aura de popularidad o su manifiesta ingenuidad cuando la manipulación de la opinión pública se realiza a través de las redes sociales (Hajli et al., 2021Hajli, N.; Saeed, U.; Tajvidi, M. y Shirazi, F. (2021). “Social Bots and the Spread of Disinformation in Social Media: The Challenges of Artificial Intelligence”. British Journal of Management 33(3), 1238-1253. https://doi.org/10.1111/1467-8551.12554 ).

Existen muchos tipos de bots sociales. Muchos de ellos son bastante simples, baratos y tan fáciles de diseñar como de rastrear. Pero otros son ciertamente sofisticados y adoptan varias estrategias para hacerse pasar por humanos, lo cual complica su rastreo. En cuanto a los sofisticados (Hajli et al., 2021Hajli, N.; Saeed, U.; Tajvidi, M. y Shirazi, F. (2021). “Social Bots and the Spread of Disinformation in Social Media: The Challenges of Artificial Intelligence”. British Journal of Management 33(3), 1238-1253. https://doi.org/10.1111/1467-8551.12554 ), algunos modelos utilizan machine learning de última generación para aprender a comunicarse como los seres humanos y pasar inadvertidos; otros adoptan nombres, identidades y perfiles de usuarios reales para evitar ser descubiertos y seguir trabajando en la satisfacción de unos objetivos dados; otros imitan temporalmente patrones humanos de consumo y publicación de contenidos para aparentar ser reales; y otros incluso intervienen en conversaciones, responden a preguntas e intercambiar opiniones con otros usuarios para hacerse más escurridizos y evitar ser descubiertos.

Entre las principales funciones e impactos de los bots sociales en el ámbito democrático, destaca su uso como instrumento para generar popularidad, interferir en la comunicación del adversario e influir en la opinión pública. A saber:

Construir popularidad: gobiernos, partidos y políticos compran cierta cantidad de bots sociales para que se conviertan en sus seguidores (falsos) y hablan (falsamente) bien de ello/as y/o sus políticas, acciones y decisiones con el objetivo de fomentar su notoriedad en la red y, con ello, ganar seguidores reales, expandir sus ideas y lograr apoyos y votos (Cresci et al., 2015Cresci, S., Di Pietro, R., Petrocchi, M., Spognardi, A. y Tesconi, M. (2015). “Fame for sale: Efficient detection of fake Twitter followers”. Decision Support Systems (80), 56-71. https://doi.org/10.1016/j.dss.2015.09.003 ; Finger, 2015Finger, L. (2015). “Do Evil - The Business of Social Media Bots”. Forbes, February 17. ).

Influir en la opinión pública: gobiernos, partidos y políticos utilizan los bots sociales más sofisticados, aquellos dotados de machine learning, para que interactúen con otros usuarios de la red social y promuevan tendencias, fomenten ideas, comenten publicaciones y argumenten a favor o en contra de un tema determinado. Podríamos decir que intentan, y en muchos casos lo consiguen, sustituir el papel legitimador de la opinión pública, su influencia en la formación de una voluntad común. De hecho, «de forma alarmante, la actividad de los bots sociales acentúa su eficacia durante las campañas electorales políticas, intentando engañar a los ciudadanos de todo el mundo hacia tendencias virales forjadas» (Pastor-Galindo et al., 2020Pastor-Galindo, J.; Zago, M.; Nespoli, P.; López, S., Huertas, A.; Gil, M.; Ruiperez-Valiente, J. A.; Martínez, G. y Gómez, F. (2020). “Spotting political social bots in Twitter: A use case of the 2019 Spanish general election”. arXiv. https://doi.org/10.48550/arXiv.2004.00931 ).

Interferir en las comunicaciones de la competencia: gobiernos, partidos y políticos también pueden utilizar los bots sociales más sofisticados para interferir en la comunicación de la competencia a través de fake news, mediante el intercambio de información contradictoria o a través de la compra de bots sociales de mala calidad para la competencia. Como son bots fáciles de rastrear, son rápidamente identificados y la competencia -gobierno, partido o política- queda desacreditada y etiquetada como tramposa (Woolley y Howard, 2018Woolley, S. C. y Howard, P. N. (2018). Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford: Oxford Scholarship Online. ).

Estas funciones no son las únicas vinculadas con el diseño, aplicación y uso de bots sociales en el ámbito político, pero sí constituyen un desafío para el mantenimiento del concepto clásico de opinión pública; es decir, como opinión del público realizada en la plaza pública (Habermas, 1994, p. 41Habermas, J. (1994). Historia y crítica de la opinión pública. México: G. Gili. ). Políticos como Newt Gingrich, Mitt Romney, Barack Obama, Jair Bolosnaro o Donald Trump, partidos políticos como el Partido Conservador Alemán (CDU) y gobiernos como China, EE. UU. y Rusia fueron ampliamente señalados por utilizar bots sociales con estas y otras funciones para alcanzar sus objetivos políticos. No obstante, el uso de bots sociales en la política se ha convertido en la actualidad en una práctica extendida, generalizada y, en cierto modo, socialmente tolerada¹Por ejemplo, el estudio “Spotting political social bots in Twitter: A use case of the 2019 Spanish general election” (Pastor-Galindo et al., 2020), visibilizó cómo todos los principales partidos políticos que habían participado en aquellas elecciones presidenciales habían utilizado bots sociales para captar la atención del electorado, interferir en la comunicación de la competencia y/o generar opinión pública favorable a sus intereses estratégicos, contabilizando más de 800.000 cuentas susceptibles de ser bots sociales. .

En este sentido, como mostró el estudio “Bots, elections, and social media: a brief overview” (Ferrara, 2020Ferrara, E. (2020). “Bots, Elections, and Social Media: A Brief Overview”. En: Shu K.; Wang S.; Lee D. y Liu H. (eds.), Disinformation, Misinformation, and Fake News in Social Media. Lecture Notes in Social Networks, Cham: Springer, pp. 95-114.), tras las actividades que llevaron a cabo los bots sociales durante algunas de las elecciones presidenciales más relevantes de los últimos años, como las presidenciales estadounidenses de 2016 y las francesas de 2017, subyacen algunas cuestiones inquietantes relativas al uso de bots sociales. Por ejemplo, una participación masiva de bots en las redes sociales durante la campaña, un comportamiento de los bots muy similar al de los humanos al realizar interacciones sociales y una alta capacidad de adaptación para pasar inadvertidos ante los detectores de bots puestos en marcha por redes sociales como Twitter o Facebook. Por todo ello, estos y otros estudios sugieren que puede existir un mercado negro de bots políticos y que ello constituye una grave amenaza contra los actuales sistemas democráticos (Gorodnichenko, Pham y Talavera, 2021Gorodnichenko, Y.; Pham, T. y Talavera, O. (2021). “Social Media, Sentiment and Public Opinions: Evidence from #Brexit and #USElection”. European Economic Review, 136. https://doi.org/10.3386/w24631 ).

De este modo, los bots sociales y políticos han sembrado el proceso democrático y la opinión pública encargada de su legitimación de dudas razonables, quebrando la confianza desde la que adquiere su poder y su influencia. La transformación digital de la democracia está generando en la ciudadanía una falaz percepción de que la opinión pública es altamente dependiente de las TIC y, por tanto, para influir en ella es necesario introducirse en los fenómenos subyacentes de la hiperconectividad digital, las redes sociales y la dataficación (Hagen, Wieland e In der Au, 2017Hagen, L. M.; Wieland, M. e In der Au, A.-M. (2017). “Algorithmischer Strukturwandel der Öffentlichkeit: Wie die automatische Selektion im Social Web die politische Kommunikation verändert und welche Gefahren dies birgt”. Medienjournal-Zeitschrift für Medien-und Kommunkiationsforschung 41(2), 127-143.; Innerarity y Colomina, 2020Innerarity, D. y Colomina, C. (2020). “La verdad en las democracias algorítmicas”. Revista CIDOB d’afers internacionals (124), 11-23. ; Calvo, 2019aCalvo, P. (2019a). “Democracia algorítmica: consideraciones éticas sobre la dataficiación de la esfera pública”, Revista del CLAD Reforma y Democracia (74), 5-30., 2020Calvo, P. (2020). “The ethics of Smart City (EoSC): moral implications of hyperconnectivity, algorithmization and the datafication of urban digital society”. Ethics Inf Technol (22), 141-149. https://doi.org/10.1007/s10676-019-09523-0 ; Saura, 2022Saura, C. (2022). “El lado oscuro de las GAFAM: monopolización de los datos y pérdida de privacidad”. Veritas. Revista de Filosofía y Teología (52), 28-46. ). No obstante, el principal problema de la opinión pública generada a través de instrumentos digitales es que la transformación digital las ha convertido en elementos de los ecosistemas ciberfísicos, y estos están gobernados por modelos matemáticos artificialmente inteligentes que sirven a la causa particular de un gobierno, una empresa o un partido político que los adquiere y los pone en circulación gracias a imperativos sistémicos como el poder y el dinero. De ahí el concepto de democracia algorítmica como un horizonte de actuación (tendencia, actitud, etc.) y de significado (cultura algorítmica) basado en la progresiva sustitución de la inteligencia artificial y sus tecnologías en todos los procesos de deliberación, decisión y diseño institucional, tanto en el estado como en la sociedad civil (García Marzá y Calvo, 2022García-Marzá, D. y Calvo, P (2022). Algorithmic democracy: A critical perspective from deliberative democracy. Cham: Springer.).

Un espacio donde los propios desarrolladores se ven incapaces de afrontar el reto de diseñar herramientas capaces de detectarlos y, de ese modo, purificar los procesos de opinión pública en el ciberespacio. En suma, incapaces de diferenciar entre opinión pública y opinión pública artificial. La consecuencia de la falta actual de distinción entre ambas es el incremento exponencial de la desconfianza y la desafección de la ciudadanía hacia unas democracias modernas ya de por sí muy afectadas por la desigualdad y el descrédito (Innerarity y Colomina, 2020Innerarity, D. y Colomina, C. (2020). “La verdad en las democracias algorítmicas”. Revista CIDOB d’afers internacionals (124), 11-23. ; Keane, 2018Keane, J. (2018). Vida y muerte de la democracia. México: Fondo de Cultura Económica.).

En esta democracia algorítmica, el gran peligro contra el que debe reaccionar la opinión pública ya no es la tiranía de la mayoría, por mencionar a Tocqueville (1989)Tocqueville, A. de (1989 [1840]), Democracy in America, Volume 2. New York: Vintage Books., sino la tiranía de los algoritmos, con su aparente objetividad y su falsa neutralidad, con su asimilación de lo correcto y lo justo a los datos y metadatos recopilados, procesados y reutilizados por los bots sociales y políticos y demás tecnologías digitales y/o inteligentes. Sin una perspectiva crítica capaz de mostrar esta ideología y las falsas creencias en las que se apoya, la opinión pública y, con ella, la democracia tal como la entendemos dejarán de tener sentido, pues -como ya está ocurriendo- no hay tecnología, ni siquiera inventando realidades alternativas, que pueda esconder las desigualdades que generan estas nuevas tecnologías (Eubanks, 2021Eubanks, V. (2021). La automatización de la desigualdad: herramientas de tecnología avanzada para supervisar y castigar a los pobres. Madrid: Capitán Swing.). En este escenario, ¿se puede seguir hablando de opinión pública o es mejor arrinconar el concepto junto a los ámbitos sistémicos del poder y del dinero?

3. EL VALOR DE LA SOCIEDAD FRENTE A LA COLONIZACIÓN ALGORÍTMICA

Podríamos seguir con más ejemplos de los avances de esta acelerada incorporación de los algoritmos en la construcción de la opinión pública y en la toma política y jurídica de decisiones: fragmentación y polarización de la opinión pública; personalización y aislamiento; gobernanza de vigilancia; elusión de responsabilidades; discriminación; auge de los tecnopopulismos; agravamiento de las desigualdades sociales y económicas; etc. (Harper, 2017Harper, T. (2017). “The big data public and its problems: Big data and the structural transformation of the public sphere”. New Media & Society 19(9), 1424-1439. https://doi.org/10.1177/1461444816642167 ). Ya no estamos hablando de la lógica de los medios de comunicación de masas y de su influencia en la formación de la opinión pública, sino de su progresiva sustitución por la lógica algorítmica, una lógica que nada tiene que ver con las pretensiones de validez que otorgan influencia y, por lo tanto, poder comunicativo a la opinión pública. La complementación algorítmica esconde una clara tendencia a la sustitución de toda deliberación y toma de decisiones por el cálculo y la predicción que nos permiten los algoritmos, pues solo reduciendo la realidad a datos puede garantizar la aparente objetividad y eficacia. En este sentido, podemos afirmar que la complementariedad, el uso de algoritmos en todos los ámbitos del sistema democrático, no es gratuita. Precisamente porque su intervención requiere destruir la calidad discursiva de su formación. En el espacio virtual no existen, nos dice Habermas, los equivalentes funcionales propios de las estructuras de la esfera pública (2009, p. 157Habermas, J. (2009), ¡Ay, Europa! Madrid: Trotta). No están justificadas ni la presunción de veracidad, ni la referencia a la verdad, ni las condiciones simétricas de participación. Ni siquiera el núcleo moral que remite a la comunidad de ciudadanos, al reconocimiento recíproco de los demás como miembros iguales (Habermas, 2021, p. 481Habermas, J. (2021). “Überlegungen und Hypothesen zu einem erneuten Strukturwandel der politischen Öffentlichkeit”. En: Seeliger, M. y Sevignani, S. (eds.), Ein neuer Strukturwandel der Öffentlichkeit?, Baden-Baden: Nomos, pp. 470-500.). En estas condiciones, «el sistema democrático sufre grandes daños», pues la opinión pública ya no es capaz de dirigir la atención hacia cuestiones relevantes, realizada siempre desde la perspectiva de los intereses generalizables.

Una democracia agregativa y meramente representativa no puede salvar esta situación, puesto que su lógica consiste en sumar y restar preferencias individuales, sin posibilidad alguna de deliberar acerca de su validez, de su legitimidad. Si reducimos la democracia al mero cálculo, efectivamente son mejores los algoritmos, siempre que sepamos quién los diseña y cómo se calculan las consecuencias. Si la opinión pública se entiende como la suma de opiniones privadas representada en estadísticas y sondeos; si su campo de acción son las redes sociales en manos de las grandes tecnológicas y sus espacios privados y comercializados; si la construcción de nuestros intereses y preferencias son fruto de la adaptación individualizada y el microtargeting; si no solo es la privacidad sino también la intimidad las que corren peligro (Conill, 2019Conill, J. (2019). Intimidad corporal y persona humana. De Nietzsche a Ortega y Zubiri. Madrid: Tecnos.), por ejemplo con los neurodatos; es fácil deducir la pérdida progresiva, primero de la calidad y, progresivamente, de cualquier atisbo de autonomía (García-Marzá, 2016aGarcía-Marzá, D. (2016a): “Neuroética aplicada: las consecuencias prácticas del neuropositivismo”, Pensamiento. Revista de Investigación e Información Filosófica, 72 (273), 881-900.).

Sin embargo, una democracia deliberativa que se presenta como una democracia de doble vía, como una complementación entre estado y sociedad civil, tiene mayores posibilidades para enfrentarse a este nuevo escenario digital, para frenar esta nueva colonización. Para este modelo de democracia la fuerza recae en la sociedad civil, estructurada desde la acción comunicativa, como base social de la opinión pública. La opinión pública no es un espacio político, sino un espacio ciudadano que pertenece al mundo de la vida (Lebenswelt), de donde extrae su capital de legitimidad y su fuerza de intervención. Precisamente es esta condición, su pertenencia a la sociedad civil, la que le permite hacer frente, plantarle cara, a los medios generalizados del poder y el dinero y, en una democracia algorítmica, al poder de los datos derivada de la matematización de la realidad.

En el prefacio a la nueva edición alemana de 1990 de Historia y crítica de la opinión pública. La transformación estructural de la vida pública [ Strukturwandel der Öffentlichkeit: Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft] , Habermas insiste en que «una publicidad (Öffentlichkeit) que actúa políticamente no solo necesita las garantías de las instituciones del estado de derecho, sino que requiere que salgan a su encuentro las tradiciones culturales y los procesos de socialización de una población acostumbrada a la libertad» (Habermas, 1994, p. 32Habermas, J. (1994). Historia y crítica de la opinión pública. México: G. Gili. ). Sin el apoyo de la sociedad civil como base social para una publicidad autónoma, el concepto de una formación común de la opinión y la voluntad deja de tener sentido. Y este es precisamente el peligro que esconde la actual colonización algorítmica, pues estamos en manos de los diseñadores del algoritmo y de las empresas que los producen.

Pero es en su trabajo Facticidad y validez (1998Habermas, J. (1998). Facticidad y validez. Madrid: Trotta.) donde Habermas recupera el sentido genuino de sociedad civil y profundiza en el proceso de formación de la opinión pública en el sistema democrático. Si bien el problema del monopolio de las grandes tecnológicas y, en suma, la revolución digital, solo aparecen tangencialmente en sus trabajos, para nada podemos afirmar que su concepción de la opinión pública esté obsoleta (Habermas, 2021Habermas, J. (2021). “Überlegungen und Hypothesen zu einem erneuten Strukturwandel der politischen Öffentlichkeit”. En: Seeliger, M. y Sevignani, S. (eds.), Ein neuer Strukturwandel der Öffentlichkeit?, Baden-Baden: Nomos, pp. 470-500.). Todo lo contrario, sigue siendo imprescindible para mantener la perspectiva crítica frente al dinero y al poder. Aquello que define la autonomía de la opinión pública no es su carácter representativo, la cantidad de opiniones recogida, sino su calidad y esta depende más bien del modo en cómo se ha producido, esto es, del proceso mismo de formación. En este sentido Habermas habla de la opinión pública como una «red para la comunicación de contenidos y tomas de posición, esto es, de opiniones, que se reproduce a través de la acción comunicativa» (Habermas, 1998, p. 441Habermas, J. (1998). Facticidad y validez. Madrid: Trotta.). Su criterio de validez vendría determinado por las mismas reglas que toda acción comunicativa presupone, es decir, por la distancia que existe entre los procesos fácticos de formación de la opinión y los presupuestos de un diálogo libre de cualquier presión externa e interna, donde estuvieran aseguradas iguales condiciones de participación. En suma, su calidad vendría determinada por las propiedades procedimentales de su proceso de formación, así como la confianza que merecen (Habermas, 2021, p. 483Habermas, J. (2021). “Überlegungen und Hypothesen zu einem erneuten Strukturwandel der politischen Öffentlichkeit”. En: Seeliger, M. y Sevignani, S. (eds.), Ein neuer Strukturwandel der Öffentlichkeit?, Baden-Baden: Nomos, pp. 470-500.).

De hecho, Habermas diferencia claramente entre dos tipos de actores que se mueven por la esfera pública. Por una parte, tenemos los autores autóctonos, que producen y reproducen la opinión pública con sus posiciones, manifestaciones, acciones, etc., convirtiéndola en una esfera comunicativa, en el sentido primario de un «actuar común» que buscan el entendimiento y el acuerdo. Por otra parte, están los públicos usufructuarios, aquellos que se sirven de esta esfera para conseguir sus intereses particulares, para instrumentalizar al público, como es el caso de los bots sociales y políticos descritos. Y aquí encontramos a las grandes corporaciones tecnológicas y, en suma, al conjunto de tecnologías de la inteligencia artificial que, bajo el pretexto de su mayor eficacia y neutralidad, quiebran las tres dimensiones que conforman la opinión pública: fabrican aquello que debemos esperar, sustituyen al público por los datos y los metadatos y, por último, construyen espacios virtuales donde no es posible participar de forma real y efectiva. La opinión pública artificial, como la hemos llamado, opera por vía de extracción, esto es, requiere de un sentido previo del que debe aprovecharse (Habermas, 1994, p. 17Habermas, J. (1994). Historia y crítica de la opinión pública. México: G. Gili. ).

Pero es necesario dar un paso más a la hora de apreciar el valor de la sociedad civil e intentar pensar el concepto de opinión pública en toda su amplitud; esto es, diferenciar entre una opinión pública civil y una opinión pública política. En toda conversación donde los individuos se reúnan como público se construye un espacio público siempre y cuando se respeten las condiciones de una participación libre e igual y el objetivo sea la búsqueda de intereses generalizables, sea en el ámbito político o en las diferentes esferas de la sociedad civil.

No es esta la posición de Habermas, que reduce la sociedad civil exclusivamente al poder comunicativo y a su influencia en el poder político. Este no se centra en el hecho básico de que toda institución, sea del estado o de la sociedad civil, es siempre un reequilibrio entre acciones comunicativas y acciones estratégicas. Que bien puede hablarse de poder, y no solo de influencia, en la necesidad de legitimidad y, en último lugar, de confianza que requiere todo tipo de instituciones, públicas y privadas (García-Marzá, 2016bGarcía-Marzá, D. (2016b). “Enfoques mesodeliberativos: sobre la articulación institucional en las democracias deliberativas”. Isegoría (54), 147-170.). Desde esta exclusividad de la acción comunicativa, Habermas se encuentra ante dos posibilidades mutuamente excluyentes. Por una parte, tenemos a la sociedad civil como esfera propia de la acción comunicativa, vaciada de poder y a la que solo se le reconoce influencia a través de la opinión pública. Por otra, esferas de poder vaciadas de sustancia normativa, el estado y la economía, donde basta la racionalidad estratégico-instrumental para su integración (Honneth, 2009, p. 434Honneth, A. (2009). Crítica del poder. Madrid: Machado Libros.).

Este dualismo no es real. Ni existen asociaciones u organizaciones sin prácticas estratégicas y relaciones de poder, ni existen instituciones que no apoyen su legitimidad en el posible acuerdo de los afectados. En el caso de la economía, la posición de Habermas pierde coherencia cuando se enfrenta hoy al capitalismo de la vigilancia y, con él, a sus nefastas consecuencias para el estado y la autonomía política que este posibilita. En 1962, Habermas ya reclamaba «un proceso de comunicación formal conducido a través de la publicidad interna de las organizaciones» (Habermas, 1994, p. 272Habermas, J. (1994). Historia y crítica de la opinión pública. México: G. Gili. ). Pero esta opción será posteriormente rechazada, pues en los ámbitos donde se mueven intereses que no sean generalizables parece que no haya forma de actuar si no es a través de la racionalidad sistémica. Por lo que Habermas se encuentra en un claro «quiero y no puedo», pues ha dejado a las instituciones de la sociedad civil «fuera» de la lógica comunicativa sin darse cuenta de que también en ellas, en su seno, juega un papel clave la «fuerza de producción de la comunicación», refiriéndose a la capacidad de entenderse y actuar conjuntamente que tienen los sujetos.

No se trata, de reproducir las exigencias de participación democrática en las diferentes instituciones, de repetir los sistemas de elección y decisión por la regla de mayorías en el seno de las instituciones y organizaciones que componen la sociedad civil. Esta propuesta de ampliación de la sociedad civil y de sus espacios públicos está lejos de todo fundamentalismo electoralista, al igual que lo está del tecnopopulismo en el que suele acabar la demanda de una mejor democracia. Las técnicas del tecnopopulismo no llevan a la expertocracia, sino a la autocracia, al autoritarismo del siglo XXI (Runciman, 2019, p. 214Runciman, D. (2019). Así termina la democracia. Barcelona: Paidós).

Para esta propuesta de ampliación del concepto habermasiano, la sociedad civil sigue siendo la base social de la opinión pública, pero ahora se trata de identificar y diseñar espacios de acción donde sea posible la participación libre y voluntaria, la búsqueda de acuerdos entre todas las partes implicadas y afectadas por el poder, sea político, económico, o social. Espacios institucionalizados donde puede tener lugar la acción estratégica, pero donde la primacía la tiene la acción comunicativa y sus presupuestos de validez. No olvidemos que todo tipo de poder, no solo el político, requiere legitimidad, un crédito para actuar que solo puede venir de la opinión pública y de la sociedad civil.

Aplicar nuestras competencias para dialogar y alcanzar acuerdos y compromisos justos exige espacios de participación y presencialidad, esferas donde las tecnologías digitales sean instrumentos para este entendimiento, sin que por ello tengamos que convertirnos en esclavos de las mismas, en seres heterónomos. Y estos espacios de participación debemos pensarlos y diseñarlos tanto para el estado como para la sociedad civil, ahora entendida de forma amplia como todas las prácticas e instituciones que no dependen directamente del estado y en las que la primacía de la acción comunicativa define la validez o justicia de lo decidido e instituido. Diseñar espacios de confianza en el interior mismo de las instituciones y establecer entre ellos redes o alianzas capaces de frenar la actual colonización algorítmica. Este nivel mesodeliberativo apoyado en la perspectiva institucionalista es fundamental para mantener y garantizar la calidad de la opinión pública en plena revolución digital, pues posibilita la participación en el interior mismo de las instituciones donde se desarrollan los algoritmos. No basta con decir que las partes implicadas deben participar. Hay que instituir espacios donde esta participación sea posible desde el inicio del diseño algorítmico hasta el cálculo de consecuencias. Solo así se puede mantener la autonomía, esto es, la calidad de la opinión pública (García Marzá, 2016bGarcía-Marzá, D. (2016b). “Enfoques mesodeliberativos: sobre la articulación institucional en las democracias deliberativas”. Isegoría (54), 147-170.).

CONCLUSIONES

Desde una democracia cuya pretensión es la de sustituir por algoritmos todos los procesos democráticos, no es posible hablar de una nueva transformación de la opinión pública, sino de su desaparición, pues el concepto no tiene sentido ni referencia alguna si no hay un espacio para la participación, la deliberación y el acuerdo. Una afirmación que hemos querido mostrar desde las tres dimensiones que encierra el concepto de Öffentlichkeit, y que resumiremos ahora a modo de conclusión.

En primer lugar, estamos hablando de opinión, es decir, de doxa, de un saber falible y revisable por definición que no tiene otro horizonte de referencia más allá del acuerdo entre los afectados. Un horizonte para el que los datos pueden aportar información, no sustituir a la deliberación y a la búsqueda de acuerdos. Es decir, no se trata de reducir la realidad, sus necesidades e intereses, así como los valores desde donde la construimos, a datos y metadatos que son integrados por algoritmos que les dan sentido y utilidad, por cierto, desde un cientificismo y un interés técnico de dominio bien claro (Habermas, 1984Habermas, J. (1984). Ciencia y técnica como ideología. Madrid: Tecnos.). Se trata de opiniones, no de hechos; de razones, no de motivos. De tomas de posición ante una realidad política y social que nunca es, ni puede ser, independiente de los propios sujetos que la componen y cuya legitimidad reclama su participación. El ciberespacio, con sus bots y sus algoritmos, no supone cambio estructural alguno, sino la desaparición de la opinión pública, arrastrando con ella el sentido último de la democracia: la construcción de una voluntad común desde la autonomía y la participación

En segundo lugar, se utiliza el predicado público para referirse al conjunto de ciudadanos implicados y/o afectados por una decisión política -o, en su caso, sus representantes- y para describir un tipo de contenido que afecta a todos por igual. Así, por público no solo se entiende el objeto, sino también el sujeto; es decir, una opinión es pública cuando se dan dos características: la difusión entre los públicos y su referencia a la cosa pública. Ambas dimensiones desaparecen al hablar de una opinión pública artificial. Ya no es que sea una opinión pública de baja calidad, sino que no procede de público alguno y solo remite a los intereses de quien diseña el algoritmo. Puede que haya una consideración de «los intereses en juego», pero sin que los interesados intervengan. Pero ya sabemos que es necesario introducir la calidad de la opinión pública y no la cantidad si queremos explicar su papel legitimador en la democracia.

En tercer y último lugar, estamos hablando de un espacio público, un ámbito de participación inclusivo y abierto, donde solo las condiciones iguales de participación pueden garantizar la generación de opinión pública (García Marzá, 2012García-Marzá, D. (2012). “Kant´s Principle of Publicity”, Kant-Studien. Philosophische Zeitschrift der Kant-Gesellsschaft” (103), 96-113.). Todo lo contrario a la opacidad y a la impenetrabilidad de los algoritmos que sustituyen la participación por los datos y metadatos recopilados y estructurados de forma que constituyen, en la mayoría de los casos, auténticas cajas negras. El principio de publicidad, ahora llamado principio de explicabilidad en estos contextos socio-técnicos (García Marzá y Calvo, 2022García-Marzá, D. y Calvo, P (2022). Algorithmic democracy: A critical perspective from deliberative democracy. Cham: Springer.), no puede desarrollarse si a la transparencia no añadimos la participación, instituyendo espacios de presencialidad, por ejemplo, dentro de las mismas tecnológicas, donde el seguimiento y control del diseño y aplicación de los algoritmos pueda realizarse desde el inicio.

De ahí la necesidad de pensar, debatir y diseñar conjuntamente espacios de confianza que desarrollen la capacidad de las instituciones para empoderar a los sujetos, espacios institucionalmente ordenados, flexibles y abiertos donde los sujetos puedan utilizar sus capacidades para intervenir eficazmente en el diseño, desarrollo y seguimiento de los algoritmos. Toda posible repuesta a cómo frenar la actual colonización algorítmica requiere de una perspectiva institucionalista, de proporcionar principios para el diseño y rediseño de instituciones que nos ayuden a pensar organizaciones políticas, sociales y económicas nuevas y mejores, asumidas desde nuestra autonomía y nuestra capacidad de decidir conjuntamente los criterios de justicia. Las tecnologías digitales pueden ayudarnos a crear y mantener estos espacios de presencialidad, a diseñar espacios de intervención real y efectiva, a establecer canales de comunicación, etc., pero no a sustituirlos por realidades virtuales cuyo objetivo final no es otro que controlar y comercializar nuestra opinión y nuestra voluntad y así continuar generando y, al mismo tiempo, ocultando la injusticia realmente existente.

En suma, diseñar espacios de participación en el interior mismo de estas prácticas e instituciones que componen la sociedad digital actual, donde confluyan «las capacidades morales de los individuos para asumir un compromiso responsable» (Offe y Preuss, 1990Offe, C., y Preuss, U. (1990). “Instituciones democráticas y recursos morales”. Isegoría, (2), 45-74. https://doi.org/10.3989/isegoria.1990.i2.390 ). Aquello que podemos llamar recursos morales. La incompatibilidad entre la opinión pública y la democracia algorítmica deriva de una realidad mil veces demostrada y mil veces ocultada: ninguna institución, por más poderosa que sea, por más tecnologías digitales que posea y domine, puede mantenerse sin la credibilidad social, y este capital moral lo tiene en exclusiva la opinión pública como voz de la sociedad civil.