INTRODUCCIÓN
⌅El 20 de septiembre de 2019 los trabajadores de doce importantes empresas tecnológicas se sumaron a la huelga climática global, reivindicando un reconocimiento más notorio del impacto de la tecnología sobre el cambio climático y exigiendo un nuevo rumbo en las políticas públicas. En la actualidad, la industria tecnológica enfrenta importantes críticas por los altos niveles de consumo energético. En el caso específico de la inteligencia artificial (IA), los sistemas más avanzados demandan un mayor procesamiento de datos, una situación que conlleva un elevado coste energético. Además, la falta de transparencia en torno al acceso a la información sobre el consumo estimado de energía de la tecnología, representa un serio obstáculo para la investigación1 Belkhir y Elmeligi, 2018..
La IA ha asumido un merecido protagonismo en la cuarta revolución industrial como resultado del incremento de su presencia en numerosos espacios y actividades. Esto ha ocasionado que diversos campos se encuentren involucrados en el desarrollo de los sistemas artificiales, uno de los principales motivos que dificulta la búsqueda de una definición común. No obstante, a continuación, se ofrece una propuesta que facilita una primera aproximación a este objeto de estudio:
La inteligencia artificial (IA), en una definición amplia y un tanto circular, tiene por objeto el estudio del comportamiento inteligente en las máquinas. A su vez, el comportamiento inteligente supone percibir, razonar, aprender, comunicarse y actuar en entornos completos. Una de las metas a largo plazo de la IA es el desarrollo de máquinas que puedan hacer todas estas cosas igual, o quizá incluso mejor, que los humanos. Otra meta de la IA es llegar a comprender este tipo de comportamiento, sea en las máquinas, en los humanos o en otros animales2 Nilsson, 2001, p.1. .
Antes de concretar el objetivo de las presentes páginas, es oportuno mencionar brevemente las tres modalidades de IA. En primer lugar, se encuentra la IA débil, empleada para la realización de tareas singulares, entre las que pueden encontrarse el reconocimiento óptico, las sugerencias de compra, juegos virtuales, etc. La segunda modalidad alude a la IA fuerte, que indica un tipo de sistema artificial que persigue un nivel más alto de progresión mediante la emulación de las redes neurales del cerebro humano. La tercera modalidad es la más hipotética, pues hace referencia a un intelecto sintético con capacidades muy superiores a las del ser humano que ha trascendido todo soporte biológico.
El objetivo de este trabajo consiste en argumentar la potencial contribución de la IA en materia de sostenibilidad ambiental. Para el cumplimiento de este propósito se analiza el postulado de Aimee van Wynsberghe3 van Wynsberghe, 2021. , destacando los aspectos más relevantes de su concepto de inteligencia artificial sostenible (IAS), y se mencionan los comentarios de Mark Coeckelbergh que giran en torno a la importancia de promover la sostenibilidad. Además, se plantea un marco ético de evaluación constructiva que constituye una apuesta política. El texto se divide en tres secciones: en primer lugar, se introduce el desafío ambiental a partir de una perspectiva tecnológica, haciendo énfasis en los efectos ambientales de la IA; en segundo lugar, se aborda el concepto de IAS, apuntando a la posibilidad de promover una tecnología sostenible en términos integrales; y, en tercer lugar, se propone un modelo de evaluación ética constructiva que sirve para complementar la idea de van Wynsberghe, explorando el valor de la inclusión y la participación de diversos grupos de interés para el fortalecimiento de una ciencia cívica4 Comisión Europea, 2015. en aras de la sostenibilidad.
Este trabajo recoge el testigo de las expectativas proyectadas en el Programa Horizonte 20205 Comisión Europea, 2014. y en el Pacto Verde Europeo6 Comisión Europea, 2019., invitando a una reflexión ética aplicada a los intelectos sintéticos. Además, va un paso más allá de las propuestas que se circunscriben al empleo de la IA para la consecución de los Objetivos de Desarrollo Sostenible (ODS)7 Monasterio Astobiza, 2021; Monasterio Astobiza, Toboso, Aparicio, y López, 2021.. En consecuencia, la IAS se articula sobre la investigación de caminos de sensibilidad que pueden favorecer en el ámbito tecnológico el cultivo del cuidado ambiental y la resiliencia por medio del cultivo y fortalecimiento de habilidades cívicas y democráticas.
EL FLAGELO CLIMÁTICO
⌅Es evidente que durante las últimas décadas el proceso de degradación ambiental ha experimentado una aceleración como resultado del incremento de la emisión de gases de efecto invernadero y la destrucción de hábitats naturales, manifestándose en diversos fenómenos como el cambio climático, la contaminación de hábitats, las catástrofes naturales, etc. Estudios científicos de instituciones de reconocido prestigio como Intergovernmental Panel on Climate Change (IPCC)8 Solomon et al., 2007. y declaraciones como las de World Meteorological Organization9 World Meteorological Organization, 2020. alertan sobre la grave situación y simbolizan un llamado de urgencia.
El comienzo del denominado «Antropoceno»10 Crutzen, 2006., considerado como la era geológica actual surgida a tenor de la profunda huella ecológica y geológica generada por los seres humanos, se inicia en los albores de la Revolución Industrial durante el siglo XVIII. Un periodo que encuentra su impulso en la idea de progreso técnico resultante de la Ilustración. La sinergia entre ciencia, tecnología y economía profundizada en la cuarta revolución industrial11 Schwab, 2016., ha ido erigiendo un modelo institucional de desarrollo basado en el crecimiento y el consumo que pone de relieve un desinterés por los límites planetarios y los valores ecológicos.
En 2009 un grupo de destacados científicos planteó la necesidad de promover un espacio de actuación para un desarrollo humano seguro en el planeta que pudiera ser aplicado en cualquier lugar12 Kartha et al., 2009; Steffen et al., 2015, pp. 1286-1287.. Estos científicos alertaron de los significativos riesgos ambientales que experimenta la humanidad a tenor de las implicaciones que presenta la superación de los límites del planeta Tierra. Una situación que está agravándose debido a un modelo de desarrollo sostenido sobre la convergencia entre tecnologías digitales, físicas y biológicas que transforman el mundo y donde destaca especialmente la IA.
Deloitte, una empresa privada que ofrece servicios de auditoría, llevó a cabo una serie de encuestas a ejecutivos de diversas organizaciones y países para obtener información sobre el proceso de integración de la IA en sus actividades13 Ammanath, Jarvis y Hupfer, 2020.. Su estudio destaca que alrededor del 70 % de las organizaciones encuestadas, manifiestan la intención de aumentar el gasto en IA en los próximos años. Este aumento se debe a los beneficios que esta tecnología reporta en el sector público y privado en materia de eficiencia y soporte para la realización de actividades que destacan por un alto nivel de complejidad. No obstante, el empleo de IA conlleva un coste considerable, en lo que respecta al gasto energético y la demanda de una gran potencia de procesamiento, que se traduce en un aumento de la huella de carbono. Anders Andrae, un investigador especializado en la evaluación de la sostenibilidad de las tecnologías de la información y la comunicación (TIC), advierte de los riesgos derivados de un escenario con niveles significativos de consumo energético en torno a la necesidad de un mayor esfuerzo para el ahorro de energía y la innovación14 Andrae, 2020.. Por ejemplo, el funcionamiento de los algoritmos de plataformas como Netflix, Facebook o Amazon depende en gran medida de un elevado consumo de energía que procede en menos de un 22 % de fuentes renovables15 Greenpeace, 2017. . En este sentido, la IA es una tecnología controvertida, pues por un lado contribuye a reducir los efectos de la crisis climática16 Rolnick et al., 2019. , con herramientas como Conservation Metrics o AI for Eartch17 Microsoft, 2018. ; y, por otro lado, genera emisiones de CO2, ya que se calcula que el Machine Learning tiene una huella ecológica equivalente a la producida por un coche durante su vida útil18 ITU-International Telecommunication Union, 2020.. Vincent Mosco ha destacado este carácter controvertido haciendo referencia a la metáfora de «la nube», un recurso digital empleado para la gestión y procesamiento de datos que presenta una apariencia inmaterial, aunque depende de unas realidades físicas que son objeto de continua explotación, como la extracción de minerales de la corteza terrestre19 Mosco, 2014..
El principal desafío que debe afrontar la IAS consiste en la búsqueda de un equilibrio entre los beneficios y los impactos ambientales. Por este motivo resulta imprescindible llevar a cabo un profundo ejercicio reflexivo que contribuya a una valoración de las implicaciones ambientales de la IA, con el propósito de cuantificar los costes que tienen sus emisiones y transitar de una Red AI hacia una Green AI20 Schwartz, Dodge, Smith, y Etzioni, O., 2019. . La investigadora Kate Crawford y el investigador Vladan Joler han asumido este compromiso reflexivo al detallar el impacto de Echo, un dispositivo de Amazon, a escala global, en términos de trabajo humano, datos y recursos empleados durante su vida útil, desde la fabricación hasta la eliminación21 Crawford y Joler, V., 2018. . Otro estudio llevado a cabo por investigadores de la Universidad de Massachusetts Amherst revela el vínculo existente entre el desarrollo de un gran modelo de IA para manejar el lenguaje humano y la emisión de CO2, aproximadamente cinco veces superior a las de un automóvil promedio en Estados Unidos22 Strubell, Ganesh y McCallum, 2019, p. 1. :
| Consumption | CO2e (lbs) |
|---|---|
| Air travle, 1 passenger, NY↔SF | 1984 |
| Human life, avg, 1 year | 11,023 |
| America life, avg, 1 year | 36,156 |
| Car, avg incl. fuel, 1 lifetime | 126,000 |
| Training one model (GP) | |
|---|---|
| NLP pipline (parsing, SRL) | 39 |
| w/tuning & experimentation | 78,468 |
| Transformer (big) | 192 |
| w/neural architecture search | 626,155 |
De un modo similar, Alexandre Lacoste et al. contribuyen en la respuesta al llamado de la necesidad de un equilibrio. Con su calculadora de emisiones facilitan la estimación del coste energético y el impacto ambiental, ofreciendo a la investigación una herramienta más para el desempeño de su trabajo:
Los factores que discutimos en el trabajo actual les dan a los practicantes de Machine Learning una cierta cantidad de control sobre el impacto ambiental que produce la formación de sus modelos. Somos conscientes de que estos, en la práctica, no siempre son posibles; por ejemplo, la elección de la ubicación del servidor puede estar limitada, debido a consideraciones de privacidad en el caso de aplicaciones en el dominio médico o financiero, y es posible que se necesiten grandes cantidades de datos para producir modelos más sólidos. Sin embargo, encontramos que nuestra calculadora de emisiones es un buen punto de partida para estimar el impacto que las pequeñas elecciones en el modelo la capacitación pueden tener sobre las emisiones directas de carbono resultantes de la investigación de Machine Learning […] No proponemos la solución a este problema, pero creemos que hay pasos que se deben tomar, por ejemplo, utilizando la eficiencia como criterio de evaluación o tomando medidas concretas para reducir las emisiones.23 Lacoste, Luccione, Schmidt y Dandres, 2019, p. 4.
Finalmente, es importante mencionar el rastreador de carbono Carbontracker24 Wolff Anthony, Kanding y Selvan, 2020. como otra de las propuestas encaminadas a la concienciación y el conocimiento de los efectos negativos del Deep Learning.
Una vez mencionados algunos ejemplos, es fundamental promover la defensa del diseño de estrategias éticas y políticas concretas para la reducción del impacto ambiental en aras de la sostenibilidad. Hay que alentar a la comunidad de la IA para la toma de conciencia y consideración de los efectos inesperados y ambivalentes que presenta la tecnología moderna25 Jonas, 2004.. La huella ecológica podría variar enormemente en función del diseño del algoritmo, el tipo de hardware y la naturaleza de la generación de la energía empleada26 Patterson et al., 2021.. Así pues, la articulación de una IAS constituye un importante desafío para los expertos de los sistemas artificiales, pues requiere un arduo trabajo de reflexividad ética que puede originarse en el seno de un modelo de evaluación constructiva que incorpore la inclusión, la participación y la sostenibilidad como elementos fundamentales de una transición verde27 Comisión Europea, 2019..
IA SOSTENIBLE
⌅La IA es objeto de importantes debates de diversa índole en la actualidad. La ética es una de las tantas disciplinas que ha dirigido su mirada hacia la IA como un objeto de estudio problemático, principalmente a través de dos caminos28 van Wynsberghe, 2021.. El primero se caracteriza por pensar las posibilidades de los intelectos sintéticos, una opción que ha estimulado curiosas elucubraciones29 Bostrom y Yudkowsky, 2011.; mientras que, el segundo, surge a partir de diversas preocupaciones como la gobernanza30 González Esteban y Calvo, 2022; Terrones Rodríguez, 2020. , la explicabilidad31 Robbins, 2019., los sesgos algorítmicos32 Skeem y Lowenkamp, 2016., el reconocimiento facial, las emociones y la protección de datos33 Almeida, Shmarko y Lomas, 2021; Berberich, Nishida y Suzuki, 2020; Kazim y Koshiyama, 2021. y la agencia moral34 Allen, Smith y Wallach, 2005; Gunkel y Bryson, 2014., entre otras.
En este escenario de múltiples problemáticas y controversias, van Wynsbergue considera que es el momento de comenzar un nuevo tiempo reflexivo en la ética de la IA para abordar el desafío del cuidado ambiental. La eticista da forma al concepto IAS con el objetivo de apuntar a un sistema artificial que no se limita únicamente a su empleo para el alcance de los ODS, a diferencia de lo que se promueve en la plataforma AI4Good35 Floridi et al., 2018.. En cambio, valora la posibilidad de introducir la sostenibilidad en el interior del ciclo de vida de la IA, desde su diseño, formación, desarrollo, validación, reajuste e implementación36 van Wynsberghe, 2021, p. 14..
En el intento de ir más allá de una IA para la sostenibilidad y proponer una IAS más significativa e integral, se precisan dos aclaraciones en torno al concepto de sostenibilidad. Por un lado, Hannah Stoddart et al.37 Stoddart et al., 2011. definen la sostenibilidad como la distribución eficiente y equitativa de recursos intrageneracional e intergeneracionalmente en un ecosistema finito. Y, por otro lado, Michael Ben-Eli38 Ben-Eli,2015., entiende la sostenibilidad como un equilibrio dinámico en el proceso de interacción entre la población y la capacidad de carga de su entorno. En este sentido, la IAS adquiere su significado en la tensión existente entre la innovación orientada a los ODS y la formación e implementación de esta tecnología dentro de parámetros sostenibles39 van Wynsberghe, 2021, p. 216..
Van Wynsbergue encuentra en la reorientación o resignificación de los modelos de IA un hallazgo crucial para el cultivo de la sostenibilidad. Recupera el estudio de Strubbel et al.40 Strubell, Ganesh, y McCallum, 2019., donde se analiza el coste de oportunidad del NPL (siglas en inglés de Natural Language Processing) para señalar el acierto de la posible supresión de determinadas actividades de IA que en la actualidad ocasionan una carga ética inevitable. El motivo principal radica en unos costes ambientales que son injustificadamente superiores a los beneficios que reporta el empleo de IA en términos de eficiencia41 van Wynsberghe, 2021, p. 216.. En este sentido, la alemana apunta en tres direcciones para dar forma a una IA sostenible42 Ibíd., p. 217.. En primer lugar, concreta que es importante reconocer el carácter experimental de la IA en su implementación en la sociedad, lo que conduce a identificar la ética como un imperativo para establecer mecanismos de protección. En segundo lugar, diagnostica la necesidad de grupos de trabajo gubernamentales que se encarguen de la medición de los impactos ambientales de la IA. Este punto incluiría un compromiso por parte del sector público y privado en el suministro de informes de emisiones y también financiación a las PYMES (pequeñas y medianas empresas) para impulsar la innovación sostenible. En tercer lugar, puntualiza que deberían crearse marcos regulatorios para evaluar la huella ecológica.
En la senda de las expectativas de una IAS se sitúa también Mark Coeckelbergh. El filósofo belga defiende que la agenda podría comenzar promoviendo una conciencia ética entre los usuarios de la IA. Esta propuesta estaría acompañada de una mayor investigación orientada a un ecosistema y materiales más sostenibles43 Coeckelbergh, 2021, p. 69. . Concretamente, Coeckelbergh menciona que un buen punto de partida consistirá en que los profesionales de la ciencia de datos y la IA reconocieran en el uso de la energía un valor ético relevante44 Ibíd..
Las tres direcciones planteadas por van Wynsbergue y la concienciación que sugiere Coeckelbergh, representan dos opciones fundamentales para el debate en torno a la necesidad de una IAS. No obstante, es conveniente proponer una estrategia ética y política concreta centrada en la evaluación que permita la puesta en valor de la inclusión y la participación de diversos actores como un mecanismo de fortalecimiento de habilidades cívicas y democráticas en favor de la sostenibilidad.
EVALUACIÓN ÉTICA CONSTRUCTIVA
⌅La evaluación tecnológica (TA, siglas en inglés de Technology Assessment) nació en la década de los sesenta como una herramienta para el asesoramiento político a tenor de los efectos inesperados del avance científico y tecnológico que motivaron la urgencia de una orientación para la elaboración de diagnósticos45 Bimber, 1996.. Entre las causas que detonaron este campo de estudio se encuentran las siguientes:
-
La preocupación surgida a tenor de la expansión de la tecnocracia.
-
Los conflictos y el déficit de legitimidad acontecidos tras determinadas experiencias tecnológicas.
-
La correspondencia entre la configuración de la tecnología y los valores sociales.
-
Temas de innovación.
-
Cambios en la comunicación sobre las emergentes tecnociencias46 Grunwald, 2014, p. 19. .
La TA se caracteriza por la interdisciplinariedad y el asesoramiento científico. Tiene como principal objetivo proporcionar conocimientos y orientar en la toma de decisiones, ofreciendo información y valorando consecuencias de diversa índole. La TA enriquece la gobernanza de la tecnología al considerar sus efectos, incorporando valores sociales y principios éticos47 Grunwald, 2014..
Durante las últimas décadas diversos grupos de la sociedad civil han mostrado un interés creciente por la participación en la gobernanza de la tecnología. Un interés que sitúa su origen en la consideración de la tecnología desde la óptica del constructivismo social48 Bijker, Hughes y Pinch, 1987. y estimula el surgimiento de la evaluación constructiva de la tecnología (CTA, siglas en inglés de Constructive Technology Assessment) en la década de los ochenta49 Schot y Rip, 1997; Rip, van del Belt y Schwarz, 1987; Rip, Misa y Schot, 1995.. Se posiciona un paso más allá de la TA, evitando dirigir la mirada únicamente a la evaluación de los impactos de la tecnología y movilizando conocimientos entrelazados sobre la dinámica coevolutiva de la ciencia, la tecnología y la sociedad. En la estela de esta propuesta coevolutiva, la IA debe ser concebida como un sistema sociotécnico50 Sartori y Theodorou, 2022., surtido de componentes técnicos y elementos sociales que dan forma a escenarios condicionados por numerosas complejidades. Kornelia Konrad et al.51 Konrad, Rip y Schulze Greiving, 2017. señalan que estos escenarios sociotécnicos representan un insumo para la evaluación de los grupos de interés. Escenarios que destacan por el análisis de la actualidad del desarrollo tecnológico y las expectativas de futuro, la exploración de diversas direcciones y la valoración de los posibles mecanismos de gobernanza que pueden incorporarse, considerando las interrelaciones entre grupos de interés.
La propuesta de la CTA responde a la necesidad de ofrecer un impulso pragmático a la IAS, conectando teoría con praxis, desafiando los límites del análisis académico para formar parte de prácticas y políticas reales de cambio con el propósito de brindar mejoras a la tecnología en el terreno ambiental. Un planteamiento que demanda el fortalecimiento de la dimensión política de la IA, subrayando la participación de diversos grupos de interés y el encuentro con otros saberes. Su objetivo consiste en el cultivo de la reflexividad y la constructividad por medio de una metodología de inclusión de agentes de cambio52 Rip y Robinson, 2013, p. 47.. Y presume de una sensibilidad metodológica que responde al carácter democrático de la evaluación, del mismo modo que la importancia asignada a la participación53 Grunwald, 2019., en la línea del modelo habermasiano de una relación pragmática entre ciencia y política54 Hennen, 2012.. Así pues, la inclusión y participación de diversos actores en el desarrollo tecnológico consolidan los procesos de legitimación política de un modo equilibrado, sin implicar un descuido en la búsqueda de eficiencia en favor de una correcta evaluación55 Abels y Bora, 2016. .
El fundamento constructivo de la CTA aporta a la propuesta de una IAS la participación política como insumo de cultura deliberativa, una práctica para mejorar la calidad de los productos por medio de la alineación entre la aceptabilidad y la deseabilidad, una oportunidad para la consideración de la IAS como un asunto de interés público y un acercamiento de la ciencia a la ciudadanía. En definitiva, la evaluación constructiva representa una opción pragmática para el fomento de la sostenibilidad en el entorno de los intelectos sintéticos.
CONCLUSIÓN
⌅El desafío ambiental constituye un llamado de urgencia para orientar la investigación e innovación tecnológica hacia un compromiso con la sostenibilidad. El campo de la IA no debe evadir la responsabilidad de articular un desarrollo sostenible en términos integrales. Como ha podido constatarse en la segunda parte de este trabajo, van Wynsbergue y Coeckelbergh han mostrado un gran interés en la inauguración de una nueva senda reflexiva en el ámbito de la ética aplicada a la IA. Por esa razón, en las presentes páginas se ha procurado iniciar ese camino mediante la formulación de una propuesta concreta basada en la evaluación ética constructiva.
La evaluación constructiva es la punta de lanza que proporciona un fundamento para una ética aplicada a la IAS. A partir de esta propuesta se abre una nueva ventana de oportunidad para seguir explorando mecanismos teóricos y prácticos que estén al servicio de su fortalecimiento. Quizás, una de las opciones que brinda la oportunidad de seguir explorando este objeto de estudio, es el modelo de investigación e innovación responsable (RRI, por sus siglas en inglés Responsible Research and Innovation), que fomenta la anticipación, la reflexión, la inclusión y la sensibilidad, dimensiones esenciales para el actual tiempo digital.
En definitiva, este trabajo ha servido para continuar la senda iniciada por van Wynsbergue y complementar su propuesta con una evaluación ética de la tecnología que estimula el cultivo y fortalecimiento de habilidades cívicas y democráticas en favor del compromiso con la sostenibilidad ambiental. Pues, como señala Jussi Parikka, ha llegado el momento de superar la concepción de los medios como extensiones de los sentidos humanos y pasar a considerarlos como extensiones de la Tierra56 Parikka, 2015..