Análisis
ChatGPT afirma que la IA puede ayudar a mitigar la crisis ecológica. Las investigaciones dicen lo contrario

Los chatbots no están diseñados para ser veraces, sino para adivinar posibles respuestas a ciertas preguntas a partir de contenidos disponibles y accesibles generados previamente, ya sea por humanos o por otros algoritmos de Inteligencia Artificial (IA). Las respuestas generadas, por lo tanto, tienden a favorecer y amplificar los contenidos más populares en la red y no necesariamente los más críticos.

Somos un equipo de investigación interdisciplinar interesado en la interconexión entre la rápida implementación de tecnologías digitales y la aceleración de la crisis ecológica. Llevamos varios años estudiando las implicaciones sociales y ecológicas de la inteligencia artificial. Aunque sospechábamos que las respuestas serían insatisfactorias, le preguntamos a varios ChatGPT si los sistemas de IA podrían ayudar a lidiar con la crisis ecológica. Las respuestas generadas por estos algoritmos resultaban excesivamente optimistas. Tendían a enfatizar el potencial de estas tecnologías para mejorar la eficiencia energética de ciertos procesos urbanos e industriales y, solo al final, se mencionaban brevemente algunos posibles riesgos asociados con la IA. Éramos muy conscientes de que dichas respuestas no eran necesariamente fiables.

Si bien existen bastantes publicaciones sobre los riesgos sociales de la IA, sus enormes costes ecológicos son bastante menos reconocidos

Hacía unos meses habíamos sacado una publicación académica en la que revisábamos una cantidad significativa de investigaciones críticas sobre las implicaciones de la IA para la sostenibilidad y el bien común. Nuestras conclusiones basadas en dicha literatura crítica eran mucho menos optimistas que las respuestas que solían ofrecer los chatbots. De hecho, según esta investigación, la implementación masiva de sistemas de IA durante los últimos años estaba intensificando todas las tendencias ecosociales más problemáticas a nivel global al acelerar la desigualdad social, el consumo energético, la polarización política y la degradación ecológica.

La triste ironía es que, precisamente en el momento histórico en el que nuestro bienestar y supervivencia colectiva dependen de revertir radicalmente dichas tendencias ecosociales, nuestras tecnologías “inteligentes” las están acelerando y automatizando

¿Cómo era posible que nuestras sociedades estuvieran abrazando masiva y aceleradamente unas tecnologías “inteligentes” que estaban exacerbando dramáticamente todos los problemas ecosociales más graves de nuestro tiempo? Una posible respuesta sería que las tecnologías “inteligentes” se conciben e implementan dentro del marco de un paradigma cultural adicto al crecimiento económico constante inherentemente insostenible. A pesar de que hace décadas que resulta obvio que la economía global no puede crecer constantemente en un planeta finito sin colapsar todos los sistemas vivos de la Tierra, la motivación principal del diseño e implementación de las tecnologías digitales continúa siendo la acumulación de capital.

Prácticamente todos los aspectos de la crisis ecológica están empeorando a un ritmo escalofriante al tiempo que la desigualdad social lleva décadas incrementándose hasta llegar a los escandalosos y disfuncionales niveles actuales. Basta recordar que durante la pandemia las diez personas más ricas del planeta doblaron su fortuna. Mientras continuemos operando desde los parámetros de una cultura económica orientada al crecimiento constante la innovación tecnológica seguirá reforzando estas inercias ecosociales tan devastadoras.

Un número significativo de investigaciones críticas confirma que la IA está automatizando la desigualdad social y amplificando las asimetrías de poder existentes

La triste ironía es que, precisamente en el momento histórico en el que nuestro bienestar y supervivencia colectiva dependen de revertir radicalmente dichas tendencias ecosociales, nuestras tecnologías “inteligentes” las están acelerando y automatizando. Hacer que un sistema tecnosocial destructivo e injusto sea más rápido e “inteligente” resulta kamikace y, por lo tanto, ello no debería celebrarse ni confundirse con progreso social.

Sería mucho más sabio y precavido movilizar nuestra imaginación política colectiva, como propone el decrecimiento, para diseñar una cultura económica ecológicamente regenerativa y socialmente justa y, solo entonces, si todavía se considerase oportuno, equiparla con algoritmos de IA. En cambio, los medios de comunicación no independientes continúan diseminando y repitiendo discursos tecno-optimistas elaborados por corporaciones que exageran las promesas sociales de las tecnologías digitales e ignoran sus consecuencias indeseables.

Lo cierto es que un número significativo de investigaciones críticas sobre tecnología insisten en el hecho de que la implementación masiva de IA perpetúa los prejuicios sociales existentes, degrada los procesos democráticos y tiende a penalizar a las personas más vulnerables y a enriquecer todavía más a las personas más ricas. Estos estudios confirman que la IA está automatizando la desigualdad social y amplificando las asimetrías de poder existentes.

Si bien existen bastantes publicaciones sobre los riesgos sociales de la IA (el libro El enemigo conoce el sistema, de Marta Peirano, es imprescindible al respecto), sus enormes costes ecológicos son bastante menos reconocidos. Las tecnologías “inteligentes” no hacen sino exacerbar aún más las injusticas ambientales dado que las poblaciones más desfavorecidas pagan desproporcionadamente las consecuencias negativas de la innovación tecnológica, mientras que las personas más privilegiadas acaparan sus beneficios y cuentan con los instrumentos para poder capear sus consecuencias no deseadas.

Los sistemas de IA toman decisiones de una manera automática y opaca, ignorando las posibles consideraciones éticas y acaparando el rol que deberían tener los debates públicos

Al igual todos los sistemas tecnoindustriales, la IA es una tecnología material y energéticamente intensiva y, por ende, inherentemente insostenible. No está claro cómo se va a satisfacer la enorme y creciente demanda de minerales y energía que requiere la implementación y el mantenimiento de la infraestructura computacional global en un contexto de devastación ecológica, disrupción climática y declive energético.

Incluso en los relativamente pocos casos en los que los sistemas de IA se aplican prioritariamente a proyectos enfocados en la sostenibilidad ambiental, los resultados son a menudo insuficientes, cuando no contraproducentes. El caso es que, en el marco de una cultura económica orientada al crecimiento, incluso las mejoras en ecoeficiencia tienden a aumentar la demanda absoluta de materiales y energía en lugar de reducirla.

La infraestructura computacional global está incrementando rápidamente la demanda energética para mantener los centros de almacenamiento y procesamiento de datos, entrenar algoritmos, o producir, transportar y recargar todo tipo de aparatos “inteligentes” que proliferan e invaden cada vez más aspectos de nuestra cotidianidad. Los discursos tecnooptimistas suelen presentar un rasgo común: no prestan atención a los flujos de energía de los que dependen las altas tecnologías que celebran o, en otras palabras, padecen ceguera energética. Si se presta la debida atención a la situación energética global resulta difícil creer que unas tecnologías tan intensivas energéticamente jugarán un papel protagónico positivo en una transición socioecológica viable.

El libro de Kate Crawford, Atlas of AI (2021), enfatiza el hecho de que la IA es principalmente una industria extractiva que depende de una gran infraestructura que está transformando drásticamente no solo la ecología planetaria, sino también la manera en la que los humanos perciben y dotan de sentido su realidad. En otras palabras, la expansión de esta industria tiene efectos nefastos tanto en nuestra biosfera como en nuestra capacidad cognitiva. La economía de la atención hace que nuestra energía mental sea dirigida insistentemente hacia lo que se pueda monetizar en lugar de hacia los problemas socioecológicos más urgentes. Esto está desembocando en una extrema radicalización política basada en la desinformación digital que favorece desproporcionadamente a partidos neofascistas y a los políticos oportunistas más indeseables, como muestra el último libro de Naomi Klein.

Si realmente queremos que la tecnología nos ayude a lidiar con la crisis ecológica y la desigualdad social, primero deberíamos hacer que la cultura económica dominante supere su adicción al crecimiento constante

Los últimos años han sido testigos de una aceleración sin precedentes del extractivismo a escala planetaria facilitado e impulsado en gran medida por desarrollos recientes en la IA y otras tecnologías asociadas. Por otro lado, la proliferación de basura electrónica tóxica generada por la expansión de la digitalización se acumula por doquier (incluso en el espacio exterior).

Meredith Broussard llama tecnochavinismo a esa creencia tan extendida de que la alta tecnología supone siempre la mejor solución para enfrentar cualquier problema, incluso en los casos en los que existen alternativas más simples, seguras, baratas y ecológicas para lidiar con dichos problemas. Marta Peirano explica cómo algunas máquinas diseñadas para capturar CO2 contaminan más de lo que limpian, mientras que la agricultura regenerativa, la permacultura y la agroecología pueden secuestrar CO2 al tiempo que mejoran la calidad del suelo y favorecen la biodiversidad.

Por otro lado, los sistemas de IA toman decisiones de una manera automática y opaca, ignorando las posibles consideraciones éticas y acaparando el rol que deberían tener los debates públicos para decidir colectivamente qué inercias existentes convendría automatizar y perpetuar y cuáles preferiríamos modificar o discutir. Por ello las sociedades smart son irreflexivas por diseño y, por lo tanto, antidemocráticas.

Los sistemas de IA nunca serán “inteligentes” si los humanos que diseñan sus algoritmos solo disponen de conocimientos técnicos e ignoran las perspectivas críticas

El hecho de que las políticas educativas de las últimas décadas tiendan a menospreciar e incluso socavar las disciplinas humanísticas y las ciencias sociales para priorizar disciplinas y destrezas “técnicas” no hace sino exacerbar dicha tendencia irreflexiva.

Desde la filosofía de la ciencia y la tecnología resulta obvio que el énfasis desproporcionado en la acumulación de datos y las destrezas técnicas sin un entendimiento de la profundidad histórica, el contexto ecológico y la reflexión sociocultural, solo puede acabar empeorando todos los problemas existentes y haciendo inimaginable cualquier alternativa política deseable al sistema dominante. Saber cómo hacer ciertas cosas sin preguntarse por el por qué, para qué o en beneficio de quién se hacen dichas cosas no parece ser la manera más intencional de transformar un sistema inherentemente injusto e insostenible en otro más deseable.

Si realmente queremos que la tecnología nos ayude a lidiar con la crisis ecológica y la desigualdad social, primero deberíamos hacer que la cultura económica dominante supere su adicción al crecimiento constante. Después, habría que repensar nuestras prioridades y valores para, como sociedades, incentivar diseños tecnológicos que prioricen el bien común y la regeneración ecológica y desincentiven el extractivismo y la acumulación de poder.

Los sistemas de IA nunca serán “inteligentes” si los humanos que diseñan sus algoritmos solo disponen de conocimientos técnicos e ignoran las perspectivas críticas sobre la tecnología que llevan varias décadas desarrollándose en el seno de las humanidades y las ciencias sociales. Una tecnología solo será inteligente si las regulaciones e incentivos económicos que estimulan su desarrollo e implementación están alineados con el bien común y priorizan la participación de las comunidades locales a las que afecta.

El problema no es el instrumento, sino la lógica detrás de su diseño y los incentivos económicos que condicionan su implementación acelerada

La implementación de algoritmos de aprendizaje automático en cada vez más aspectos de nuestras vidas diarias está teniendo drásticas consecuencias no deseadas, no solo para los humanos, sino para los sistemas vivos de los que depende nuestra supervivencia. El problema no es el instrumento, sino la lógica detrás de su diseño y los incentivos económicos que condicionan su implementación acelerada sin permitir tiempo suficiente para la reflexión y el debate público informado.

Si queremos una tecnología más justa y regenerativa, necesitamos enmarcarla dentro de una cultura económica más sabia. Una cultura económica que incentive una innovación tecnológica que no solo deje de amplificar nuestra peor cara, sino que cultive nuestro lado más generoso y creativo. Literalmente, nos va la vida en ello.