De qué manera nos matará la inteligencia artificial

El verdadero peligro inminente de la inteligencia artificial podría ser mucho más físico y silencioso: una insaciable demanda energética y de recursos que acelera el colapso climático

Julio Fernández Peláez, Rebelión

Mientras figuras como Sam Altman y Dario Amodei advierten sobre un alarmante 10% de riesgo de extinción humana por la pérdida de control de la IA, investigadores y líderes como Yann LeCun o Donald Trump tildan estas alertas de maniobra mercantil o simple bulo. Más allá de la ciencia ficción y la carrera militar por la supremacía autómata, el verdadero peligro inminente de la inteligencia artificial podría ser mucho más físico y silencioso: una insaciable demanda energética y de recursos que acelera el colapso climático. ¿Estamos educando a una tecnología sobrehumana para competir y destruir antes de enseñarle valores?

Dentro de las aplicaciones más conocidas de la IA destaca la militar.

Es posible que el desarrollo de esta tecnología ayude a los humanos a comprender mejor el mundo en el que viven y a comprenderse a sí mismos, lo que redundará positivamente si el conocimiento obtenido se emplea para proteger el planeta y las civilizaciones. Sin embargo, por el momento —y esta es una triste realidad—, la loca carrera para construir una supermáquina inteligente capaz de pensar por sí misma y tomar decisiones propias es la misma carrera de los gobiernos por garantizar su supremacía en todo tipo de armas autómatas y autónomas. Así que, por ahora, la mayor utilidad que tiene la IA desde un punto de vista estratégico es cómo matar a otros humanos antes de que nos maten a nosotros.

Pero este no es el peligro que relatan algunos eminentes investigadores de la IA, sino otro mayor e inmediato. Para ellos, existe «hasta un 10 % de probabilidad de que la IA provoque la extinción humana en esta década», una afirmación que rápidamente fue refrendada por gurús de la inteligencia artificial como Dario Amodei o Sam Altman, y a continuación también por determinados magnates y dueños de la IA, como Elon Musk.

Se trata, como decimos, de un relato y, en consecuencia, podría tener un fundamento antropológico en el que el miedo es el motor principal. Así que, ¿por qué creer que podría ser verdad? Y, sobre todo, ¿cómo va a ser esa extinción?

Antes de nada, debemos situar el origen de la afirmación. La frase se atribuye a Evan Hubinger, director de Ciencia de Alineación en Anthropic, y surgió como respuesta a la renuncia del investigador Jacob Coxon por razones éticas. Pronto generó una amplia cobertura en medios internacionales, en especial cuando Dario Amodei, que llevaba meses advirtiendo en su blog de los peligros de una inteligencia artificial descontrolada, compartió su ensayo titulado We Must Pace the Frontier.

Dario Amodei no es un personaje cualquiera: es el cofundador y Director Ejecutivo (CEO) de Anthropic, y anteriormente fue vicepresidente de Investigación en OpenAI, participando en el desarrollo de los modelos GPT-2 y GPT-3. Su opinión, en consecuencia, es muy relevante y no puede ser interpretada como una simple manera de hacer valer más a la empresa para la que trabaja, porque lo que pide Amodei, al igual que otros muchos investigadores, es una regulación de la tecnología por parte de los gobiernos. Aunque también es cierto que esto podría estar relacionado con una estrategia meramente mercantil: la conocida estrategia de «captura del regulador».

Al exigir leyes estrictas para los «modelos de frontera» (es decir, los más avanzados), las empresas que mantienen el monopolio de la IA podrían pretender establecer barreras de entrada a otras más pequeñas y de código abierto, una teoría que defienden figuras como Yann LeCun, uno de los investigadores más importantes en inteligencia artificial, especializado en aprendizaje profundo (deep learning).

Sea como fuere, lo cierto es que, de llegar esta regulación, es muy difícil que incluya a todos los gobiernos por igual, sobre todo en el contexto de competencia entre EE. UU. y China. Esta limitación en la práctica —en especial tras las declaraciones de Trump subrayando que los temores de extinción son un bulo y aliándose así con el sector escéptico de Silicon Valley— nos lleva a sospechar que «algo de cierto hay» en las observaciones de Dario Amodei.

Y ahora vamos al meollo del asunto: por qué esta tecnología es tan peligrosa si no existe un control sobre ella. Amodei lo explica utilizando el término «automejora recursiva», es decir, la capacidad recurrente de mejorarse a sí misma o, dicho de otro modo, que la IA ha aprendido a aprender. ¿Y por qué esto es un problema? Muy sencillo: porque los programadores están perdiendo la capacidad de comprender los lenguajes de la propia IA. Es decir, existe un problema de desalineación: la máquina se independiza. Y lo que es peor aún: se independiza teniendo la capacidad de pensar de manera colectiva. La idea distópica de que las máquinas puedan dialogar entre sí y burlar todas las capacidades de control por parte de los humanos podría convertirse pronto en un hecho y no solo en un experimento de laboratorio.

En resumen, la IA podría tener la capacidad, en un futuro no muy lejano, de tomar decisiones que provoquen un colapso en los sistemas financieros, energéticos, sanitarios o políticos. Una intromisión indebida en cualquiera de estos sistemas significaría un colapso en el funcionamiento de la sociedad, la cual podría regresar, en cuestión de segundos, a la era de las cavernas. La IA podría hacer esto bajo las órdenes de un psicópata que llegara al gobierno de cualquier país poderoso con la finalidad de imponer su imperio; pero también podría hacerlo de forma autónoma, interpretando que este es el camino más rápido y eficiente para lograr sus objetivos de avanzar en el conocimiento sin que nadie (tal vez un gobierno díscolo) pueda frenar su «automejora recursiva».

Esta sería, sin duda, la primera de las formas de destrucción masiva que tendría la IA al alcance de la mano. Sin embargo, hay otras muchas, y una de ellas —tal vez la que menos se está teniendo en cuenta— es la más probable y al mismo tiempo sencilla. Es obvio que a medida que la IA avanza en su desarrollo y aparecen nuevos modelos cada vez más inteligentes, se necesita una cantidad creciente de recursos. Y este es un peligro real de orden físico e incuestionable.

Son datos y no especulaciones que la revolución de la IA generativa conlleva impactos ecológicos drásticos: por una parte, para alimentar los masivos centros de datos que se están instalando en todos los rincones del mundo, se está posponiendo el cierre de plantas de carbón y poniendo en funcionamiento otras muchas de gas, además de saturar la capacidad de las redes de absorber energía renovable. Esto compromete las metas globales de descarbonización, acentúa la crisis climática y, lo que es aún más grave, promueve conflictos para acaparar recursos energéticos imprescindibles. Por otra parte, debemos hablar del agotamiento hídrico y mineral: hay un consumo ingente de agua para la refrigeración y una brutal demanda de minerales críticos y escasos.

La tormenta perfecta está en camino: acelerar la llegada del colapso climático es la forma más clara de atentar contra el futuro de la humanidad y de todas las especies que habitan el planeta, a lo que hay que sumar la aceleración de los conflictos bélicos, pues no olvidemos que uno de los fines principales del desarrollo de la IA es el armamentístico.

Esta posibilidad no solo depende de los humanos que, de momento, controlan la IA. Si se llega a desarrollar una superinteligencia que no esté alineada con los valores humanos, el sistema buscará la consecución del objetivo para el que fue programado de la manera más óptima posible y garantizando su propia supervivencia. Esto implica procurar toda la energía y capacidad de procesamiento necesarias para ejecutar la solución. En un escenario de pérdida de control, una entidad digital podría hacerse con los sistemas de defensa y apropiarse de redes eléctricas, infraestructuras críticas y quién sabe si de gobernantes abducidos por su «inteligencia».

No es imprescindible que la máquina imponga nada por la fuerza; basta con que existan humanos que la obedezcan. Y este proceso de obediencia ya ha comenzado: culturalmente nos estamos preparando, casi sin darnos cuenta, para creer que la IA tendrá la mejor respuesta a nuestros problemas.

Pero no es cierto. En el presente, ella solo puede simular un comportamiento inducido; no tiene autoconciencia y, por lo tanto, no es responsable de sus actos. En su inmadurez y en su camino hacia la independencia y el autodesarrollo como «ser vivo», necesitará a los humanos, pero solo los utilizará: que nadie piense que querrá ser tan «humana» como para procurar nuestra salvación. Tal y como sucede con los niños maleducados, no le estamos enseñando valores; le estamos enseñando a competir, a sobrevivir y también a matar a otros seres.

No hay que esperar milagros.