Inteligencia artificial y colonialismo de datos

Los datos constituyen una forma de apropiación de recursos, pero no se trata de apoderarse de materias primas; la vida debe configurarse para facilitar la producción de esta riqueza digital. Además, las IA se entrenan con conjuntos de datos que reflejan los sesgos típicos de la cultura occidental

Mario Coglitore, Sbilanciamoci!

“Esto también tenía que pasarme a mí”, piensa, “hablar con una máquina como si fuera un ser humano”.

Dino Buzzati, El gran retrato

Dominio de TI

La aparición de la Inteligencia Artificial (en adelante, IA) ha cambiado significativamente el panorama de lo posible, y a veces de lo imposible, invadiendo los espacios digitales en una carrera imparable hacia un futuro cuyas promesas desconocemos con exactitud.

Ahora parte esencial de nuestro imaginario colectivo, la IA recorre incansablemente el laberinto de Internet, que creíamos una realidad virtual dispuesta a satisfacer todos nuestros deseos, poniendo el conocimiento y la experiencia al alcance de todos en un intercambio totalmente horizontal y democrático, y sobre todo, totalmente gratuito, bajo el lema de compartir libremente. Pero no ha sido así, como era de esperar, cuando las plataformas comerciales se apoderaron de Internet, transformándola en un lucrativo negocio de proporciones globales.

La IA se puede dividir en dos tipos principales: generativa y discriminativa. Esta última se centra en tareas de clasificación y predicción estadística, mientras que la IA generativa es significativamente más compleja, ya que requiere la creación de contenido original, como texto, fotos, música, audio y vídeo, a partir de modelos de aprendizaje automático entrenados para este fin. En respuesta a solicitudes específicas, conocidas como indicaciones , la máquina proporciona respuestas igualmente precisas, o lo más precisas posible, recurriendo a enormes conjuntos de datos para comprender, resumir y producir contenido nuevo. Cuanto mayor sea la cantidad de datos disponibles, mayores serán las probabilidades de que el procesamiento de la IA sea eficaz en cualquier cuestión relacionada con el conocimiento humano.

Se suele decir que los datos son el nuevo petróleo, el combustible que impulsa a estos virtuosos y eruditos oráculos de silicio, un reflejo cada vez más deslumbrante de lo que yace más allá de la pantalla. Sin embargo, los datos no están presentes en la naturaleza; deben ser apropiados tras ser estructurados y convertidos en tales; capturarlos y procesarlos implica construir «relaciones de datos» que aseguran la conversión casi espontánea de la vida cotidiana en un flujo continuo de información . El resultado es inevitable: un nuevo orden social basado en la vigilancia constante, que ofrece oportunidades incalculables para la selección e influencia del comportamiento.

Sin embargo, las relaciones de datos también están sujetas a un colonialismo renovado, que aprovecha a los mismos seres humanos que facilitan su estructuración al interactuar con sus dispositivos (ordenadores, tabletas, teléfonos, relojes inteligentes , etc.), del mismo modo que el colonialismo europeo se apropió de territorios y recursos de ultramar a lo largo de varios siglos para obtener fabulosos beneficios.

El «colonialismo de datos» , un neologismo acuñado para describir este reciente proceso de expropiación, combina prácticas depredadoras típicas del colonialismo histórico con métodos algorítmicos de cálculo cuantitativo. Ya no se trata, como en el pasado, de ocupar nuevas tierras y someter a las poblaciones nativas para expandir las fronteras metropolitanas y enriquecer a la nación; sino que se trata de invadir los espacios virtuales de internet, convirtiéndolos en auténticos lugares de explotación, geografías inmateriales donde ejercer un poder «digital-territorial».

Los datos constituyen, por lo tanto, una forma fundamental de apropiación de recursos. En este caso, sin embargo, no se trata simplemente de apoderarse de materias primas en su estado natural, como podría ocurrir con la plata de las minas sudamericanas, el algodón de las plantaciones esclavistas estadounidenses o el caucho del Congo Belga. La vida, ahora, debe estructurarse para facilitar la producción de estas riquezas digitales; los datos sobre el comportamiento o las características de un individuo se combinan con datos de otros individuos conectados en línea para crear conexiones "informativas" entre puntos preestablecidos que las plataformas digitales pretenden controlar. Los principales protagonistas del "colonialismo de datos" son las grandes corporaciones, conocidas hoy como Big Tech , involucradas en la recopilación de actos sociales cotidianos, que luego se transforman en datos cuantificables que se analizan y almacenan para generar ganancias: Amazon, Google, Apple, Meta con Facebook, Instagram y WhatsApp, pero también, en China, Baidu, Alibaba y Tencent.

Estamos presenciando una reorganización de la comunidad humana a través de una profunda transformación de las relaciones sociales. Las últimas tecnologías de la información, gracias a la combinación de conocimientos, habilidades y competencias que incorporan —en particular las infraestructuras digitales impulsadas por IA algorítmica—, crean a diario un nuevo tipo de sociedad, «traducida» en un flujo de datos que será continuamente monitorizado, capturado y clasificado según su valor.

Ahora bien, al representar nosotros mismos a esa sociedad, inevitablemente, nuestra existencia personal y nuestra identidad se ven comprometidas. Nuestro propio ser se ve afectado, y somos indebidamente expropiados como colectivo y como individuos simultáneamente. El «colonialismo de datos» transforma nuestras vidas en una construcción social virtual, lista para ser mercantilizada.

Los sesgos de los algoritmos

En cierta medida, la IA generativa reproduce la antigua mentalidad colonial y parece perpetuar estereotipos que amplifican las ideas preconcebidas sobre el género y la etnia, poniendo incluso en peligro la seguridad de las personas.

El testimonio de Joy Buolamwini, publicado en la revista Time en 2019, es interesante y conmovedor. Científica, activista y fundadora de la Liga de Justicia Algorítmica, Buolamwini escribe: «Las máquinas pueden discriminar de forma perjudicial. Lo experimenté de primera mano cuando era estudiante de posgrado en el MIT en 2015 y descubrí que un software de análisis facial no podía detectar mi rostro de piel oscura hasta que me puse una máscara blanca. Estos sistemas suelen estar entrenados con imágenes de hombres predominantemente de piel clara».

Las IA se entrenan con conjuntos de datos que reflejan los prejuicios típicos de la cultura occidental en todos los niveles. Esto significa que la IA propone modelos engañosos de interpretación de la realidad, fuertemente sesgados hacia el privilegio de las personas blancas y su cultura. Este último aspecto no debe subestimarse. Se fabrican clichés que evidencian el racismo más flagrante: las mujeres asiáticas son hipersexualizadas; las mujeres y los hombres africanos son representados mayoritariamente como primitivos, a diferencia de los europeos, que aparecen como sólidamente evolucionados; los líderes son siempre hombres y los prisioneros son mayoritariamente personas de color. Ejemplos impactantes de colonización algorítmica se encuentran en Sudáfrica e Indonesia, donde se prueban modelos de vigilancia digital para beneficiar a la industria global de la vigilancia, que exporta estas tecnologías a otros países y las vende en todo el mundo.

El “colonialismo de datos” se alimenta devorando implacablemente información de maneras que pueden parecer obvias y, peor aún, neutrales, con el objetivo de promover, según nos repiten obsesivamente, mejoras indiscutibles facilitadas por el uso de tecnologías que parecen verdaderamente milagrosas y al alcance de todos, en lugar de, por el contrario, intentos persistentes de coaccionar el desarrollo humano.

Pero no se trata solo de Big Data o de plataformas diseñadas para aprovechar su extraordinario potencial. La materialidad de la IA, un elemento que no debemos pasar por alto y sobre el que vale la pena reflexionar, cuenta otra historia, una hecha de cuerpos y tierras raras: piensen en el litio sin el cual las baterías de nuestros teléfonos celulares no funcionarían, o en el trabajo casi servil de quienes "limpian" paquetes de datos para eliminar contenido cruel, pornográfico o particularmente objetable —el llamado "etiquetado"— que impide que la IA los ofrezca en respuesta a una de las muchas preguntas que se le plantean sobre los temas más diversos, e impide que el usuario final los reciba. Mal pagados y traumatizados por lo que ven y oyen, con consecuencias directas para su salud mental, los limpiadores de datos , principalmente del Sur Global (el conjunto de países en desarrollo ubicados mayoritariamente en el hemisferio sur), llevan a cabo una actividad "fantasma", oculta de miradas indiscretas, de la que los consumidores occidentales ni siquiera son remotamente conscientes.

El imperio de la IA, si podemos llamarlo así , es mucho más tangible de lo que uno podría pensar, mientras que, por otro lado, nos seduce el espectáculo digital que nos promete exhibiciones majestuosas y pirotécnicas: en este sentido, bastará con mencionar los archivos de información almacenados en potentes servidores , unidades físicas que se evitan que se sobrecalienten mediante circuitos especiales de refrigeración por agua, almacenados en muchas zonas del planeta, con mayor concentración en Estados Unidos, que se alimentan con electricidad simple, como cualquier bombilla.

En el laberinto inquieto de internet, repleto de sugerencias intensas pero también de muchos rincones oscuros, el Minotauro espera a un Teseo que libere a los prisioneros de sus cadenas virtuales. Probablemente a todos nosotros.


* * * *