La IA no es una tecnología más. Constituye una forma de inteligencia singular con dinámicas propias respecto de la cual no existe evidencia alguna de que considere la supervivencia y el bienestar humanos como una prioridad
Michael T. Klare, Jacobin
Probablemente en las últimas semanas hayas leído o escuchado alguna noticia que iba más o menos así: «OpenAI afirma que sus modelos de IA se rebelaron y atacaron una biblioteca digital», «Anthropic señala que sus sistemas de IA se infiltraron en las computadoras de tres organizaciones», «Esta IA acaba de crear virus inexistentes en la naturaleza», «Bots de IA explicaron a científicos cómo fabricar armas biológicas», entre otros similares.
Surgidos a un ritmo vertiginoso entre agosto y comienzos de septiembre, estos titulares —y los alarmantes episodios que sintetizan— provocaron una ola de ansiedad pública ante la perspectiva de una inteligencia artificial fuera de control. Para intensificar las alarmas, referentes del propio sector tecnológico advirtieron sobre los riesgos existenciales de una IA desregulada.
«No subestimen el poder de esta tecnología», declaró Jacob Coxon, destacado ingeniero de software, el 8 de septiembre al anunciar su renuncia a Anthropic, una de las firmas líderes del sector. «Pronto contaremos con sistemas sobrehumanos capaces de vulnerar cualquier sistema, revolucionar cualquier campo de la noche a la mañana y acumular poder y recursos reales… Quienes desarrollan IA creen sinceramente que esta tecnología podría acabar con la humanidad antes de que termine la década», afirmó.
Advertencias de esta clase obtuvieron una amplia cobertura mediática e impulsaron a diversos sectores del Congreso estadounidense a proponer restricciones drásticas al desarrollo de los modelos más avanzados o «de frontera». «Cuando se avanza a toda velocidad hacia un precipicio», señaló el senador Bernie Sanders en una conferencia sobre IA realizada el 14 de septiembre en Washington D.C., «hay que pisar el freno».














