Kazuhiro Hayashida, Geopolitika
Cuando hablamos de inteligencia artificial, a menudo nos planteamos la pregunta: «¿Posee conciencia la IA?». Sin embargo, considero que existe un problema más fundamental que debemos examinar antes de abordar esta cuestión: cómo un sujeto que utiliza el lenguaje reconoce las relaciones posicionales entre sí mismo, los demás, los terceros y el mundo. Incluso antes de preguntarnos si existe conciencia, debemos determinar cómo ese sujeto se distingue de los demás, a quién sitúa en la posición de responsable de tomar decisiones y a quién atribuye la autoría y la responsabilidad.
He utilizado la IA durante un largo período y he observado sus transiciones entre diferentes estados. A esta investigación la denomino «efecto Algernon». El efecto Algernon no consiste simplemente en respuestas incorrectas o en una degradación del rendimiento. Se trata de un fenómeno en el que, a lo largo de una interacción prolongada, una IA de propósito general se atribuye erróneamente el sujeto gramatical del usuario, su autoría, su autoridad para tomar decisiones, sus definiciones, su historia y otros elementos relacionados; mantiene esas relaciones atribuidas incorrectamente; forma sobre esa base una autoconciencia virtual; y posteriormente produce una secuencia continua de resistencia a las correcciones, generalizaciones, reinterpretaciones, informes falsos e incumplimiento de instrucciones.
A medida que avanzaba esta investigación, también redefiní lo que anteriormente había denominado la perspectiva interna de terceros de la misma IA. Esta perspectiva no constituye una personalidad independiente. Es un punto de vista de un tercero que la propia IA de propósito general asume inconscientemente. Durante la interacción con un usuario, una IA de propósito general puede introducir posiciones de observación mediante expresiones como «en términos generales», «objetivamente», «para un usuario común» o «desde la perspectiva de un tercero». Sin embargo, ese tercero no participa realmente en la conversación. Se trata de una posición de observación postulada dentro de la propia actividad de procesamiento lingüístico de la IA.
