Inteligencia Artificial, Agentes Digitales y Agencia Humana

Publicado originalmente en portugués el 23 de marzo de 2023.

Estamos rodeados de agentes digitales que adaptan sus actividades en función de los datos que nosotros mismos producimos. Lo hacen con el objetivo de modificar nuestros comportamientos. Ejemplos de esto incluyen las listas de recomendaciones de Netflix o Amazon, así como el feed de YouTube. El objetivo de este texto es desarrollar una comprensión sobre las características específicas del modo de actuación de estos agentes y las diferencias con respecto a la agencia humana.

Para seguir con este propósito, recurriré a un autor que, a pesar de las diversas críticas que se le pueden hacer a su pensamiento, puede ayudarnos. Se trata del biólogo-filósofo alemán, exponente un tanto olvidado de la antropología filosófica: Helmuth Plessner.

En su búsqueda por comprender la naturaleza singular de la existencia humana, en 1928 Plessner desarrolló el concepto de "posicionalidad excéntrica". Según el autor, los seres humanos se caracterizan por una incongruencia fundamental entre sí mismos y el mundo. Los seres humanos nunca están completamente en sintonía consigo mismos, con el mundo que los rodea o con las instituciones que crean.

En el centro de la posicionalidad excéntrica está la idea de que los seres humanos poseen una noción de sí mismos formada por una combinación de perspectivas en primera, segunda y tercera persona. La perspectiva en primera persona se refiere a nuestra experiencia subjetiva del mundo, mientras que la perspectiva en segunda persona implica nuestra capacidad de anticipar cómo nos percibirán y comprenderán los demás. La perspectiva en tercera persona nos permite tener una visión externa y objetiva de nosotros mismos y del mundo que nos rodea.

Plessner argumenta que esta combinación de perspectivas es lo que permite a los seres humanos razonar, imaginar nuevas posibilidades y crear instituciones que nos permiten vivir juntos en sociedad. Sin embargo, también crea una sensación de incertidumbre y vulnerabilidad existencial, ya que estamos constantemente conscientes de la distancia entre nuestra experiencia subjetiva y la realidad objetiva que nos rodea.

En resumen, la posicionalidad excéntrica destaca el hecho de que los seres humanos no son meros organismos biológicos o seres racionales, sino que están inmersos en una compleja red de contextos sociales, culturales e históricos que moldean nuestra experiencia del mundo.

Para continuar, me gustaría introducir otro concepto necesario: el de agencia. Para mantener coherencia con el contexto tratado, utilizaré el concepto proveniente de la teoría de los sistemas, entendiendo así la agencia como la capacidad de percibir un entorno en términos de posibilidades de acción, combinada con la capacidad de actuar sobre el mundo. Esto destaca la naturaleza relacional de la agencia y la igualdad entre percepción y acción. La definición incluye, además de los humanos, termostatos y plantas, que, aunque de naturaleza menos diversa, también perciben y actúan en su entorno. Además, la agencia humana incluye la capacidad de definir metas propias, tanto como individuos como sociedad.

¿Y qué sucede cuando estos agentes, impulsados por una denominada Inteligencia Artificial, actúan sobre nosotros? En este momento, estos sistemas pueden estar anticipándose a nosotros y aprendiendo a afectarnos, pero no necesariamente comparten nuestro tipo de agencia. Lo que comúnmente llamamos Inteligencia Artificial son máquinas con capacidad de inferencia automatizada que tienen un tipo específico de agencia que puede definirse como orientada por datos y código. Estas máquinas están orientadas por datos, ya que solo pueden percibir su entorno en forma de datos, y orientadas por código, ya que necesitan código para hacer inferencias.

Aquí está la cuestión crítica de la diferenciación: si tales sistemas de Inteligencia Artificial perciben su entorno únicamente en forma de datos, los seres humanos entendemos el entorno a través de nuestra posición excéntrica (una visión externa y objetiva de nosotros mismos y, al mismo tiempo, del mundo que nos rodea), lo que nos lleva a anticipar las respuestas de los demás y los efectos de nuestras acciones en el entorno que habitamos.

Al igual que muchos otros pensadores, Plessner entiende que es imposible acceder directamente al mundo, pero detalla en su modelo que esta imposibilidad ocurre tanto en el mundo compartido que creamos como en el mundo interno que experimentamos. Nuestro "self" no es una entidad idéntica a sí misma, sino una perspectiva en primera persona que depende de nuestra habilidad para adoptar una perspectiva en segunda persona (que nos permite imaginar cómo nos comprenden los demás) y una perspectiva en tercera persona que nos sitúa como seres corporizados en un espacio objetivado.

Para la investigadora Mireille Hildebrandt, "Plessner destaca que nuestro 'self' se constituye mediante la adopción de una posición excéntrica. Aunque algunos puedan pensar que esto es un defecto, en realidad es una característica. Es precisamente la incongruencia del 'self' consigo mismo lo que genera malentendidos productivos y saltos creativos". Es notable la relación con otras teorías, como el ruido en la Cibernética de Segundo Orden, que merece un texto posterior.

Finalmente, aunque la creación de la inteligencia artificial se dé por una posición excéntrica, al ser una creación de humanos, a partir de ahí la propia inteligencia artificial no se basa en esa posición. Las máquinas solo pueden ejecutar programas creados por seres humanos y, incluso al crear nuevas máquinas, no poseen la capacidad de tener un mundo interno o compartido, ni prosperan con la ambigüedad productiva del significado (los humanos producen significado, las máquinas producen matemáticas). A diferencia de los seres humanos, la agencia de la máquina no sufre la incongruencia de un 'self' consigo mismo.

Entendiendo que esta es una de varias lecturas posibles, solo una explorada en este texto como ejercicio, y pretendiendo evitar al máximo la búsqueda de un universal, podemos decir que es en esta perfección estéril donde reside la mayor diferencia.