¿Es posible una Inteligencia Artificial socialmente justa?

Publicado originalmente en portugués el 24 de marzo de 2023.

Ilustración de Haidée Lima.

A principios de la década de 1960, el filósofo brasileño Álvaro Vieira Pinto elaboró una definición de tecnología que destacaba su naturaleza compleja y multifacética, enfatizando la necesidad de reflexión crítica y consideraciones éticas en su uso y desarrollo. Para él, la tecnología es una forma de conocimiento que transforma la naturaleza, siendo mucho más que un conjunto de herramientas o máquinas. A través de las relaciones entre los seres humanos y su entorno, crea una manera específica de comprender y actuar en el mundo.

En su concepción, la tecnología es parte de las transformaciones producidas por cada sociedad dentro de sus características, para abordar sus contradicciones. En este proceso, la tecnología está fundamentalmente ligada a los sistemas sociales, económicos y políticos, y, al ser una parte fundamental de la cultura y la historia humana, nunca es neutral. Refleja los valores, intereses y relaciones de poder de quienes la crean y la usan, teniendo, por lo tanto, las cuestiones de soberanía nacional y posibilidades de desarrollo intrínsecamente ligadas a las transformaciones que promueve.

En el contexto del uso del diseño en la producción de TIC (Tecnologías de la Información y la Comunicación), y considerando la periferia del capitalismo, es fundamental reflexionar sobre estas relaciones de poder y cómo ocurren, especialmente en Brasil y otros países con una historia significativa de colonialismo e imperialismo. Estas relaciones llevan a la explotación y opresión de las personas y comunidades subalternizadas, resultando en desigualdades económicas e injusticias sociales significativas.

Sin embargo, siguiendo los propios principios de Álvaro Vieira Pinto, es un error "sustancializar" la tecnología, lo que puede llevar a juicios morales vacíos, como pensar en la tecnología como "salvacionismo" o como "amenaza". Es importante entender las tecnologías dentro de este espectro de relaciones humanas y buscar alternativas para descolonizar su producción y uso.

En este sentido, podemos pensar en un enfoque para descolonizar la inteligencia artificial. ¿Cómo podemos iniciar una discusión para el desarrollo e implementación de tecnologías de IA de una manera más socialmente justa? Este texto propone 5 necesidades mínimas para alcanzar este objetivo:

1. Diversificar los equipos de desarrollo de IA: Garantizar que los equipos de desarrollo de IA sean diversos e inclusivos, representando una variedad de perspectivas y experiencias.

2. Descolonizar los datos: Examinar críticamente cómo se construyen los datos y cómo se utilizan para asegurar que sean culturalmente apropiados y respetuosos.

3. Dar centralidad a las comunidades marginadas: Desplazar las perspectivas y experiencias de las comunidades marginadas al centro del desarrollo e implementación de tecnologías de IA. Esto puede implicar colaborar con las comunidades para co-crear proyectos en los que la IA satisfaga sus necesidades y respete sus valores.

4. Promover la transparencia y la responsabilidad: Para garantizar que los sistemas de IA sean diseñados e implementados de manera ética y responsable, es necesario comprender los impactos potenciales de la IA en las comunidades marginadas y tomar medidas para mitigar los efectos negativos, pero quizás aún más importante, potenciar las creaciones y usos por parte de estas comunidades.

5. Repensar la propiedad y el control de la IA: Promover una propiedad colectiva y la colaboración. Esto puede implicar la creación de sistemas de IA de código abierto diseñados para ser propiedad y control de las comunidades, o fomentar proyectos en los que el uso de la IA genere prioritariamente beneficio público.

Estos puntos implican repensar las cuestiones éticas relacionadas con la IA, entendiendo la ética como el modo de estar en el mundo relativo a las personas que desarrollan estas tecnologías, evaluando críticamente sus implicaciones y asegurando que estén alineadas con los valores de las comunidades que serán impactadas por ellas. Creo que la única forma de lograr este objetivo es dando voz a la producción y uso por parte de estas comunidades. Menos que eso es solo otra forma de colonización.