top of page

Uma Inteligência Artificial socialmente justa é possível?

Atualizado: 24 de mar. de 2023


Ilustração: Haidée Lima
Ilustração: Haidée Lima

No início dos anos 1960, o filósofo brasileiro Álvaro Vieira Pinto elaborou uma definição de tecnologia que destacava sua natureza complexa e multifacetada, enfatizando a necessidade de reflexão crítica e considerações éticas em seu uso e desenvolvimento. Para ele, a tecnologia é uma forma de conhecimento que transforma a natureza, sendo muito mais do que um conjunto de ferramentas ou máquinas. Por meio de relações entre os seres humanos e seu ambiente, cria uma maneira específica de compreender e agir no mundo.


Na sua concepção, a tecnologia é parte das transformações produzidas por cada sociedade dentro de suas características, para dar conta de suas contradições. Nesse processo, a tecnologia é fundamentalmente ligada aos sistemas sociais, econômicos e políticos, e, por ser uma parte fundamental da cultura e história humana, nunca é neutra. Ela reflete os valores, interesses e relações de poder daqueles que a criam e usam, tendo, portanto, as questões de soberania nacional e possibilidades de desenvolvimento intrinsecamente ligadas às transformações por ela promovidas.


No contexto do uso do design na produção de TICs, e considerando a periferia do capitalismo, é fundamental refletir sobre essas relações de poder e como elas ocorrem, especialmente no Brasil e em outros países com uma história significativa de colonialismo e imperialismo. Essas relações levam à exploração e opressão das pessoas e comunidades subalternizadas, resultando em desigualdades econômicas e injustiças sociais significativas.

No entanto, seguindo os próprios princípios de Álvaro Vieira Pinto, é um erro "substancializar" a tecnologia, o que pode levar a julgamentos morais vazios, como pensar a tecnologia como "salvacionismo" ou como "ameaça". É importante entender as tecnologias dentro desse espectro de relações humanas e buscar alternativas para descolonizar sua produção e uso.


Nesse sentido, podemos pensar em uma abordagem para descolonizar a inteligência artificial. Como podemos iniciar uma discussão para o desenvolvimento e implantação de tecnologias de IA de forma mais socialmente justa? Este texto propõe 5 necessidades mínimas para atingir esse objetivo:


  1. Diversificar as equipes de desenvolvimento de IA: garantir que as equipes de desenvolvimento de IA sejam diversas e inclusivas, representando uma variedade de perspectivas e experiências.

  2. Descolonizar os dados: examinar criticamente como os dados foram construídos e como são usados para garantir que sejam culturalmente apropriados e respeitosos.

  3. Dar centralidade às comunidades marginalizadas: deslocar as perspectivas e experiências das comunidades marginalizadas para o centro do desenvolvimento e implantação de tecnologias de IA. Isso pode envolver a colaboração com as comunidades para co-criar projetos em que a IA atenda suas necessidades e respeite seus valores.

  4. Promover transparência e responsabilidade: para garantir que os sistemas de IA sejam projetados e implantados de maneira ética e responsável, deve-se entender os impactos potenciais da IA nas comunidades marginalizadas e tomar medidas para mitigar efeitos negativos, mas talvez mais ainda potencializar as criações e usos por essas comunidades.

  5. Repensar a Propriedade e o Controle da IA: Promovendo uma propriedade coletiva e a colaboração. Isso pode envolver a criação de sistemas de IA de código aberto projetados para serem de propriedade e controle das comunidades, ou promover projetos nos quais o uso de IA gera prioritariamente benefício público.


Esses pontos implicam em repensar as questões éticas relacionadas ao IA, entendendo a ética como o modo de estar no mundo relativo às pessoas desenvolvedoras dessas tecnologias, avaliando assim criticamente as suas implicações e garantindo que estejam alinhadas com os valores das comunidades que serão por ela impactadas. Acredito que a única forma de conseguir esse intento é dando voz para a produção e uso por parte dessas comunidades. Menos do que isso é apenas uma outra forma de colonização.


655 visualizações1 comentário

Posts recentes

Ver tudo

1 Comment


Concordo totalmente com vc Mabuse !!! Acordar para a necessidade de implantar IAs com as mais variadas experiências e valores, principalmente incluindo os das comunidades marginalizadas e oprimidas. Lutar fortemente para que não reproduzam apenas nossa sociedade racista e machista ... Mas isso tem jeito!

Like
Post: Blog2_Post
bottom of page