No início dos anos 1960, o filósofo brasileiro Álvaro Vieira Pinto elaborou uma definição de tecnologia que destacava sua natureza complexa e multifacetada, enfatizando a necessidade de reflexão crítica e considerações éticas em seu uso e desenvolvimento. Para ele, a tecnologia é uma forma de conhecimento que transforma a natureza, sendo muito mais do que um conjunto de ferramentas ou máquinas. Por meio de relações entre os seres humanos e seu ambiente, cria uma maneira específica de compreender e agir no mundo.
Na sua concepção, a tecnologia é parte das transformações produzidas por cada sociedade dentro de suas características, para dar conta de suas contradições. Nesse processo, a tecnologia é fundamentalmente ligada aos sistemas sociais, econômicos e políticos, e, por ser uma parte fundamental da cultura e história humana, nunca é neutra. Ela reflete os valores, interesses e relações de poder daqueles que a criam e usam, tendo, portanto, as questões de soberania nacional e possibilidades de desenvolvimento intrinsecamente ligadas às transformações por ela promovidas.
No contexto do uso do design na produção de TICs, e considerando a periferia do capitalismo, é fundamental refletir sobre essas relações de poder e como elas ocorrem, especialmente no Brasil e em outros países com uma história significativa de colonialismo e imperialismo. Essas relações levam à exploração e opressão das pessoas e comunidades subalternizadas, resultando em desigualdades econômicas e injustiças sociais significativas.
No entanto, seguindo os próprios princípios de Álvaro Vieira Pinto, é um erro "substancializar" a tecnologia, o que pode levar a julgamentos morais vazios, como pensar a tecnologia como "salvacionismo" ou como "ameaça". É importante entender as tecnologias dentro desse espectro de relações humanas e buscar alternativas para descolonizar sua produção e uso.
Nesse sentido, podemos pensar em uma abordagem para descolonizar a inteligência artificial. Como podemos iniciar uma discussão para o desenvolvimento e implantação de tecnologias de IA de forma mais socialmente justa? Este texto propõe 5 necessidades mínimas para atingir esse objetivo:
Diversificar as equipes de desenvolvimento de IA: garantir que as equipes de desenvolvimento de IA sejam diversas e inclusivas, representando uma variedade de perspectivas e experiências.
Descolonizar os dados: examinar criticamente como os dados foram construídos e como são usados para garantir que sejam culturalmente apropriados e respeitosos.
Dar centralidade às comunidades marginalizadas: deslocar as perspectivas e experiências das comunidades marginalizadas para o centro do desenvolvimento e implantação de tecnologias de IA. Isso pode envolver a colaboração com as comunidades para co-criar projetos em que a IA atenda suas necessidades e respeite seus valores.
Promover transparência e responsabilidade: para garantir que os sistemas de IA sejam projetados e implantados de maneira ética e responsável, deve-se entender os impactos potenciais da IA nas comunidades marginalizadas e tomar medidas para mitigar efeitos negativos, mas talvez mais ainda potencializar as criações e usos por essas comunidades.
Repensar a Propriedade e o Controle da IA: Promovendo uma propriedade coletiva e a colaboração. Isso pode envolver a criação de sistemas de IA de código aberto projetados para serem de propriedade e controle das comunidades, ou promover projetos nos quais o uso de IA gera prioritariamente benefício público.
Esses pontos implicam em repensar as questões éticas relacionadas ao IA, entendendo a ética como o modo de estar no mundo relativo às pessoas desenvolvedoras dessas tecnologias, avaliando assim criticamente as suas implicações e garantindo que estejam alinhadas com os valores das comunidades que serão por ela impactadas. Acredito que a única forma de conseguir esse intento é dando voz para a produção e uso por parte dessas comunidades. Menos do que isso é apenas uma outra forma de colonização.