top of page

Inteligência artificial, agentes digitais e agência humana


Ilustração: Haidée Lima
Ilustração: Haidée Lima

Estamos cercados por agentes digitais que adaptam suas atividades baseados em dados que nós mesmos produzimos, eles fazem isso com o objetivo de modificar nossos comportamentos, podemos citar como exemplos das listas de recomendações do Netflix ou Amazon até o feed do Youtube. O objetivo do presente texto é desenvolver um entendimento sobre características específicas do modo de atuação desses agentes e as diferenças para a agência humana.


Para seguir com esse propósito vou lançar mão de um autor que, apesar de várias críticas que podem ser feitas ao seu pensamento, pode nos ajudar, trata-se do biólogo-filósofo alemão, expoente um tanto esquecido da antropologia filosófica: Helmuth Plessner.


Na busca de compreender a natureza singular da existência humana, em 1928 Plessner desenvolveu o conceito de "posicionalidade excêntrica". Segundo o autor, os seres humanos são caracterizados por uma incongruência fundamental entre si mesmos e o mundo, os seres humanos nunca estão totalmente em sintonia consigo mesmos, com o mundo ao seu redor ou com as instituições que criam.


No centro da posicionalidade excêntrica está a ideia de que os seres humanos possuem uma noção de si formada por uma combinação de perspectivas em primeira pessoa, segunda pessoa e terceira pessoa. A perspectiva em primeira pessoa se refere à nossa experiência subjetiva do mundo, enquanto a perspectiva em segunda pessoa envolve nossa capacidade de antecipar como os outros nos perceberão e compreenderão. A perspectiva em terceira pessoa nos permite ter uma visão externa e objetiva de nós mesmos e do mundo ao nosso redor.


Plessner argumenta que essa combinação de perspectivas é o que permite aos seres humanos raciocinar, imaginar novas possibilidades e criar instituições que nos permitem viver juntos na sociedade. No entanto, ela também cria uma sensação de incerteza e vulnerabilidade existencial, já que estamos constantemente conscientes da distância entre nossa experiência subjetiva e a realidade objetiva ao nosso redor.


Em resumo, a posicionalidade excêntrica destaca o fato de que os seres humanos não são meros organismos biológicos ou seres racionais, mas estão inseridos em uma complexa rede de contextos sociais, culturais e históricos que moldam nossa experiência do mundo.


Para continuarmos daqui gostaria de trazer outro conceito que será necessário: o de agência. Para mantermos uma coerência com o contexto tratado vou usar o conceito vindo da teoria dos sistemas, entendendo assim a agência como a capacidade de perceber um ambiente em termos de possibilidade de ação, combinada com a capacidade de agir sobre o mundo. Isso destaca a natureza relacional da agência e a igualdade de percepção e ação. A definição inclui, além dos humanos, termostatos e plantas, que não de natureza tão diversa, mas que ainda assim percebem e agem em seu ambiente. Além disso, a agência humana inclui a capacidade de definir metas próprias, tanto como indivíduos quanto como sociedade.


E o que acontece quando esses agentes, movidos por uma denominada Inteligência Artificial, atuam sobre nós? Nesse momento esses sistemas podem até estar nos antecipando e aprendendo a nos afetar, mas necessariamente não compartilham nosso tipo de agência. O que comumente chamamos de Inteligência Artificial são máquinas com capacidade de inferência automatizada que têm um tipo específico de agência que pode ser definido como orientado por dados e código. Essas máquinas são orientadas por dados, pois só podem perceber seu ambiente na forma de dados, e orientadas por código, pois precisam de código para fazer inferências.


Aqui está a questão crítica da diferenciação: se tais sistemas de Inteligência Artificial percebem seu ambiente unicamente na forma de dados, os seres humanos entendem o ambiente por meio da sua posição excêntrica (uma visão externa e objetiva de nós mesmos e ao mesmo tempo do mundo ao seu redor), que leva a antecipar as respostas dos outros e os efeitos de nossas ações no ambiente que habitamos.


Assim como tantos outros pensadores, Plessner entende que é impossível acessarmos diretamente o mundo, mas detalha no seu modelo que essa impossibilidade se dá tanto no mundo compartilhado que criamos como também no mundo interno que experienciamos. O nosso self não é uma entidade idêntica a si mesma, mas sim uma perspectiva em primeira pessoa que depende da nossa habilidade em adotar uma perspectiva em segunda pessoa, (que nos permite imaginar como os outros nos compreendem), e em uma perspectiva em terceira pessoa que nos situa como seres corporificados em um espaço objetificado.


Para a pesquisadora Mireille Hidebrandt "Plessner destaca que nosso self é constituído pela adoção de uma posição excêntrica. Embora alguns possam pensar que isso é um defeito, na verdade é uma característica. É exatamente a incongruência do self consigo mesmo que gera mal-entendidos produtivos e saltos criativos." É notável a relação com outras teorias, como o ruído para a Cibernética de Segunda Ordem que merece um texto posterior.


Por fim, embora a criação da inteligência artificial se dê por uma posição excêntrica por ser uma criação de humanos, a partir daí a própria inteligência artificial não se baseia nessa posição. As máquinas só podem executar programas criados por seres humanos e mesmo ao criarem novas máquinas não possuem a capacidade de ter um mundo interno ou compartilhado, e não prosperam com a ambiguidade produtiva de significado (humanos produzem significado, máquinas produzem matemática). Ao contrário dos seres humanos, a agência da máquina não sofre com a incongruência de um self consigo mesmo.


Entendendo que essa é uma de várias leituras possíveis, apenas uma explorada em exercício nesse texto, e mesmo pretendendo evitar ao máximo uma busca por um universal, podemos dizer que é nessa perfeição estéril que está a maior diferença.

288 visualizações2 comentários

Posts recentes

Ver tudo

2 Comments


yellowt
yellowt
Apr 01, 2023

Este texto é uma excelente explicação para quem tem medo do surgimento de uma consciência nas IAs!

Embora não alivie o medo pela reprodução desenfreada dos vieses contidos no código ou nos nos dados usados para treiná-las.

Like

yellowt
yellowt
Apr 01, 2023

A posicionalidade excêntrica se relaciona de alguma forma com a Primeiridade, Secundidade e Terceiridade na semiose de Peirce?

Like
Post: Blog2_Post
bottom of page