Onde está o nexo do Nexus?

IA

O historiador israelense, Yuval Noah Harari, tornou-se uma das maiores celebridades do mundo depois de três livros, mas sobretudo, dos dois primeiros: Sapiens: uma breve história da humanidade (2014) e Homo Deus: uma breve história do amanhã (2017). O primeiro traduzido para mais de 65 línguas, e o segundo em número de idiomas próximos. Vou comentar os dois livro em conjunto para não tornar esta reflexão excessivamente longa, cujo centro é o seu mais novo livro  – Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, publicado mundialmente em 10 de setembro de 2024. Se entre o primeiro e o segundo se passaram cerca de três anos, agora percorreram mais que o dobro, sete. Verdade que em agosto de 2018 ele publicou um outro livro: 21 lições para o século 21. Mas, se trata de um livro com artigos diversos de difusão das ideias dos dois primeiros, e alguns poucas coisas novas, como o último capítulo sobre a meditação. Porém, nada de muito substantivo.

É muito difícil abordar o conjunto de teses e proposições que o autor utiliza para sinalizar o processo de evolução dos humanos, e as repercussões que elas têm para diversos dimensões da sociedade. Aqui elencamos alguns proposições interessante e discutimos uma das teses centrais do livro, a provável substituição dos humanos pelas máquinas. Tese com muitos adeptos e adversários como Miguel Nicolelis e Ray Kurzweil. 

Tanto o Sapiens como o Homo Deus, provocaram grandes debates e reboliços por suas teses e hipóteses, ousadas algumas, antigas mas renovadas, outras. Duas definições da diferenciação dos humanos em relação aos outros animais chamaram atenção, pois constituem o alicerce da obra do historiador israelense. A primeira é que os humanos, à diferença de outros animais, criam a realidade em que vivem. Esta realidade não é apenas compreendida ou apreendida pelos humanos, eles a criam. Tema abordado no livro de 1966 de Peter Berger e Thomas Luckmann – A construção social da realidade. Tratado de sociologia do conhecimento. Para estes autores a realidade apresenta-se de forma objetiva (institucionalização ou legitimação) e de forma subjetiva (interiorização ou identificação), como um dado e uma criação. A esta referência não poderia deixar de citar dois outros sociólogos relevantes: Karl Mannheim e Pierre Bourdieu. O primeiro chamando atenção para o fato de que grupos sociais moldam a realidade, criando diferentes universos de discurso e, o segundo, como as relações de poder influenciam e legitimam a produção do conhecimento. Ideia extensamente explorada na obra de Michel Foucault.

A diferença da abordagem de Harari dos sociólogos supra citados, além de aspectos teóricos particulares, reside, para a maioria dos leitores, em uma explicação simples e sugestiva, com muitos exemplos. O PH.D em história pela Universidade de Oxford mostra como muitas coisas em que acreditamos não são realidades objetivas, mas resultado de convenções entre os humanos, ou de nossas imaginações, tidas como verdades. O dólar em si não vale nada, não serve para comer ou vestir, diz ele. Contudo, é útil pelo valor que lhe atribuído, e que permite comprar essas e muito outras coisas. Da mesma forma, os direitos humanos. Se um cadáver humano for examinado não se encontrarão nele os tais direitos humanos. Uma convenção social criada e aceita na maioria das sociedades modernas. A diferença dos dias de hoje é que estas criações são múltiplas e em constante mudança. Até meados do século passado o divórcio era um crime ou algo socialmente repudiado, assim como a atração entre pessoas de mesmo sexo. Vide o filme O jogo da imitação, do diretor norueguês Morten Tyldum. O filme, baseado em fatos reais, mostra a vida de Alan Turing, o pai da computação moderna, que decifra, com equipe, o código Enigma, utilizado pelos nazistas em suas comunicações militares, com isso, salvando milhares de vidas. Um herói da Segunda Guerra que sofre perseguição por ser homossexual, o que o leva a um trágico suicídio (07/06/1954). Isso na Inglaterra há menos de um século. É chocante. Hoje nas sociedades modernas, com raras exceções, o divórcio é natural e os homossexuais são aceitos enquanto tal.

É essa capacidade cognitiva dos sapiens de compartilhar ficções complexas como mitos e religiões que abrirá as portas para a segunda característica que diferencia os humanos dos outros animais: os sapiens são capazes de cooperar em grande grupo de forma flexível.  É nesta capacidade que reside a evolução do Sapiens em seu processo de inovações. Em pequenos grupos e com flexibilidade o fazem os chimpanzés. Mas, não os convidem para assistir um jogo no Maracanã, porque certamente não haverá jogo. Contudo, as abelhas cooperam em grandes grupos, porém sem qualquer flexibilidade. Não há risco de encontrarmos uma colmeia presidida não por uma rainha, mas por uma presidente ou primeiro ministro. Não há realmente maior flexibilidade. Apenas pequenas variações canônicas.  

Os livros permitem repensar várias assertivas relativamente assentadas, como a de que a transição da vida nômade para a agricultura não foi necessariamente um avanço. Tema ricamente tratado por dois ingleses, um antropólogo e outro arqueólogo, ambos David – Graeber e Wengrow, no livro O despertar de tudo: uma nova história da humanidade, o qual sugiro fortemente a leitura, sobretudo para os habitantes do continente americano, apesar de seu subtítulo grandiloquente. Neste continente residiram muitas das ideias forças do Iluminismo europeu dos séculos XVII e XVIII.

Harari ressalta, igualmente, a importância das religiões na unificação de grandes grupos, por meio da criação de valores compartilhados universalmente. Os dois livros se encerram, um e outro, com reflexões sobre o futuro da humanidade. Tema que será retomado no livro mais recente – Nexus: uma breve história das redes de informações, da Idade da Pedra à inteligência artificial.

Depois de analisar e sugerir que as religiões jogaram um papel altamente relevante na evolução humana, por meio da criação de valores compartilhados universalmente, Harari faz um esforço especial, em Homo Deus, para nos explicar o nascimento de uma nova religião, a dos dados, como resultado da evolução e domínio da IA. Seus argumentos têm pouca empiria e muita imaginação. Questão que será, de forma distinta, retomada no novo livro. Não como religião, mas como submissão dos humanos.

O historiador israelense, professor na Universidade Hebraica de Jerusalém, partilha da ideia, discutível, mas vulgarizada em muitos meios sociais, de que a inteligência artificial se desenvolverá, tornando-se mais inteligente do que os humanos, substituindo-os na face da terra. Já no prólogo, página 9, o autor nos preveni: “Novas tecnologias como a inteligência artificial (IA) podem escapar de nosso controle e nos escravizar ou nos aniquilar”. Ideia esta que não lhe é exclusiva, presente na grande mídia, mas também entre cientistas conceituados como Martins Rees – Sobre o futuro (Alta Cult).

Mas, “o principal argumento do livro é que a humanidade obtém enorme poder construindo grande redes de cooperação”(p.12). Segundo Harari, são redes que de certa forma “predispõe os humanos a usarem o poder de modo pouco sábio”(p. 12). Trata-se de um problema de informação, pois é esta que cola as partes de uma rede. Nazismo e stalinismo são exemplos de redes poderosas.

Sem dúvida são redes montadas em assertivas ilusórias. Difícil de serem avaliadas caso se tenha uma “noção ingênua de informação”. Baseada nesta noção imagina-se que uma rede quanto mais informações tiver mais perto estará da verdade, e terá assim um melhor entendimento das coisas. Supõe que a informação é algo intrinsecamente bom e quanto mais informações detivermos mais perto estaremos da verdade. Essa ideia já está presente no livro Homo Deus que sustenta que “o verdadeiro protagonista da história sempre foi a informação e não o Homo Sapiens.” (p 20). E cada vez mais cientistas compreendem que o Sapiens, o Estado ou o Mercado são, sobretudo, fluxos de informações.

Na noção ingênua da informação imagina-se que ela representa a realidade, ela também o faz, mas neste aspecto não reside  a sua essência, pois ela cria novas realidades, conectando as partes de um todo. Ela é sobretudo um nexo social. Por isso, o mais importante não é se a informação representa a realidade, se ela é uma representação, mas o que ela conecta. “Essa é a sua característica fundamental” (p.43). E o que mantém unidas as redes humanas são estória ficcionais, e não a verdade (p.59). Esta é essencial para o avanço cientifico, e trata-se de uma prática espiritual louvável, mas não se constitui em matéria para criar uma estratégia política promissora. As redes científicas perseguem a verdade, as redes políticas perseguem a ordem (sua manutenção ou derrubada, substituindo-a por outra). E em um caso e outro a informação joga um papel diferente.

Com as estórias, os documentos, os livros, o cinema criamos novas redes de informação que asseguram (ou não), a reprodução da ordem.  Em todos estes exemplos passados de novos instrumentos de criação de rede de informação os humanos jogaram um papel essencial, quem conta as estórias ou escreve livros ou faz um filme são os humanos. Estes meios são apenas instrumentos de expressões humanas, verdadeira ou falsas pouco importa, pois o essencial é garantir a ordem. O novo, com a IA, é que esta não é apenas um instrumento, mas um agente. Ou seja, a IA não apenas transmite ordens como as cria. Aqui reside uma tese extremamente discutível, e que o autor não consegue sustentar com fatos. O exemplo maior que ele utiliza é o acidente em Mianmar.

Harari parte de uma concepção estreita de inteligência, mas útil para o exemplo que vai utilizar para ilustrar sua tese: inteligência é a capacidade de alcançar objetivos. Claro que é muito mais, capacidade de definir objetivos, de examinar suas consequências, de mudar a definição, de se engajar em sua persecução.

Em 2016/2017 uma organização política da minoria islâmica rohingya, habitantes do oeste de Mianmar, que sofre perseguições e discriminação desde os anos 1970, uma serie de ataques destinados a criar um Estado muçulmano separatista. Em resposta o Exército de Mianmar e radicais budistas lançaram uma campanha de limpeza étnica no qual mataram de 7 mil a 25 mil civis desarmados, estupraram ou abusaram sexualmente de 18 mil a 60 mil mulheres e expulsaram brutalmente cerca de 730 mil rohingyas do país. A violência foi alimentada pelo ódio intenso contra os rohingyas, fomentada por propaganda disseminada pelo Facebook, desempenhando um papel central nesse processo. Isso porque o algoritmo do Facebook está instruído para aumentar o engajamento das pessoas, e as mensagem de ódio são aquelas que mais atraem pessoas. Com isso esses algoritmos não paravam de enviar estas mensagem a todos os seu clientes do Face, alimentando a onda de perseguição à minoria muçulmana. Constatou-se na época que 53% de todos os vídeos assistidos em Mianmar eram reproduzidos por algoritmos sem necessidade de comando dos usuários. Ou seja, não eram as pessoas que escolhiam o que assistir, mas os algoritmos que escolhiam por elas. Conclusão: não há um único culpado para uma ação desta natureza, mas sem duvida, diz Harari, os próprios algoritmos também são culpados. Estranho, se eles foram montados para aumentar o engajamento, e as mensagens de ódio desempenham melhor este papel do que outras, normal que elas aumentem a emissão dessas mensagens. Não há aqui qualquer novidade. O culpado são os algoritmos ou quem os programou? Sendo programado para fazer algo, pode-se culpá-los se eles não fizeram diferente?

O contra argumento de Harari é um outro exemplo no qual uma IA , o chabot GPT 4, da OpenAI, submetido a testes foi capaz de criar uma solução para o problema que deveria resolver que não foi ensinado por nenhum engenheiro. O que demonstra que os computadores são capazes de tomar decisão por conta própria, e que assim podem se tornar em membros da rede muito mais poderosos do que os humanos, porque são capazes de acessar informação em maior quantidade do que os humanos. E, afirma Harari, eles podem manipular os humanos para tomarem decisões nocivas aos seus interesses.

Os argumentos e exemplos parecem interessantes, mas estão longe de me convencer que os computadores assumirão o comando do mundo, substituindo os humanos. Pelo menos os argumentos não são suficientemente robustos, ao contrário. Mas a questão fica em aberto, pois como diz Martin Rees, a IA está ainda em sua pré-história. E se é possível que as máquinas saibam mais do que os humanos, e portanto possam adquirir esta superioridade, um dia acontecerá. Será?