A inteligência artificial pode nos tornar menos inteligentes?

Cada tecnologia que amplia nossa capacidade de conhecer também transforma a maneira como pensamos

Imagem criada por Inteligência Artificial

Muito antes dos computadores, da internet e da inteligência artificial, há cerca de 2.400 anos, Platão já se perguntava se uma ferramenta criada para ampliar o conhecimento humano não poderia, paradoxalmente, produzir o efeito contrário. Ele se referia à escrita.

No mito egípcio de Theuth narrado por Platão, o advento da escrita é apresentado como um remédio para a memória capaz de preservar o saber da humanidade e proteger o conhecimento contra o esquecimento.

A novidade, porém, foi recebida com desconfiança, já que, ao delegar um saber a sinais exteriores, os homens deixariam de exercitar a própria memória. Teriam à disposição uma enorme quantidade de informações sem necessariamente tê-las assimilado.

O diálogo mitológico contado por Platão antecipa um problema que volta agora — a inteligência artificial — a nos questionar: o que acontece com nossa capacidade mental quando parte de suas atividades passa a ser realizada por uma nova tecnologia?

Existe uma palavra grega particularmente interessante para compreender essa ambiguidade: phármakon, termo que pode designar tanto um remédio quanto um veneno. No século XX, o filósofo francês Jacques Derrida explorou essa ambivalência ao analisar justamente o texto de Platão sobre a escrita.

A ideia é simples e poderosa: uma tecnologia pode simultaneamente nos dar uma capacidade e enfraquecer outra. A escrita preservou o conhecimento numa escala que a memória jamais poderia alcançar, mas ao mesmo tempo reduziu drasticamente a necessidade de memorizar.

A calculadora permitiu fazer operações com grande velocidade e precisão, mas tornou menos necessário calcular mentalmente. O GPS permite atravessar uma cidade desconhecida sem nos perdermos, mas também nos dispensa de construir mentalmente o espaço pelo qual passamos. Nenhuma dessas tecnologias nos tornou simplesmente mais ou menos inteligentes. Elas modificaram a maneira pela qual nossa inteligência é utilizada.

Com a inteligência artificial, no entanto, há algo diferente: é uma ferramenta que participa do pensamento.

Um livro conserva informações, mas na forma de uma memória inerte, ativada somente pelo leitor. Uma calculadora realiza operações matemáticas, mas não constrói um raciocínio. Um mecanismo de busca encontra páginas na internet, mas ainda deixa ao usuário a tarefa de percorrê-las, compará-las e decidir quais melhor atende à sua busca.

A inteligência artificial avança sobre esse território intermediário. Ela pode resumir livros, comparar autores, redigir textos, traduzir idiomas, construir argumentos, explicar teorias científicas e apontar contradições em nosso raciocínio.

Não estamos mais exteriorizando apenas a memória ou o cálculo. Começamos a exteriorizar partes do próprio processo de elaboração intelectual. É nesse ponto que o pensamento do filósofo francês Bernard Stiegler se torna especialmente interessante.

Costumamos imaginar primeiro o ser humano e, depois, as ferramentas que ele inventa: existe o homem e, diante dele, a pedra, a escrita, o livro, a máquina, o computador.

Para Stiegler, essa separação é enganosa. O ser humano não é simplesmente um animal que, já plenamente constituído, começou a utilizar ferramentas. Nossa própria humanidade foi sendo constituída juntamente com elas. Em outras palavras, a ferramenta modifica aquele que a utiliza.

Uma parte da memória humana, por exemplo, encontra-se há milênios fora de nosso cérebro: em pedras, papiros, livros, fotografias e, hoje, em servidores digitais. Cada geração pode começar sua experiência intelectual apoiando-se na memória acumulada por gerações anteriores.

Exteriorizar nossas capacidades, portanto, não significa necessariamente perda. Pode ser justamente uma das características fundamentais da inteligência humana. A inteligência artificial, entretanto, introduz uma questão nova.

Imagine duas pessoas utilizando uma IA para compreender a teoria da relatividade. A primeira pergunta: “Explique a teoria da relatividade”. Lê rapidamente a resposta, considera que entendeu e passa para outro assunto.

A segunda continua: “Por que o tempo passa de maneira diferente para observadores em movimento? Não entendi. Explique de outra forma. Agora apresente uma objeção à minha interpretação. Onde meu raciocínio está errado?”

As duas utilizaram a mesma tecnologia, mas cognitivamente fizeram coisas muito diferentes. Para a primeira, a IA funcionou como substituta de um esforço. Para a segunda, como instrumento para prolongá-lo. Talvez esteja aí uma distinção essencial.

A IA pode funcionar como uma prótese intelectual, permitindo alcançar conhecimentos que dificilmente exploraríamos sozinhos. Pode aproximar disciplinas, esclarecer conceitos, oferecer contrapontos e revelar erros.

Mas também pode permitir que obtenhamos o resultado de uma atividade intelectual sem realizar o percurso que normalmente conduziria até ele. O produto intelectual pode alcançar um grau de sofisticação muito superior ao conhecimento de quem o criou. A qualidade do resultado deixa, assim, de ser uma medida confiável do saber de quem o apresenta.

Alguém pode apresentar um excelente texto sobre o pensamento de um determinado filósofo sem conhecê-lo o suficiente. Pode produzir um programa sem entender inteiramente o algoritmo. Pode apresentar uma análise histórica sem dominar os fatos que marcaram aquela história.

O resultado demonstra conhecimento, mas aprender não significa apenas chegar à resposta correta. Existe um trabalho realizado durante o percurso: procurar informações, selecionar o que importa, descobrir relações, formular hipóteses, cometer erros, reavaliar e tentar novamente.

A dificuldade não é apenas um obstáculo à aquisição de conhecimento. Muitas vezes, ela faz parte do aprendizado. Quando uma tecnologia elimina essa dificuldade e nos entrega imediatamente uma resposta organizada, existe o risco de conservarmos o destino e perdermos o caminho.

E aqui voltamos ao questionamento de Platão sobre a escrita: “não preciso me lembrar disso, porque posso consultar essa informação.” Com a internet: “não preciso saber onde está, porque posso procurar.” E, com a inteligência artificial: “não preciso organizar o que encontrei, porque ela pode fazê-lo por mim.”

Cada etapa representa um extraordinário aumento de nossas possibilidades. Mas também transfere para fora de nós uma operação que antes precisávamos realizar.

Estamos ficando menos inteligentes? A pergunta pode estar mal formulada.

A IA não diminui necessariamente nossa inteligência. Ela torna menos necessário exercitar determinadas formas de inteligência. A diferença é importante, porque uma capacidade pouco exercitada pode enfraquecer.

Não seria absurdo imaginar que algo semelhante ocorra quando delegamos sistematicamente a uma máquina as tarefas de resumir, relacionar, argumentar e escrever.

Mas existe o outro lado do phármakon. Ao nos liberar de determinadas tarefas, a IA pode permitir que avancemos para outras. Não precisamos utilizar o tempo economizado para pensar menos. Podemos utilizá-lo para perguntar mais, comparar mais, duvidar mais e alargar nosso horizonte.

A mesma inteligência artificial pode, portanto, empobrecer intelectualmente uma pessoa e enriquecer outra. Tudo vai depender do que fazemos com a facilidade que ela nos oferece.

Há, finalmente, uma distinção ainda mais importante. Ter acesso à informação não significa possuir conhecimento, nem compreendê-lo e, menos ainda, significa ser transformado por ele.

Os antigos gregos usavam a palavra metanoia que, em seu sentido mais amplo, designa uma transformação profunda da maneira de pensar, uma mudança do olhar e da própria consciência.

Nunca tivemos acesso tão rápido a tantas formas de conhecimento. Em poucos minutos podemos aprender sobre cosmologia, filosofia, literatura, história ou biologia. Fronteiras que durante séculos dificultaram o acesso do indivíduo a enormes territórios do saber tornaram-se muito menores.

Mas quanto desse conhecimento realmente é assimilado por nós? Podemos transitar por milhares de ideias sem permitir que nenhuma delas nos transforme. É justamente nesse ponto que o paradigma introduzido pela inteligência artificial encontra a antiga ideia de metanoia.

Uma ferramenta capaz de nos fornecer quase instantaneamente informações e argumentos não pode realizar por nós a transformação interior que pode nascer desse conhecimento. Pode nos conduzir até a porta, mas atravessá-la continua sendo uma experiência humana.

O problema fundamental da inteligência artificial não é apenas saber se as máquinas algum dia pensarão como nós. Mais relevante é saber o que acontecerá se nos habituarmos a deixar que elas pensem aquilo que ainda poderíamos pensar por nós mesmos.

Este próprio texto é parte da experiência que procura analisar. A inteligência artificial participou de sua elaboração, sugerindo caminhos, confrontando ideias e propondo formulações. Mas essas sugestões foram questionadas, selecionadas, modificadas ou simplesmente rejeitadas ao longo do processo.

A ferramenta não eliminou o trabalho intelectual; tornou-se parte dele. É uma diferença importante: recorrer à inteligência artificial para evitar o esforço de pensar não é a mesma coisa que utilizá-la para pensar mais.

Platão desconfiou da escrita, mas a humanidade não teria construído sua civilização intelectual sem ela. O livro não suprimiu a memória; transformou nossa relação com ela. A calculadora não substituiu a matemática; modificou nossa relação com o cálculo. A internet não eliminou o conhecimento; acelerou profundamente sua busca.

A inteligência artificial também nos transformará. A questão é saber em que direção. O verdadeiro phármakon da inteligência artificial está justamente aí: a mesma ferramenta capaz de nos poupar do esforço de pensar pode nos conduzir a reflexões que, sem ela, dificilmente conseguiríamos elaborar.

E entre a facilidade de receber uma resposta e a possibilidade de sermos transformados por aquilo que aprendemos existe um espaço que nenhuma máquina pode, por enquanto, percorrer em nosso lugar.