“O maior inimigo do conhecimento não é a ignorância,
mas sim a ilusão de se ter conhecimento”
Stephen Hawking.

A inteligência artificial (IA) tem sido vista como aliada do processo educativo, desde o ensino básico estendendo-se a todos os demais níveis de ensino, e salvo exceções das escolas instaladas em locais remotos, ou que atendem populações muito vulneráveis, é utilizada para personalizar o aprendizado, automatizar tarefas administrativas e oferecer suporte a alunos e professores.

O acesso e a desigualdade social constituem sério desafio num país com profundas disparidades regionais e com alto índice de analfabetismo – o digital incluso – e fazem a utilização da tecnologia ser restrita a menos pessoas.

Em particular a IA generativa trouxe novos recursos e possibilidades – geração de textos, imagens, áudios, vídeos –, atendendo diferentes setores da atividade humana não apenas em escolas, mas nos negócios, na saúde, segurança, transporte, comunicação e dezenas de outros, mas que identicamente trouxeram consigo novos problemas e riscos.

O estilo de vida, principalmente no Ocidente, alterou-se profundamente, e jovens tem tido menos dedicação às atividades culturais, já que muito de seu tempo é gasto em redes sociais ou manipulação de softwares, e pesquisadores observam uma tendencia preocupante a um procedimento menos crítico e reflexivo. Máquinas físicas ou chatbots estão assumindo hoje uma parte das atribuições que antes eram exclusivas do ser humano, parecendo as vezes que teremos um futuro dominado pelas máquinas inteligentes que nos poderão substituir.

Leitura e escrita, antes predominantes em nossa cultura, sempre permitiram desenvolvimento do pensamento crítico-reflexivo, entretanto a cultura digital parece favorecer dispersão e superficialidade pois textos e imagens digitais substituem os conceitos pela aparência.

Ler e escrever sempre revelaram potencial emancipatório, de expansão da inteligência, de pensar sempre mais e melhor, mas as telas podem, eventualmente, produzir atrofiamento cognitivo.

Todas as ferramentas da IA generativa, como buscadores ou Chatgpt passam a impressão de que realizam tarefas humanas: pensamento, leitura, fala, escrita; no entanto é apenas uma simulação de inteligência, ela é evidentemente mecânica e inorgânica, incapaz de pensar. Sequer pode escolher ou decidir livremente, depende de uma programação, ou seja, um conjunto de instruções elaboradas previamente.

Se a escola permitir ao jovem apenas a condição de usuário e consumidor de informações, ele perderá sua autonomia e capacidade de pensar; suas emoções e sensações devem ser preservadas, para que seu pensamento crítico e reflexivo possa florescer.

Ser unicamente operacional, embora isso seja necessário para a compreensão da realidade, produz uma pessoa dispersiva, sem compreensão sobre os princípios e finalidades das ações, e o pensamento autoral pode ser reduzido. É preciso ter em mente que, apesar de toda a segurança que a IA Generativa passa ao usuário, em sua pesquisa e produção, a precisão dos dados que fornece nem sempre é garantida. Erros algumas vezes graves são detectados, e prevê-se ainda um certo tempo para que atinja um bom patamar, o que provavelmente aumentará a distância entre aqueles preparados para utilizá-la e os dela alijados.

Mesmo assim, a escola, agência socializante, deve incluir não apenas a transmissão do acúmulo de conhecimentos nas várias áreas científicas, mas também as normas, valores, atitudes relativas à vida social. Não é sem razão que o artigo 205 da Constituição brasileira afirma que a educação é “o pleno desenvolvimento da pessoa, seu preparo para o exercício da cidadania e sua qualificação para o trabalho”. Então, aquisição de conhecimentos, socialização, cidadania são essenciais para que os membros de qualquer comunidade busquem sua realização como indivíduos.

A educação escolar precisa responder à necessidade de igualdade de oportunidades, embora numa sociedade complexa, na qual o acesso às melhores tecnologias, mesmo que ainda incompletas, não estão disponíveis para todos.

Os supostos agentes de IA reproduzem o que está depositado nos Big Data – combinando ou recombinando dados e informações para burlar os mecanismos de identificação de plágio. Ou seja, destituída da condição suficiente para pensar, a IA generativa é tão somente um assistente ou agente artificial da inteligência.

Por sua vez, o otimismo, o encantamento e o fascínio que as novas tecnologias exercem no imaginário social nos induzem a pensar que a solução dos problemas da humanidade depende, em grande medida, ou exclusivamente dos meios tecnológicos. Porém, a tecnologia não é neutra ou desinteressada, mas concebida e orientada por determinados fins ou propósitos. Elevada à condição de mito, a tecnologia se apresenta revestida de poderes mágicos e sobre-humanos. Os robôs humanoides – com feições ou aparência humana – realizam inúmeras tarefas que quando realizadas por seres humanos requerem inteligência. Tal feito, porém, fez ressurgir a ideia de que é possível construir uma réplica humana que poderia, em tese, equiparar ou superar a capacidade humana de pensar. Contudo, apesar da capacidade dos dispositivos de IA generativa de realizarem tarefas que quando realizadas por seres humanos requerem inteligência, tal fato por si só não só demonstra que não possuem inteligência, mas que são comandados ou funcionam segundo princípios e mecanismos operacionais inventados, implantados e controlados por seres inteligentes.

Portanto, os possíveis benefícios ou malefícios da tecnologia não dependem apenas do seu uso, mas de sua concepção (projeto), planejamento e desenvolvimento. Daí perguntar: a serviço de que(m) está a IA generativa? O que é a inteligência? O avanço da IA generativa acarretará inevitavelmente a regressão da inteligência humana (natural)? Os seres humanos estão se tornando subinteligentes? A tecnologia digital é uma tecnologia de extensão e de ampliação ou de limitação, controle e domínio de nosso pensamento? As novas ferramentas de IA expandem ou comprimem (encurtam) a inteligência humana? O que significa pensar? É possível separar o pensamento da inteligência? Pode existir pensamento sem um sujeito que pensa? Pensar é calcular? O pensamento é computável? É possível separar a linguagem do pensamento? As ferramentas de “inteligência artificial” promovem ou impedem o desenvolvimento do pensamento crítico e criativo? Ora, de um ponto de vista filosófico, as novas ferramentas de IA operam sob um conceito controverso e deficitário de inteligência.

No uso das ferramentas digitais, o pensamento tende a ser superficial, irrefletido e simplificado, porque segue a lógica digital das imagens. Na superficialidade das imagens é o algoritmo que toma o lugar do argumento, i.e., do pensamento conceitual, crítico e reflexivo. O exercício do pensamento crítico-reflexivo cede lugar ao pensamento automatizado (irreflexivo, acrítico, repetitivo e funcional), i.e., a aquisição das operações da racionalidade técnica (instrumental) se configura como a mais nova demanda da educação.

A ascensão da IA generativa orientada pela racionalidade técnica representa uma ameaça ao pensamento crítico-reflexivo e criativo, dado que as máquinas visam substituir o ser humano naquilo que ele tem de mais essencial – a capacidade de pensar. Porém, a automação de tarefas intelectuais pode comprometer o desenvolvimento da inteligência humana uma vez que a dependência da máquina torna ocioso o nosso pensamento. Ao invés de serem usadas como ferramentas auxiliares de nosso pensamento, tais tecnologias de IA generativa são usadas (em grande medida) como próteses de nossa inteligência.

Se, por um lado, é justificável que as tarefas do pensamento operacional (da razão técnica) sejam transferidas para as máquinas, por outro lado, o fetichismo e o totalitarismo tecnológico das mídias digitais impedem o desenvolvimento do pensamento crítico-criativo. Dado seu grande apelo visual, as tecnologias digitais operam a substituição do conceito pela imagem – o que acarreta o estreitamento e o empobrecimento do pensamento.

Wanda Camargo – educadora e assessora da presidência do Complexo de Educação Superior do Brasil – UniBrasil.