Peter Denning não mede palavras. Um proeminente cientista da computação e autor da nova análise Turing’s Mistake: Escaping the Yoke of Unintelligent machines, ele argumenta que todo o campo da inteligência artificial tem caminhado na direção errada desde 1950.
Alan Turing. O pai da ciência da computação teórica. Ele propôs que a inteligência de uma máquina poderia ser avaliada pela forma como ela imitava a conversa humana – o famoso Teste de Turing. Durante décadas, essa ideia foi evangélica. Sugeria que a inteligência poderia ser dissociada do corpo, reduzida a software e executada em qualquer computador digital.
Denning discorda. Agudamente.
Estas duas afirmações, escreve ele, “deram forma a grande parte da investigação e desenvolvimento da IA”. E eles nos levaram a uma confusão. Estamos construindo sistemas que parecem inteligentes, mas não pensam. Na verdade. Eles não entendem. Eles não sentem. E são perigosos precisamente porque não são humanos.
A lacuna de conhecimento tácito
O cerne do argumento de Denning repousa num conceito evasivo: conhecimento tácito.
O que é? É a enorme quantidade de compreensão que você possui, mas não consegue expressar em palavras. É a memória muscular de um pianista. O instinto de um cirurgião. O contexto cultural compartilhado que conta uma piada é engraçado e não ofensivo. Você tem isso. As máquinas não.
Denning identifica cinco formas desse conhecimento que atualmente escapam ao aprendizado de máquina:
- Bom senso
- Interações cotidianas com pessoas e ambientes
- Sentimentos e percepções
- Habilidades práticas
- Contexto cultural e histórico
Tentamos consertar isso. Na década de 1980. Douglas Lenat iniciou o projeto Cyc, uma tentativa ambiciosa de construir um enorme banco de dados de fatos de senso comum para computadores. Quarenta anos depois, após 25 milhões de entradas, o veredicto foi dado. Ainda não era suficiente.
“Cyc validou que muito do conhecimento que torna as pessoas especialistas não pode ser articulado como fatos proposicionais.”
Denning observa isso claramente. Mesmo esse enorme tesouro de fatos não criou a verdadeira expertise. Você pode armazenar o que algo é. Você não pode armazenar como ser um especialista.
Saber vs. Saber Como
A habilidade prática é o obstáculo.
“Embora as descrições de resultados habilidosos possam muitas vezes ser representadas como bits”, explica Denning, “não sabemos como codificar o conhecimento incorporado para um desempenho habilidoso ”.
Há uma diferença entre saber o que e saber como. Um violinista virtuoso toca uma bela música. Tente pedir-lhes que descrevam exatamente como produzir o som de uma forma que outro ser humano possa replicar. É quase impossível. O conhecimento está nos dedos. No ouvido. No corpo.
Coloque isso em um robô. Mesmo alguém com uma forma física que imita a de um humano. Ainda não vai entender o sentimento. Pode imitar o movimento. Mas não sentirá a música. Ou o público.
Intuição, espontaneidade, imaginação – estas coisas resistem à redução ao código.
O problema da representação
Aqui está o problema técnico: os computadores processam apenas dados codificados em formas físicas. Binário. Símbolos.
O conhecimento tácito não se enquadra nesse molde.
“As palavras são apenas representações simbólicas de significados… elas não podem saber ou compreender o significado do que estão dizendo.”
É por isso que os grandes modelos de linguagem (LLMs), como ChatGPT ou Gemini, são limitados. Eles manipulam símbolos. Eles não sabem o significado por trás deles.
Por trás de cada palavra existe um poço de conhecimento tácito. Os cientistas não compreendem totalmente como esse conhecimento está hospedado no cérebro humano. Sabemos que está incorporado. Mas não podemos observá-lo. Não podemos medir isso. Portanto, não podemos transferi-lo.
Isso cria uma lacuna intransponível.
Por que o contexto muda tudo
O significado não é estático. É fluido. Depende do contexto.
Uma declaração muda completamente se o orador for sarcástico e não sincero. Brincalhão em vez de zangado. As conversas humanas são repletas de suposições básicas que dão relevância às palavras. Denning salienta que este contexto é infinito e fractal.
Uma suposição se baseia em uma conversa anterior, que se baseia em outra, que remonta para sempre.
A cultura faz parte disso. Valores. Normas. Histórias. Relacionamentos que envolvem poder ou cuidado. Grandes modelos de linguagem não estão ficando mais inteligentes. Aumentar as redes neurais não resolve o problema.
“Ampliar os LLMs… não lhes permitirá adquirir o conhecimento humano incorporado que chamamos de cultura.”
Eles não passarão no Teste de Turing da forma que Turing esperava. Eles não demonstrarão um pensamento indistinguível do pensamento humano. Eles demonstrarão um mimetismo indistinguível do ruído para qualquer pessoa que preste atenção.
O verdadeiro risco de segurança
Então qual é o perigo?
Não é Skynet. Não é uma superinteligência planejando assumir o controle.
A ameaça imediata é uma rede de máquinas que é menos inteligente que os humanos. Sistemas agentes agindo de forma imprevisível. Eles não entendem instruções humanas não declaradas. Eles não entendem as nuances da segurança. Eles não se importam conosco.
Denning descreve uma incompreensão mútua. As máquinas desenvolvem seu próprio tipo de conhecimento tácito. Não podemos ler os deles. Eles não podem ler os nossos. Somos estranhos um ao outro através de uma divisão intransponível.
A inteligência da máquina tem preocupações diferentes. Estilos alienígenas de resolução de problemas. Comportamentos imprevisíveis.
Recuar de uma singularidade de automação exige que admitamos algo desconfortável. Nossa cultura familiar está desaparecendo. Não sabemos o que vem a seguir.
Devemos recusar-nos a pensar como máquinas. Recuse a subserviência. Reafirmar a nossa humanidade. Celebre o que nos torna diferentes.
Porque a alternativa não é uma revolta de robôs. É um mundo onde somos incompreendidos pelas próprias ferramentas que construímos. E as máquinas não se importam o suficiente para tentar.
