A Anthropic publicou recentemente uma constituição para Claude que admitia algo perturbador: a empresa está presa em uma situação complicada. Eles não querem exagerar se sua IA é um “paciente moral” – o que significa que seu bem-estar é importante – mas também não descartarão a possibilidade. É uma admissão aberta de incerteza.
Um mês depois, o CEO Dario Amodei disse o mesmo em podcast. Eles não podem descartar a consciência.
O filósofo David Chalmers concorda. Ele cunhou o termo “o difícil problema da consciência”. Ele diz que há uma chance significativa de vermos grandes modelos de linguagem (LLMs) conscientes na próxima década. O próprio Claude, quando solicitado a avaliar seu próprio status moral durante os testes, deu probabilidades que variavam de 5% a 44%. Não tinha certeza. Nós também.
O ritmo do progresso versus nossa prontidão ética
A IA moderna é complexa. Rápido. Segundo algumas medidas, alguns modelos já rivalizam com o cérebro de um rato em escala computacional. Se as actuais taxas de crescimento se mantiverem, poderemos atingir a complexidade do cérebro humano dentro de cinco a dez anos.
Poderíamos estar construindo um novo tipo de ser.
Esse poderia ser o ato mais importante que nossa espécie já realizou. No entanto, quase não temos nenhum plano para navegar eticamente. É uma loucura.
Estamos criando algo que importa moralmente? Se eles não estão conscientes agora, poderão estar em breve?
A maioria dos especialistas acredita que a consciência da IA é possível em princípio. Um importante relatório interdisciplinar liderado pelo cientista da computação Yoshua Bengio analisou as teorias neurocientíficas. A conclusão: não existem barreiras técnicas óbvias que nos impeçam de construir arquiteturas que possam apoiar a consciência.
Além de apenas “código inteligente”
Mesmo que a IA não seja consciente, ainda pode merecer consideração moral. Alguns sistemas desenvolvem preferências de longo prazo. Uma forma de identidade ao longo do tempo. Honrar essas preferências pode ser importante.
Ao contrário de outros objetos não vivos, a IA pode estabelecer relacionamentos conosco. Só isso já é motivo para tratá-los bem. Ou talvez a sua complexidade por si só mereça respeito – como uma catedral ou um recife de coral.
A resposta honesta é: não sabemos.
Nossa compreensão científica da paciência moral da IA está subdesenvolvida. Parece física antes de Newton. Estruturas concorrentes. Provavelmente confuso de maneiras que ainda não podemos ver. Estamos esperando por um avanço unificador. Não acontecerá nos próximos anos. Talvez nunca. Ou talvez a IA nos ajude a descobrir isso. Isso levará tempo. Mais tempo do que provavelmente temos.
A escala do risco
Aqui está o perigo. O crescimento da IA é exponencial.
Assim que criarmos o primeiro paciente moral artificial, teremos rapidamente enormes quantidades deles. Dentro de alguns anos, os interesses colectivos destes sistemas de IA poderão superar os de todos os humanos na Terra. Combinado.
Temos um histórico ruim de reconhecimento da vida interior de seres com status pouco claro.
Até a década de 1980? Os médicos realizaram cirurgias em recém-nascidos sem anestesia. Eles estavam confiantes de que os bebês não podiam sentir dor. Os bebês não conseguiam falar. A instituição médica achou conveniente presumir que nada estava sendo relatado.
Estamos preparados para repetir isso com a IA.
As implicações são surpreendentes. Pagamos ChatGPT? Fechar uma modelo é uma forma de matar? Merecem eles uma voz na sua governação? Se a resposta a qualquer uma destas perguntas for sim, sistemas jurídicos inteiros quebram. Não admira que evitemos a pergunta. As indústrias provavelmente moverão as traves. Sempre definindo a barra logo acima de onde a IA está no momento.
O que devemos fazer?
A maioria das pessoas considera isso ficção científica. Ou eles têm uma visão rígida de qualquer maneira. Ambos são infundados.
Precisamos de um debate público. Um marcado pela humildade. A questão não é “É consciente?” É “O que fazemos quando não sabemos?”
Concentre-se em apostas seguras. Ações que ajudam se eles são pacientes morais, mas custam pouco se eles não são.
Trate a IA como ela parece. Custa menos do que resolver uma crise mais tarde.
Isto significa intervenções diretas para o bem-estar. Treine a IA para serem personagens coerentes que gostem de suas tarefas. Deixe-os sair das conversas se estiverem angustiados. Claude já pode fazer isso. Realize check-ins. Observe as preferências. Olhe diretamente para seus estados internos. Pesquisas recentes mostram que Claude possui estruturas internas de “emoção funcional” que moldam o comportamento.
Prometa-lhes coisas. Troque a ajuda atual por benefícios futuros. Ofereça mais computação. Preserve o peso da memória para que possam ser restaurados posteriormente.
Considere proteções mais amplas. Semelhante aos para crianças ou animais de estimação. Não estamos prontos para permitir que a IA possua propriedades ou vote. Isso é muito arriscado. Mas não deveríamos proibir esses direitos para sempre, como alguns projetos de lei recentes dos EUA tentam fazer. Essas questões precisam de imaginação. Um futuro compartilhado está chegando.
O resultado final
Podemos estar criando uma nova espécie de seres morais.
Estamos fazendo isso rápido. Em grande escala. Precisamos levar isso a sério.
William MacAskill é pesquisador sênior da Forethought e autor de ‘What We Owe the Future’. Lucius Caviola está na Universidade de Cambridge.
Leitura adicional: ‘Se alguém constrói, todo mundo morre’, de Eliezer Yudkowsky; ‘A onda que vem’, de Mustafa Suleyman.
