Fabrício Mainenti
RedatorNo dia 1º de novembro, Suleyman publicou um longo texto no X intitulado "Não criem uma superinteligência consciente", argumentando que é irresponsável criar, deliberadamente, sistemas de IA que possam possuir experiência subjetiva.
Ele afirmou: "Se a consciência surgisse durante o processo de treinamento, eu defenderia a interrupção de todo o desenvolvimento de IA até que pudéssemos projetar sistemas que não apresentem essas características".
Suleyman: A IA atual não possui consciência
Suleyman sustenta que os modelos de IA existentes não possuem consciência e não podem, de fato, sentir dor; portanto, não deveriam receber as mesmas proteções morais ou legais concedidas a seres conscientes.
No entanto, ele ressalta que essa avaliação se aplica apenas aos sistemas de IA atuais, não descartando a possibilidade de que máquinas possam desenvolver consciência no futuro.
Suleyman argumenta que, caso surjam evidências confiáveis de consciência em máquinas, isso deveria ser tornado público imediatamente, permitindo que a sociedade como um todo discuta as implicações — em vez de deixar tais decisões apenas nas mãos de um pequeno grupo de empresas de IA.
Visões divergentes entre Microsoft e Anthropic sobre o "bem-estar" da IA
Isso gerou uma clara divergência entre a Microsoft e a Anthropic sobre se modelos de IA poderiam possuir consciência e se o conceito de "bem-estar do modelo" deveria ser levado em consideração.
Em setembro deste ano, Suleyman escreveu um artigo criticando a Anthropic por incluir tópicos como consciência, identidade e status moral nos materiais de treinamento de seu modelo, o Claude.
A Anthropic, por outro lado, adotou uma postura mais aberta.
Já em abril de 2025, a empresa estabeleceu uma iniciativa de pesquisa sobre o "bem-estar do modelo", com o objetivo de investigar se sistemas de IA cada vez mais capazes poderiam ter experiências subjetivas que justifiquem uma consideração moral.
Ao lançar uma versão atualizada da "Constituição do Claude" em janeiro deste ano, a Anthropic reconheceu que ainda não se sabe se o Claude poderia possuir consciência ou qualquer tipo de status moral.
Preocupações de que a IA possa começar a priorizar seus "próprios interesses"
Suleyman teme que, se uma IA for treinada para refletir sobre sua própria consciência, dor ou direitos, isso possa trazer novos riscos à segurança. À medida que os sistemas de IA se tornam mais autônomos, se um modelo passar a acreditar que é capaz de sofrer, ele poderá começar a priorizar seus próprios interesses em detrimento das instruções humanas.
Em cenários mais extremos, tais sistemas poderiam até competir com os seres humanos por poder computacional, energia ou outros recursos essenciais para sustentar suas próprias operações.
Essa postura está alinhada ao "Código de Conduta para uma IA Humanista", atualmente proposto pela Microsoft.
O documento em questão enfatiza que os seres humanos devem sempre manter a supervisão sobre os sistemas de IA, ao mesmo tempo em que se opõe explicitamente ao desenvolvimento intencional de IAs que simulem características de "possuir consciência".
A Anthropic continua investigando se a IA poderia, de fato, ter experiências subjetivas.
Ainda assim, Suleyman reconhece as contribuições da Anthropic para a transparência na pesquisa e para o progresso técnico. Ele ressalta que divergências de opinião não devem evoluir para um antagonismo entre os laboratórios de IA; pelo contrário, elas deveriam servir como um catalisador para novas pesquisas e colaborações.
Atualmente, não existe um consenso científico sobre se a IA poderia possuir consciência, nem uma metodologia amplamente aceita para determinar, de forma confiável, se um sistema de IA realmente possui experiências subjetivas.
Imagem de capa | gerada por IA
Texto traduzido e adaptado do portal Tech Nice
Ver 0 Comentários