A reputação da IA está em xeque. A solução da indústria: mudar o nome para “superinteligência”

O governo dos EUA quer mudar a narrativa. Os incidentes protagonizados nas últimas semanas por vários modelos de inteligência artificial (IA) de fronteira, como o ataque à Hugging Face e a possibilidade de que essa tecnologia represente no futuro uma ameaça existencial para a humanidade prejudicaram a reputação da IA. A Administração Trump está decidida a resolver a crise de confiança enfrentada por essa indústria e sua maneira de fazer isso é, no mínimo, peculiar.

A primeira medida tenta mudar a forma como se fala sobre IA, promovendo a adoção do termo “superinteligência” em vez de “inteligência artificial”. O banimento do adjetivo “artificial” e a chegada do prefixo “super” tentam fazer com que os usuários deixem para trás a possível desconfiança despertada pela tecnologia e a substituam por uma percepção muito mais ambiciosa: a de uma ferramenta capaz não apenas de imitar nossas capacidades, mas de superá-las.

Mas não acaba por aí. No último dia 29 de setembro, Donald Trump e vários executivos da indústria de IA, como Dario Amodei, Mark Zuckerberg, Jensen Huang e Sundar Pichai, apresentaram um acordo que propõe que as empresas adotem várias medidas adicionais de segurança, como controles internos e auditorias independentes.

É mais uma campanha de marketing do que um mecanismo efetivo de segurança

O problema apresentado pela estratégia de Trump para “lavar a imagem” da IA é que o acordo de segurança é voluntário. Os laboratórios não terão obrigação legal de realizar determinados controles internos e aceitar auditorias independentes — eles só farão isso se quiserem. Portanto, não estão sujeitos a mecanismos de cumprimento equivalentes aos de uma regulamentação. Em uma área tão delicada, não parece uma boa ideia deixar a segurança dos modelos de IA de fronteira sob a proteção apenas da boa vontade das empresas de IA.

Em Xataka Brasil

“Estão brincando com nossas vidas”: pesquisador da Anthropic se demite e denuncia falta de responsabilidade das empresas

Muito provavelmente, o governo dos EUA e os laboratórios não terão facilidade para mudar, no curto prazo, a forma como os usuários percebem a IA, especialmente as pessoas que manifestam desconfiança sobre a tecnologia. Afinal, a crise de confiança não foi desencadeada apenas pela possibilidade de que, no futuro, possa surgir uma superinteligência perigosa para os seres humanos — muitas pessoas estão preocupadas com o impacto que a IA já está tendo no mercado de trabalho.

Outras preocupações imediatas são a ameaça que a IA representa para a privacidade de nossos dados, os conteúdos gerados automaticamente, o consumo de energia dos centros de dados e o poder acumulado pelas grandes empresas de tecnologia. Dario Amodei, diretor-geral da Anthropic, foi direto ao ponto ao reconhecer que a crise de confiança enfrentada pela IA foi desencadeada por esses problemas.

Em Xataka Brasil

Criadores da inteligência artificial mais avançada do mundo concordam: ela precisa ser controlada

Por esse motivo, mais do que mudar o nome da IA ou pedir aos laboratórios que se comprometam voluntariamente a torná-la mais segura, provavelmente será necessário demonstrar na prática que essa tecnologia pode ser desenvolvida sem ignorar seus riscos. A confiança dos usuários não parece que será recuperada simplesmente trocando o nome, mas sim respondendo às preocupações que já existem e estabelecendo mecanismos de controle capazes de garantir que as promessas da indústria não dependerão apenas de sua boa vontade.

Imagem | The White House

Este texto foi traduzido/adaptado do site Xataka Espanha.