"O mundo está em perigo": especialistas em segurança digital se demitem por conta da IA e emitem alerta sobre o 'lado sombrio' da tecnologia e o perigo que as Big Techs estão escondendo

"É difícil deixar que nossos valores realmente governem nossas ações”

IA | Fonte: Unsplash/Immo Wegmann
Sem comentários Facebook Twitter Flipboard E-mail
vika-rosa

Vika Rosa

Redatora
vika-rosa

Vika Rosa

Redatora

Jornalista com mais de 5 anos de experiência, cobrindo os mais diversos temas. Apaixonada por ciência, tecnologia e games.


268 publicaciones de Vika Rosa

Uma onda de demissões em empresas como a OpenAI, Anthropic e xAI acendeu um alerta no Vale do Silício. Pesquisadores e executivos de segurança estão deixando seus cargos e, na saída, fazem críticas públicas sobre os rumos da inteligência artificial.

Mrinank Sharma, que liderava a equipe de Pesquisa de Salvaguardas da Anthropic, afirmou em carta divulgada pela CNN: “O mundo está em perigo”. Ele também declarou que, durante seu tempo na empresa, viu “repetidas vezes como é difícil deixar que nossos valores realmente governem nossas ações”.

Na OpenAI, a pesquisadora Zoë Hitzig anunciou sua saída em um artigo no The New York Times, citando “profundas reservas” sobre a nova estratégia de publicidade da empresa. Segundo ela, o ChatGPT possui “potencial para manipular usuários de maneiras que não temos ferramentas para entender, muito menos para impedir”, especialmente por armazenar dados sensíveis como medos médicos, problemas de relacionamento e crenças pessoais.

A tensão aumentou após relatos de que a OpenAI desmantelou sua equipe de “alinhamento de missão” e demitiu a executiva de segurança Ryan Beiermeister, que teria se oposto a um “modo adulto” no chatbot.

Já na xAI, de Elon Musk, metade dos cofundadores deixou a empresa em 24 horas. Musk afirmou que a companhia foi “reorganizada para acelerar o crescimento”.

Para críticos, a corrida por IPOs e crescimento acelerado estaria colocando lucro acima da segurança e isso levanta dúvidas sobre os riscos reais da IA no cotidiano.

Inicio