Desenvolvedores da Amazon passam mais tempo corrigindo os erros da IA do que fazendo qualquer outra coisa

A IA chegou para nos fazer trabalhar menos e melhor? Nos escritórios da Amazon, a realidade está sendo bem diferente. Segundo vários funcionários da empresa, ferramentas internas como Kiro estão provocando um efeito rebote: os desenvolvedores passam mais tempo corrigindo o código defeituoso gerado por essa ferramenta do que escrevendo o próprio código.

A situação é irônica porque, como indicam alguns engenheiros, eles estão tentando sair de um problema causado pela IA usando mais IA. Dina, desenvolvedora de software de Nova York, entrou na Amazon há dois anos e seu trabalho começou sendo escrever código. No entanto, recentemente, o que ela fazia não era escrevê-lo, mas corrigir o código que a IA programadora da Amazon — chamada Kiro — estragava. Segundo ela, esse modelo alucinava e gerava código errado com frequência. Dias depois de falar com o The Guardian para uma reportagem, Dina foi demitida.

Demissões em massa

O caso da Amazon é especialmente doloroso devido à recente onda de cortes massivos na empresa. Nos últimos meses, reduziu seu quadro em 30.000 pessoas, ou 10% de sua força corporativa. A Amazon nega que essas demissões tenham relação com a IA, mas o CEO, Andy Jassy, sugeriu em comunicados internos que os ganhos de eficiência proporcionados pela automação de processos permitirão operar com equipes mais enxutas. Ele está contradizendo exatamente o que a empresa diz, sem querer dizer isso por completo.

Muitos funcionários entrevistados pelo Guardian indicam que se sentem como suicidas laborais. Seu trabalho atual consiste em documentar processos detalhadamente e corrigir erros do sistema para, essencialmente, preparar a máquina que irá substituí-los. Essas fases de treinamento forçado estão fazendo com que os empregados sintam que seu ciclo na Amazon tem data de validade.

Em Xataka Brasil

A IA já está gerando o código de metade da internet; e, para os programadores, isso é uma dor de cabeça

Isso já foi visto no passado. A implementação de ferramentas de IA tem sido, em muitos casos, caótica, segundo os funcionários entrevistados. Eles são obrigados a usar ferramentas “meio prontas”, desenvolvidas em hackathons internos, sem avaliar adequadamente se realmente ofereciam a solução correta. Uma engenheira afirma claramente: você não pode olhar cada problema e pensar em como usar o martelo que tem para aquele problema. O primeiro passo é saber se aquele problema realmente precisa de um martelo.

Quedas de serviço

Os problemas de integração da IA também estão, aparentemente, sendo responsáveis por quedas nos serviços da Amazon. Relatórios internos vinculam pelo menos duas dessas quedas a alterações de código realizadas com ferramentas de IA. Essas mudanças não foram devidamente supervisionadas e, embora a empresa possa culpar “erros humanos” por esses problemas, a origem é a de sempre: delegar decisões críticas a sistemas que ainda não são totalmente confiáveis.

Nesta adaptação da Amazon à era da IA, há também outro elemento preocupante: seus responsáveis estão monitorando minuciosamente o que os funcionários fazem com a IA. O que já era feito nos depósitos para medir o desempenho e a produtividade dos empregados agora também acontece nos escritórios. Existem painéis de controle onde os líderes de equipe observam quem usa a IA e com que frequência — em alguns times, o objetivo é que pelo menos 80% da equipe utilize essas ferramentas semanalmente, independentemente de serem realmente úteis ou não.

Em Xataka Brasil

O Vale do Silício não sabe o que fazer com tantos programadores desempregados

E usar pouco ou muito as ferramentas de IA também pode ser determinante para promoções internas na Amazon. Foram detectados documentos em que se pergunta explicitamente ao candidato como ele utilizou a IA para aumentar seu impacto. A mensagem é clara: se você não abraçar essa tecnologia, mesmo que ainda seja imperfeita, suas chances de subir de cargo se complicam, e muito.

Entre os funcionários entrevistados, a sensação que todos compartilhavam era a desmoralização das equipes. De fato, mais de 1.000 trabalhadores assinaram uma petição contra esse agressivo lançamento de ferramentas de IA. Para eles, a cultura da empresa está mudando e o que agora se exige é trabalhar mais horas com menos recursos, sob a desculpa de que a concorrência externa está “faminta”.

Este texto foi traduzido/adaptado do site Xataka Espanha.