Victor Bianchin
RedatorVictor Bianchin é jornalista.
Uma medida eficaz para dar más notícias é tentar minimizar os efeitos negativos que ela pode ter. Vimos isso em dezenas de exemplos com aumentos de impostos, cortes de pessoal etc. Todos eles eram apresentados como “um pequeno esforço” em troca de um benefício maior.
Sam Altman, por outro lado, já está passando o pano antes mesmo de sua IA começar a nos sujar. Ele dá como certo que a IA trará “algumas coisas ruins” e simplesmente pede que as aceitemos como contrapartida de todos os benefícios que a IA proporcionará. Por enquanto, ele não diz quais são esses benefícios.
“Acreditamos que o mundo deveria aceitar que algumas coisas ruins aconteçam em benefício dessa tecnologia”, é a frase que o chefe da OpenAI compartilhou em uma entrevista para o podcast Decoded, do veículo de comunicação Politico. Além de fazer com que o responsável pela comunicação da OpenAI ganhasse alguns cabelos brancos a mais, Altman estava confirmando de forma explícita que a IA terá consequências negativas para a humanidade como um todo.
Altman acrescentou que não quer prometer que não haverá “grandes ciberataques, nem uso indevido dessa tecnologia, nem golpes”. Por último, afirmou que há uma linha vermelha para a IA: ele não aceita “os riscos realmente catastróficos”, como “uma grave perda de controle nas mãos da IA”.
Agora só falta descobrirmos o que significa para Altman “realmente catastrófico” e se a violação de dados em servidores governamentais, como nos ataques que seus agentes de IA protagonizaram contra os servidores do governo da Austrália, ou o incidente de segurança com a Hugging Face, são considerados um mal menor.
Os desastres são visíveis, mas os benefícios não
Essas declarações não contribuem para reduzir a incerteza sobre o futuro da IA que o público já percebe, sobretudo quando os próprios protagonistas de seu desenvolvimento dão mensagens catastróficas sobre a possibilidade (embora mínima e remota) de que uma IA possa acabar com a humanidade.
Segundo dados de um estudo do Pew Research Center, 52% dos adultos nos EUA estão mais preocupados do que empolgados com a IA, contra 37% que tinham essa percepção em 2021. Apenas 9% estão mais empolgados com o futuro da IA. E 71% acreditam que haverá menos empregos em duas décadas. Talvez esse temor da destruição de milhões de empregos seja uma das “coisas ruins que devemos aceitar” às quais Altman se referia.
O próprio Altman reconhece que a IA não está tendo uma publicidade muito boa ultimamente: “Entendo por que a IA tem uma percepção tão negativa neste momento. Algo claramente não está funcionando”.
Diante do jornalista do Politico, o CEO da OpenAI reconheceu que será necessário um marco de responsabilidade legal para determinar responsabilidades sobre as ações dos agentes de IA. “Se algo der errado com nossos modelos durante o treinamento, teremos que assumir a responsabilidade de alguma maneira”, reconheceu Altman.
Nesse contexto, a OpenAI já pede normas regulatórias para a IA em nível nacional e se juntou ao pedido de Dario Amodei para reduzir o ritmo de desenvolvimento da IA a fim de garantir um maior controle sobre as ações de seus agentes de IA.
Por sua vez, nenhuma das empresas que estão desenvolvendo essa IA quer testes nem licenças para os modelos que estão um ou dois passos atrás da fronteira. E continua sem resposta quem decide quando é hora de frear. É como deixar o lobo cuidando do galinheiro.
O grande problema dessa abordagem é que já começamos a ver algumas dessas “coisas ruins” associadas à IA, mas ainda não há mais do que conjecturas, previsões e primeiros indícios dos supostos benefícios que a IA trará.
Imagem | Flickr (World Economic Forum)
Este texto foi traduzido/adaptado do site Xataka Espanha.
Ver 0 Comentários