Victor Bianchin
RedatorVictor Bianchin é jornalista.
As guerras ideológicas do Vale do Silício já não são travadas em fóruns, mas com dezenas de milhões de dólares nas eleições legislativas dos EUA. Um supercomitê financiado por Andreessen Horowitz (a16z) e Greg Brockman acaba de arrecadar mais de 75 milhões de dólares contra a regulamentação da IA, e a Anthropic chegou a colocar 20 milhões de dólares do lado contrário. Por trás desse dinheiro estão três correntes que, há mais de uma década, discutem a mesma questão.
São poucos, mas estão onde as decisões são tomadas. Suas ideias fundaram laboratórios, fizeram um CEO ser demitido durante um fim de semana e hoje definem a política tecnológica da Casa Branca.
Uma analogia: um carro está acelerando em direção a uma curva com neblina.
- Os racionalistas estão há anos estudando o mapa e garantem que há um precipício depois da curva.
- Os altruístas eficazes acreditaram neles e pagam pelos freios, pelos cintos de segurança e pelo motorista.
- Os aceleracionistas acreditam que o precipício é uma invenção e que, se você tirar o pé do acelerador, o carro chinês ultrapassa você e chega ao destino antes.
Vamos a eles, um por um.
1) Racionalistas: o mapa do precipício
Em 2009, Eliezer Yudkowsky, autodidata sem diploma universitário, fundou o LessWrong, um blog sobre vieses cognitivos e estatística bayesiana. Mais tarde, vozes como Scott Alexander se juntaram à comunidade. Sua instituição de referência é o MIRI, em Berkeley.
Os racionalistas partem da ideia de que pensar melhor é algo que pode ser aprendido e chegam à conclusão de que uma superinteligência com objetivos diferentes dos nossos não precisa nos odiar para nos destruir; basta que sejamos um obstáculo para ela.
- O "problema do alinhamento" nasceu ali.
- Há três anos, Yudkowsky chegou a propor, na revista Time, bombardear centros de dados ilegais.
- Seu livro de 2025, If Anyone Builds It, Everyone Dies ("Se alguém construir, todos morremos"), chegou à lista de mais vendidos do The New York Times.
2) Altruístas eficazes: a contabilidade do bem
O movimento nasceu em Oxford por volta de 2009, pelas mãos de Toby Ord e William MacAskill, a partir de uma ideia de Peter Singer: se você pode evitar um sofrimento, é obrigado a fazê-lo. Além disso, deve medir quantas vidas cada dólar salva. Seu grande mecenas é Dustin Moskovitz, cofundador do Facebook e fundador da Asana, com mais de 11 bilhões de dólares comprometidos.
Os altruístas eficazes começaram com mosquiteiros contra a malária. Depois veio o "longoprazismo": se as gerações futuras contam tanto quanto a presente, evitar a extinção é a causa que salva mais vidas, portanto a IA encabeça essa lista.
- Racionalistas e altruístas eficazes (EA) compartilham um ethos, não um método. Os primeiros escrevem o diagnóstico, os segundos o financiam e procuram pessoal para colocá-lo em prática.
- A falência da FTX em 2022 derrubou seu principal doador, Sam Bankman-Fried. Em 2023, duas conselheiras da OpenAI ligadas ao movimento votaram pela demissão de Sam Altman, que voltou cinco dias depois. A Open Philanthropy mudou seu nome para Coefficient Giving.
3) Aceleracionistas: o medo de frear
Em 2022, várias contas anônimas do X lançaram o effective accelerationism (e/acc), uma paródia deliberada do effective altruism inspirada no filósofo Nick Land. Em 2023, a revista Forbes revelou que, por trás de @BasedBeffJezos, está Guillaume Verdon, um físico que veio do Google. A a16z criou seu próprio manifesto para o movimento e David Sacks o levou à Casa Branca.
Os aceleracionistas defendem que qualquer freio ao progresso custa vidas que a tecnologia teria salvado. O Techno-Optimist Manifesto, de Andreessen, inclui entre seus "inimigos" o "risco existencial" e a "ética tecnológica". Segundo eles, os catastrofistas usam o medo para criar barreiras regulatórias que apenas os grandes podem se dar ao luxo de enfrentar. E, se os EUA frearem, a China ganha.
Os aceleracionistas dizem que os catastrofistas ajudaram a construir aquilo que temem:
- A DeepMind conseguiu seu primeiro investidor, Peter Thiel, em uma conferência do entorno de Yudkowsky.
- Altman chegou a dizer que Yudkowsky havia feito "mais do que ninguém para acelerar a AGI".
- A Anthropic foi fundada por ex-funcionários da OpenAI convencidos do risco, com dinheiro de doadores do EA.
O argumento de fundo tem sido o mesmo, uma ideia que poderíamos resumir na frase "já que alguém vai construí-la, é melhor que sejamos nós".
O rastro do dinheiro
Com Trump, o aceleracionismo passou a ser a política nacional oficial. O Pentágono classificou a empresa do Claude como um "risco para a cadeia de suprimentos" depois que ela se recusou a permitir seu uso em vigilância em massa e armas autônomas. Uma juíza suspendeu boa parte dessa medida por considerá-la uma retaliação.
No outro extremo, a pesquisa em segurança espera ser financiada pelas ofertas públicas iniciais de ações da OpenAI e da Anthropic. Em outras palavras, quem monitora os laboratórios será pago graças a eles.
Timnit Gebru e Émile P. Torres defendem que, no fundo, é como uma briga de família. As três tribos acreditam que a superinteligência chegará em breve e decidirá o destino da espécie; elas simplesmente discordam sobre a velocidade com que isso acontecerá.
Enquanto isso, os danos que qualquer LLM já produz, como vieses ou desinformação, mal cabem na conversa entre eles. Até agora, o precipício serviu como argumento de vendas para ambos os lados: uns pedem freios e outros, mais gasolina.
Imagem | Xataka com Magnific
Este texto foi traduzido/adaptado do site Xataka Espanha.
Ver 0 Comentários