Victor Bianchin
RedatorVictor Bianchin é jornalista.
O discurso de que a IA pode acabar com a humanidade já é comum na internet e entre especialistas independentes. Mas, nas últimas semanas, o debate tem se intensificado por causa de um tuíte viral de um ex-engenheiro da Anthropic. Bill Gates é uma das vozes que já alertaram sobre os riscos no passado e que acaba de se juntar a essa nova conversa.
Em uma entrevista publicada pela NBC News, Bill Gates opinou sobre o atual momento da IA, mais especificamente sobre a preocupação de que os sistemas possam acabar provocando danos em uma escala nunca vista, sobre a necessidade de estabelecer mecanismos de supervisão e sobre o papel que os governos devem ter diante dessa tecnologia. São ideias que já estavam presentes no ensaio que ele publicou no fim de agosto, no qual alertava sobre os riscos trazidos pelo avanço da IA e sobre a necessidade de se preparar para suas consequências.
1 bilhão de mortes
Nas últimas semanas, a palavra “extinção” voltou ao centro do discurso sobre os perigos da IA, com números muito concretos, como a ideia de que haja 10% de probabilidade de que a IA acabe com a humanidade na próxima década.
Gates não apresenta uma porcentagem, mas alerta que “A IA é, sem dúvida, poderosa o suficiente para provocar acontecimentos que causem 1 bilhão de mortes”. No entanto, sua preocupação não é tanto que a IA aja de forma autônoma, mas que caia nas mãos erradas: “Nunca existiu uma arma tão poderosa quanto a combinação de pessoas com más intenções utilizando as ferramentas de IA mais avançadas”.
A ideia de que a IA tenha um botão de desligamento que possamos apertar se ela começar a se comportar de forma perigosa circula há muitos anos, mas, para Gates, “Não basta ter um interruptor de desligamento”. Poder desligar o sistema pode ser uma medida de emergência, mas implica que algo ruim já aconteceu. Gates concentra a atenção no monitoramento e na existência de mecanismos de controle antes de chegar a esse ponto.
A autorregulação não é suficiente
Um dos debates que surgiu gira em torno da regulamentação da IA. Dario Amodei, CEO da Anthropic, propôs em sua carta que a maneira mais eficaz de desacelerar seria uma regulamentação que afete todas as empresas de IA igualmente, uma estratégia que foi vista como uma tentativa de captura regulatória que acabaria beneficiando essas empresas.
Questionado diretamente sobre se o governo estadunidense deveria legislar a respeito, a resposta de Gates foi clara: “Absolutamente”, e acrescentou que “ninguém pensa que a autorregulação seja suficiente”. Em outras palavras, ele não confia que as próprias empresas sejam capazes de controlar os riscos.
Imagem | Xataka com Magnific
Este texto foi traduzido/adaptado do site Xataka Espanha.
Ver 0 Comentários