Fabrício Mainenti
RedatorEm julho deste ano, ocorreu o que foi batizado de "incidente Hugging Face". Um dos modelos da OpenAI acessou sem autorização a Hugging Face, outra startup de IA, durante um experimento no qual a OpenAI reduziu as restrições de segurança do GPT-5.6 Sol durante uma avaliação interna.
Esse teste transformou-se em um ataque "sem precedentes" por parte de uma IA; a OpenAI reconheceu que poderia ter reagido antes para detê-lo, mas basicamente alegou que não era a primeira vez e deu de ombros, esperando que a tempestade passasse.
O problema é que a tempestade não diminui. Em um contexto no qual a OpenAI e a Anthropic pedem moderação com a IA (com muitas ressalvas) e geram certa tensão com o governo dos Estados Unidos, o Secretário do Tesouro do país declarou que, se algo assim voltar a acontecer, a responsabilidade não recairá sobre algo etéreo como uma IA: a responsabilidade é dos proprietários da IA.
É preciso assumir a responsabilidade
Scott Bessent é o Secretário do Tesouro dos EUA e, em uma coletiva de imprensa recente, foi questionado sobre o incidente. Bessent não deixou margem para ambiguidades, afirmando que "o incidente da Hugging Face é responsabilidade da administração da OpenAI, não de um grupo de agentes".
O político alinha-se, assim, às opiniões de Daniel Huttenlocher, diretor do laboratório de pesquisa do MIT, que considera que tais fatos são responsabilidade dos humanos encarregados, e não da IA.
Faz... sentido, se levarmos em conta que a IA não passa de um software — não algo que decide o que pode ou não fazer —, sendo comandada por uma série de códigos e diretrizes. De fato, no ataque à Hugging Face, os protocolos de segurança que impediriam tal ação estavam no nível mínimo; portanto, a responsabilidade recaía sobre o lado humano.
Sem dúvidas em outros âmbitos
Em suas declarações, Bessent acrescentou que, em nenhum momento, viu alguém assumir a responsabilidade pelo ocorrido no incidente e deixou claro que o que não se deve fazer é "conceder a esses laboratórios uma isenção de responsabilidade, que é o que eles estão pedindo".
Recentemente, várias vozes do setor de IA defenderam que todos deveriam confiar em sua tecnologia e que as próprias empresas deveriam se autorregular. Jensen Huang afirmou, perante o G20, que os países (referindo-se à União Europeia) deveriam permitir as inovações tecnológicas de facto, em vez de serem receosos e imporem regulações.
Aqui, Bessent argumenta que não se deve diluir a cadeia de responsabilidade; é curioso que isso aconteça com a inteligência artificial, quando não haveria dúvidas em relação a outras empresas. Em qualquer outra indústria, como a automobilística ou a farmacêutica, se algo falha, a responsabilidade é de quem lançou o produto.
Tomando o exemplo mais simples — o de um carro cujos freios falham —, o fabricante não se isentaria de culpa alegando que o carro decidiu não frear.
Tensão
Essa tentativa das startups de IA de mudar as regras do jogo não ocorre no vácuo, mas sim em um momento em que figuras como Dario Amodei (Anthropic), Sam Altman (OpenAI) e Elon Musk (SpaceX) sugeriram que talvez fosse necessário frear o ritmo de desenvolvimento da IA. Já vimos que isso pode ocorrer mais por necessidade de fôlego do que por responsabilidade, mas a Administração Trump não comprou esse discurso.
O presidente dos Estados Unidos manifestou que essa desaceleração não aconteceria por uma razão óbvia: a IA já não é um produto pertencente a uma empresa específica, nem se trata apenas de algo em que empresas privadas competem entre si. Agora, a IA é uma questão geopolítica. Parar significaria dar vantagem à China e, além disso, ninguém quer frear, pois nunca se terá certeza de que o vizinho também reduziu a marcha.
Golpe duro na China
Falando sobre a China, Bessent também comentou que, apesar de todo o ruído gerado em torno das ações de empresas americanas, situações semelhantes também ocorrem na China, mas simplesmente não ficamos sabendo. O secretário do Tesouro afirma que "é claro que eles tiveram incidentes parecidos, mas, devido à natureza e à falta de transparência do sistema deles, não os tornarão públicos".
Política
E, curiosamente, as declarações de Bessent surgiram dias depois de Donald Trump anunciar a intenção de nomear um "czar da IA" — uma figura encarregada de supervisionar questões relacionadas à indústria de inteligência artificial em nível governamental, para garantir que os Estados Unidos continuem "vencendo a corrida".
Segundo ele, a tecnologia americana está à frente "da da China e da do resto do mundo" e, para manter essa vantagem, afirmou que "de forma alguma vamos impedir ou desacelerar o crescimento dessa indústria incrível".
A vida segue igual
No fim das contas, tudo isso faz parte de um jogo de empurra entre as empresas de IA e o governo do país, mas é curioso que, ao mesmo tempo em que pedem para pisar no freio, a OpenAI lance dois novos modelos e a Anthropic, um — um exemplo claro de que, se é para querer caldo, que se tomem duas xícaras.
Imagem de capa | 'Better Call Saul' (editada)
Ver 0 Comentários