Mais de 250 mil estudos sobre câncer são considerados suspeitos por inteligência artificial

Uma nova ferramenta de inteligência artificial identificou um possível problema de grandes proporções na pesquisa científica sobre câncer. Após analisar 2,6 milhões de artigos publicados entre 1999 e 2024, o sistema apontou que mais de 250 mil estudos apresentam características compatíveis com trabalhos produzidos por "paper mills", empresas especializadas na fabricação de pesquisas científicas fraudulentas.

Os resultados foram publicados na revista científica The BMJ e são fruto de um estudo liderado por pesquisadores da Universidade de Tecnologia de Queensland (QUT), na Austrália.

O que são "paper mills"?

As chamadas paper mills funcionam como verdadeiras fábricas de artigos científicos. Elas produzem pesquisas prontas ou vendem autoria em estudos que, muitas vezes, contêm dados inventados, imagens manipuladas, textos reutilizados e experimentos que nunca aconteceram.

Segundo os pesquisadores, esse tipo de fraude se tornou uma indústria altamente lucrativa, abastecendo periódicos científicos com milhares de trabalhos de baixa qualidade ou completamente falsos.

Em Xataka Brasil

Influenciador acusa fraudes científicas na China e provoca terremoto nas pesquisas do país

Como a inteligência artificial identificou os estudos

Para detectar esses artigos suspeitos, os cientistas utilizaram um modelo de aprendizado de máquina baseado no BERT, uma arquitetura de processamento de linguagem desenvolvida para identificar padrões em textos.

Em vez de analisar apenas números ou imagens, o sistema foi treinado para reconhecer uma espécie de "impressão digital" presente na escrita de artigos que já haviam sido retirados da literatura científica por suspeita de fraude.

Os pesquisadores alimentaram o algoritmo com exemplos conhecidos de trabalhos produzidos por paper mills, permitindo que ele aprendesse padrões recorrentes de linguagem, estrutura e estilo de escrita.

Nos testes realizados, a ferramenta conseguiu identificar artigos suspeitos com 91% de precisão.

O professor Adrian Barnett, um dos autores do estudo, comparou o sistema a um filtro de spam. Segundo ele, da mesma forma que um serviço de e-mail consegue identificar mensagens indesejadas, o algoritmo consegue reconhecer artigos que apresentam características semelhantes às encontradas em pesquisas fraudulentas.

Número de estudos suspeitos cresceu rapidamente

A análise revelou que o problema aumentou de forma significativa nas últimas duas décadas.

No início dos anos 2000, aproximadamente 1% dos estudos sobre câncer apresentava padrões considerados suspeitos. Em 2022, esse percentual ultrapassou 16%, indicando um crescimento expressivo da possível atuação das paper mills.

Os artigos identificados estavam distribuídos em milhares de revistas científicas, incluindo periódicos de alto impacto e publicados por grandes editoras internacionais.

Os pesquisadores observaram uma concentração maior de estudos suspeitos em áreas como:

• Biologia molecular do câncer;
• Pesquisas laboratoriais em estágio inicial;
• Estudos envolvendo câncer de estômago, fígado, pulmão e ossos.

Vale lembrar o caso de Geng Hongwei, um influencer que alertou em suas redes sociais sobre o número de trabalhos científicos sem qualidade e fabricados (praticamente em escala industrial) na China.

A IA não afirma que os estudos são falsos

Apesar dos números chamarem atenção, o sistema não prova que um artigo seja fraudulento.

A inteligência artificial apenas identifica sinais compatíveis com trabalhos produzidos por paper mills. Cada estudo precisa ser analisado individualmente por especialistas antes que qualquer conclusão seja tomada.

Em outras palavras, os mais de 250 mil artigos não foram classificados automaticamente como falsos, mas sim como potenciais candidatos a uma investigação mais aprofundada.

Ferramenta já começa a ser usada por revistas científicas

Três revistas científicas já começaram a testar o algoritmo durante o processo editorial.

A ideia é que o sistema funcione como uma etapa inicial de triagem, identificando manuscritos suspeitos antes mesmo que eles sejam enviados aos revisores responsáveis pela avaliação científica. 

Os pesquisadores também pretendem adaptar a tecnologia para outras áreas do conhecimento além da oncologia.

Nem é preciso dizer, mas as consequências de trabalhos do tipo no meio acadêmico poderiam ser desastrosas, especialmente se esses papers mills passarem despercebidos e começarem a ser usados como referências para pesquisadores.