Matéria traduzida e adaptada do inglês, publicada pela matriz americana do Epoch Instances.
Acadêmicos e profissionais de segurança cibernética alertam que uma onda de pesquisas científicas falsas criadas com inteligência synthetic (IA) está silenciosamente passando pelas verificações de plágio e entrando nos registros acadêmicos. Esse fenômeno coloca em risco a credibilidade futura da pesquisa científica, amplificando a indústria de longa knowledge da fraude de “fábricas de artigos acadêmicos”, afirmam especialistas.
As fábricas de artigos acadêmicos — organizações falsas que lucram com estudos e autorias falsificados — têm atormentado os acadêmicos há anos, e a IA agora está atuando como um multiplicador de força.
Alguns especialistas acreditam que são necessárias mudanças estruturais, e não apenas melhores verificadores de plágio, para resolver o problema.
A dimensão do problema é impressionante, com mais de 10.000 artigos de pesquisa retirados de circulação globalmente em 2023, de acordo com a Nature Portfolio.
Manuscritos fabricados usando grandes modelos de linguagem (LLMs) estão se proliferando em várias disciplinas acadêmicas e plataformas, incluindo o Google Scholar, descobriu a Universidade de Borås. Uma análise recente publicada na Nature Portfolio observou que ferramentas LLM, incluindo ChatGPT, Gemini e Claude, podem gerar pesquisas plausíveis que passam nas verificações padrão de plágio.
Em maio, Diomidis Spinellis, acadêmico de ciência da computação e professor da Universidade de Economia e Negócios de Atenas, publicou um estudo independente sobre conteúdo gerado por IA encontrado no World Worldwide Journal of Revolutionary Analysis após descobrir que seu nome havia sido usado em uma atribuição falsa.
Spinellis observou que apenas cinco dos 53 artigos examinados com o menor número de citações no texto mostravam sinais de envolvimento humano.
As pontuações de detecção de IA confirmaram “altas probabilidades” de conteúdo criado por IA nos 48 restantes.
O aplicativo e o web site ChatGPT são exibidos em um telefone e um laptop computer em uma foto ilustrativa de 2025. Acadêmicos e especialistas em segurança cibernética alertam que pesquisas falsas geradas por IA estão passando pelas verificações de plágio e entrando nos registros acadêmicos, ameaçando a credibilidade do trabalho científico. (Justin Tallis/AFP through Getty Photos)
Em uma análise da ciência “lixo” gerada por IA publicada no Google Scholar, pesquisadores de universidades suecas identificaram mais de 100 artigos suspeitos de terem sido gerados por IA.
O Google não respondeu ao pedido de comentário do Epoch Instances.
Os autores do estudo sueco disseram que uma das principais preocupações com as pesquisas criadas por IA — com ou sem assistência humana — é que as informações erradas possam ser usadas para “manipulação estratégica”.
“O risco do que chamamos de ‘hackeamento de evidências’ aumenta significativamente quando pesquisas geradas por IA são disseminadas nos mecanismos de busca. Isso pode ter consequências tangíveis, pois resultados incorretos podem se infiltrar ainda mais na sociedade e, possivelmente, também em mais e mais domínios”, afirmou o autor do estudo, Björn Ekström.
Além disso, a equipe da universidade sueca acredita que, mesmo que os artigos sejam retirados, os trabalhos de IA criam um fardo para o já sobrecarregado sistema de revisão por pares.
Consequências de longo alcance
“O impacto mais prejudicial de uma enxurrada de ciência sem valor gerada por IA será nas áreas de pesquisa que dizem respeito às pessoas”, disse Nishanshi Shukla, especialista em ética de IA da Western Governors College, ao Epoch Instances.
Shukla afirmou que, quando a IA é usada para analisar dados, a supervisão e a análise humanas são fundamentais.
“Quando toda a pesquisa é gerada por IA, há um risco de homogeneização do conhecimento”, disse ela.
“No curto prazo, isso significa que todas as pesquisas que seguem caminhos e métodos semelhantes são corrompidas por suposições e preconceitos semelhantes e atendem apenas a determinados grupos de pessoas”, disse ela. “No longo prazo, isso significa que não há novos conhecimentos e que a produção de conhecimento é um processo cíclico desprovido de pensamento crítico humano”.
Uma pessoa assiste a um exemplo de vídeo “deepfake” manipulado usando inteligência synthetic, por pesquisadores da Universidade Carnegie Mellon, em Washington, em 25 de janeiro de 2019. Uma das principais preocupações com a pesquisa criada por IA — assistida por humanos ou não — é que a desinformação possa ser usada para “manipulação estratégica”, afirmaram os pesquisadores. (Alexandra Robinson/AFP through Getty Photos)
Michal Prywata, cofundador da empresa de pesquisa em IA Vertus, concorda que a tendência da ciência falsa criada por IA é problemática — e os efeitos já são visíveis.
“O que estamos vendo essencialmente agora é o equivalente a um ataque de negação de serviço. Pesquisadores reais estão se afogando em muito ruído, revisores estão sobrecarregados e citações estão sendo poluídas com referências fabricadas. Isso está tornando mais difícil identificar e validar o verdadeiro progresso científico”, disse Prywata ao Epoch Instances.
Em seu trabalho com sistemas de IA de ponta, Prywata viu de perto os subprodutos dos LLMs implantados em massa, que ele acredita estarem no centro da questão.
“Essa é a consequência previsível de tratar a IA como uma ferramenta de produtividade, em vez de compreender o que realmente é a inteligência”, afirmou. “Os LLMs, como são hoje, não são construídos como mentes. São sistemas sofisticados de correspondência de padrões que são incrivelmente bons em produzir textos que soam plausíveis, e isso é exatamente o que as pesquisas falsas precisam para parecerem credíveis”.
O diretor de segurança da informação da Optiv, Nathan Wenzler, acredita que o futuro da confiança pública está em jogo.
“À medida que mais conteúdo incorreto ou totalmente falso gerado por IA é adicionado a revistas respeitáveis e importantes revisões científicas, os efeitos a curto e longo prazo são os mesmos: uma erosão da confiança”, disse Wenzler ao Epoch Instances.
Do ponto de vista da segurança, Wenzler afirmou que as universidades agora enfrentam um tipo diferente de ameaça quando se trata de roubo de propriedade intelectual.
“Vimos ataques cibernéticos de atores estatais que visam especificamente o roubo de pesquisas de universidades e institutos de pesquisa, e esses mesmos Estados revertem a situação e divulgam as descobertas de suas próprias universidades como se tivessem realizado as pesquisas eles mesmos”, disse ele.
Por fim, Wenzler disse que isso terá um enorme impacto financeiro nas organizações que contam com subsídios para promover estudos científicos legítimos, tecnologia, cuidados de saúde e muito mais.
Cientistas pesquisadores desenvolvem uma vacina de RNA replicante em um laboratório de microbiologia da Faculdade de Medicina da Universidade de Washington, em Seattle, em 10 de dezembro de 2020. Especialistas alertam que as universidades agora enfrentam riscos elevados de roubo de propriedade intelectual por meio de ataques cibernéticos de nações-estado aumentados por IA. (Karen Ducey/Getty Photos)
Wenzler descreveu um possível exemplo do mundo actual: “A IA poderia ser facilmente usada para aumentar esses ataques cibernéticos, modificar o conteúdo da pesquisa roubada apenas o suficiente para criar a ilusão de que é um conteúdo único e separado, ou criar uma narrativa falsa de que a pesquisa existente é falha, criando dados falsos para minar a credibilidade dos dados e descobertas originais.
“O impacto financeiro potencial é enorme, mas a forma como isso poderia afetar os avanços que beneficiam pessoas em todo o mundo é imensurável”, disse ele.
Prywata destacou que uma grande parte do público já questiona a academia.
“O que me preocupa é que isso acelerará o questionamento das instituições científicas”, afirmou. “As pessoas agora têm evidências de que o sistema pode ser manipulado em grande escala. Eu diria que isso é perigoso para a sociedade”.
O fluxo de artigos de pesquisa falsos gerados por IA está ocorrendo em um momento em que a confiança do público na ciência permanece mais baixa do que antes da pandemia da COVID-19. Uma análise do Pew Analysis Middle de 2024 descobriu que apenas 26% dos entrevistados têm muita confiança nos cientistas para agir no melhor interesse do público. Cinquenta e um por cento afirmaram ter uma confiança razoável; em contrapartida, o número de entrevistados que expressaram o mesmo nível de confiança na ciência em 2020 foi de 87%.
Porcentagem de adultos nos EUA que têm __ confiança em cientistas para agir no melhor interesse do público. Muito — verde escuro. Razoavel — verde claro. Pouca ou nenhuma — bege. Evolução ao longo do tempo
Ao mesmo tempo, os americanos passaram a desconfiar dos avanços em IA. Um estudo recente da Brookings Establishment descobriu que os participantes expostos a informações sobre os avanços em IA passaram a desconfiar de diferentes métricas, incluindo linguística, medicina e namoro, quando comparados aos avanços não relacionados à IA nas mesmas áreas.
Uma ilustração da Anthropic, uma empresa americana de IA, em 1º de agosto de 2025. Michal Prywata alerta que os dados fabricados por IA publicados podem treinar novos modelos, criando um ciclo vicioso de desinformação. (Riccardo Milani/Hans Lucas/AFP through Getty Photos)
Encontrando soluções
Shukla acredita que a onda de pesquisas fabricadas por IA é resultado da pressão acadêmica para publicar novos artigos constantemente.
“Nessas circunstâncias, quando o número de artigos e citações dita a carreira acadêmica de uma pessoa, as pesquisas fabricadas por IA servem como uma maneira rápida de progredir”, disse ela. “Portanto, o primeiro passo para impedir as pesquisas fabricadas por IA é liberar a pressão de publicação e ter métricas melhores para medir o sucesso acadêmico”.
Shukla enfatizou a importância de campanhas de conscientização voltadas para pesquisas criadas por IA, juntamente com a manutenção de “padrões robustos” em relatórios acadêmicos e validações de autenticidade.
Pare de recompensar o quantity de publicações e financie com base na qualidade das citações e no impacto actual.
— Michal Prywata, cofundador da Vertus
O Conselho Internacional de Ciência afirmou que a publicação de artigos de pesquisa impulsiona os rankings das universidades e a progressão na carreira. Essa “pressão implacável” para publicar pesquisas a qualquer custo contribuiu para o aumento de dados fraudulentos.
“A menos que isso mude, todo o panorama da pesquisa pode mudar para um padrão menos rigoroso, impedindo o progresso vital em áreas como medicina, tecnologia e ciência climática”, afirmou o Conselho Internacional de Ciência.
Para piorar a situação, Prywata disse que, quando dados falsos gerados por IA são publicados, as informações podem ser usadas para treinar novos modelos de IA, criando um ciclo vicioso de desinformação.
“Precisamos de consequências”, afirmou.
Uma aluna sentada em uma sala de aula ao remaining da aula na Universidade do Texas em Austin, em 22 de fevereiro de 2024. A ênfase no quantity de publicações na academia há muito está ligada à segurança no emprego e ao financiamento, mas Michal Prywata afirma que o sistema de incentivos deve mudar, com pesquisadores e instituições sendo responsabilizados financeiramente por trabalhos falsificados. (Brandon Bell/Getty Photos)
Atualmente, há poucos incentivos para não publicar o máximo possível de materials acadêmico. A importância dada ao quantity de conteúdo publicado em nível universitário há muito está associada à segurança no emprego e ao acesso a financiamento para projetos.
“A solução não são melhores ferramentas de detecção [de IA], isso é uma corrida armamentista que será perdida. Já existem ferramentas sendo criadas para burlar a detecção de IA”, disse Prywata.
Ele acredita que a estrutura de incentivos para publicações acadêmicas precisa mudar completamente, tornando pesquisadores e instituições financeiramente responsáveis pela divulgação de trabalhos falsificados.
“Pare de recompensar o volume de publicações e financie com base na qualidade das citações e no impacto real”, disse ele.
Wenzler observou que, embora a revisão por pares ainda seja o “padrão ouro” para validar os resultados de pesquisas em revistas científicas, é basic que os grupos que conduzem as revisões invistam o tempo e a tecnologia necessários.
“Submeta a pesquisa a testes rigorosos e valide todas as fontes fornecidas”, afirmou.
Wenzler acredita que é necessária uma base mais ampla de cooperação entre instituições acadêmicas e investimentos governamentais para apoiar a integridade da pesquisa.
Infelizmente, o sistema de revisão por pares não está isento de desafios. Atormentados por um fluxo crescente de conteúdo e restrições de tempo, o cansaço dos revisores é um problema comum. Para agravar a situação, evidências da Nature Portfolio sugerem que a IA está desempenhando um papel cada vez maior no processo de revisão por pares, provocando uma nova onda de preocupação da comunidade científica.
“Exijam revisão por pares ao vivo com identidades públicas dos revisores”, afirmou Prywata. “Além disso, financiem adequadamente a revisão por pares, em vez de esperar trabalho gratuito”.
© Direito Autoral. Todos os Direitos Reservados ao Epoch Instances Brasil (2005-2025)
