A inteligência artificial promete revolucionar a pesquisa científica, mas também alimenta temores crescentes sobre a confiabilidade do conhecimento produzido. Uma disputa recente entre matemáticos evidencia como a tecnologia pode abalar a confiança no processo científico.
O caso que acendeu o alerta
No mês passado, a OpenAI anunciou ter resolvido um dos grandes problemas ainda sem solução da matemática, relacionado às equações de Navier-Stokes. Segundo a empresa, seus agentes conseguiram solucionar a questão em 88 horas. Porém, horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, expressou preocupações públicas.
Buckmaster e seu colega Levent Alpöge, que trabalha para a Anthropic (empresa concorrente da OpenAI), também buscavam resolver o mesmo problema. Eles armazenavam os rascunhos no Codex, ferramenta de programação da OpenAI. Buckmaster questionou se a pesquisa guardada nessa plataforma poderia ter sido utilizada no trabalho da própria OpenAI, embora tenha ressaltado que “não estava acusando ninguém de nada”.
A OpenAI negou acesso ao trabalho da outra equipe. Inicialmente, a empresa disse que, embora fosse improvável, não poderia “descartar” a possibilidade de que dados anonimizados tivessem contribuído para aprimorar seus modelos. Dias depois, afirmou que os comandos inseridos por Buckmaster “não poderiam ter influenciado o sistema de forma alguma”.
Ameaça silenciosa à confiança científica
O caso ilustra uma preocupação mais ampla e sutil do que cenários de ficção científica. Em vez de robôs criando vírus perigosos, o risco real é que a IA abale a confiança no próprio processo científico, levantando dúvidas sobre originalidade e precisão das pesquisas.
Ferramentas como Claude e Gemini podem produzir informações falsas, fenômeno conhecido como “alucinação”. Elas mencionam filmes que nunca existiram ou atribuem frases a pessoas que jamais as disseram. Agora, evidências mostram que isso ocorre com frequência crescente também na ciência. O temor é que se torne difícil distinguir descobertas verdadeiras de informações fictícias geradas por máquinas.
Segundo Dalmeet Singh Chawla, jornalista especializado em má conduta científica, “a IA generativa basicamente transformou todo o processo científico”. As equipes responsáveis por verificar a integridade das publicações científicas precisarão “aumentar drasticamente [em número de profissionais e esforço] para ter alguma chance de enfrentar o problema”. “No momento, parece que não estão conseguindo”, afirma Singh Chawla.
O fantasma do conteúdo gerado por máquinas
Uma ameaça crescente é o chamado AI slop (conteúdo tosco gerado por IA). Estudos passam a ser escritos por computadores em vez de pesquisadores, incluindo referências falsas e citações de artigos inexistentes.
Em 2024, o cientista Dmitry Kobak, da Universidade de Ghent, analisou mais de 1 milhão de artigos científicos da área biomédica. Sua equipe constatou que, até dezembro, quase 90% dos artigos apresentavam indícios de uso de IA. Kobak alertou para o risco de que “quaisquer vieses presentes nos grandes modelos de linguagem acabem se espalhando rapidamente por toda a literatura científica”.
Uma equipe da Universidade Stanford descobriu que até 17% dos pareceres de avaliadores em conferências de ciência da computação foram substancialmente alterados por modelos de linguagem. Pesquisadores da Universidade Cornell encontraram evidências de IA gerando referências bibliográficas fictícias. No ano passado, cerca de 147 mil trabalhos científicos inexistentes foram citados.
Quando a IA funciona bem
Nem tudo é negativo. A Google DeepMind resolveu em 2020 um dos maiores desafios da biologia ao desenvolver o AlphaFold, modelo capaz de prever estruturas de proteínas. O sistema previu com precisão as estruturas de 200 milhões de proteínas em apenas um ano. Realizar esse trabalho equivalente por experimentos em laboratório levaria centenas de milhões de anos. O diretor da DeepMind e o principal cientista do projeto receberam o Prêmio Nobel de Química.
Peshmeet Kohli, responsável pela área científica da DeepMind, considera o AlphaFold um “marco histórico”.
Questionamentos sobre exageros
Após o sucesso do AlphaFold, a DeepMind voltou atenção para previsão de estruturas de novos materiais. Um modelo identificou o que a empresa afirmou serem mais de 2 milhões de novas estruturas cristalinas, anunciadas como equivalente a “quase 800 anos de conhecimento”.
Mas dois químicos da Universidade da Califórnia, Anthony Cheetham e Ram Seshadri, analisaram uma amostra dos supostos novos cristais. Em artigo publicado na revista Chemistry of Materials, concluíram que “ainda não encontraram nenhum composto realmente inovador” e argumentaram que muitos eram “adaptações triviais de materiais conhecidos”. Os pesquisadores defenderam que os resultados precisam passar por análise mais rigorosa.
A DeepMind rejeita as críticas e afirma que verificou a originalidade de cada composto, argumentando que a substituição de um único átomo permitiu desenvolvimento de muitos materiais úteis atualmente.
Descobertas inesperadas em risco
Há preocupação de que sistemas de IA descartem descobertas importantes por considerá-las anomalias. A penicilina, a radioatividade e os pulsares foram descobertos a partir de resultados inesperados que poderiam facilmente ter sido ignorados. Foi a intuição dos cientistas que permitiu reconhecer a importância dessas observações.
Kohli, da DeepMind, não acredita que a solução seja abandonar a inteligência artificial. Isso seria “como defender que as pessoas façam cálculos sem usar calculadoras”. Mas reconhece que é necessário manter supervisão humana: “Os agentes de IA atuais ainda são imperfeitos. Alguém precisa assumir a responsabilidade”.
Para Kohli, o princípio é simples: “É preciso entender o que o agente fez e assumir a responsabilidade pelo resultado. Não basta apresentar um problema, deixar que a máquina escreva o artigo científico e depois submetê-lo para publicação como se suas conclusões fossem verdadeiras.”
Medidas de proteção em curso
Algumas editoras de revistas científicas adotam medidas para conter a crise de confiança. A Elsevier desenvolveu cerca de 100 indicadores que ajudam a identificar artigos que precisam passar por avaliação humana mais rigorosa. As revistas do grupo Nature proíbem uso de imagens geradas por IA e orientam revisores a nunca inserir manuscritos em sistemas de IA. O arXiv suspende por um ano pesquisadores que apresentam referências bibliográficas inventadas.
Sarah Main, vice-presidente da Elsevier, defende o uso responsável da tecnologia. “O que chamamos de research-grade AI (inteligência artificial voltada à pesquisa científica, em tradução livre) tem como objetivo garantir que o pesquisador mantenha o controle do trabalho”.
História de esperança
A professora Andrea Pauli, do Vienna BioCenter, em Viena, na Áustria, oferece motivo para otimismo. Ela passou quase dez anos investigando como o espermatozoide penetra no óvulo. O uso responsável da IA ajudou a pesquisadora a avançar na busca. Seu laboratório identificou uma proteína na superfície dos óvulos do peixe-zebra que indica mecanismo semelhante ao de uma chave em uma fechadura.
Oliver Vince, fundador do laboratório Basecamp Research em Londres, foi internado com leucemia e se recuperou. A experiência o motivou a desenvolver um sistema de IA com maiores chances de encontrar cura para diferentes tipos de câncer. “Temos um caminho tecnicamente viável para curar o câncer”, afirma Vince.
A grande questão permanece: a IA ajudará a ciência a alcançar avanços significativos ou enfraquecerá, de maneira silenciosa, os próprios fundamentos da pesquisa científica?
Notícias da Costa do Sol em primeira mão.
Siga @ofatonoar no InstagramCom informações do g1.








