Anúncio da Anthropic sobre uma descoberta “liderada por Claude” está gerando controvérsia

A Anthropic afirmou que cientistas de seu laboratório de biologia analisaram e testaram a descoberta, que descreveram como um sistema biológico “anteriormente não caracterizado” em bacteriófagos, um tipo de vírus que ataca bactérias, com uma estrutura semelhante ao CRISPR, que é encontrado naturalmente em bactérias.

Mestre, no entanto, afirmou ter compartilhado pesquisas inéditas sobre sua conta particular de Claude, incluindo rascunhos de sua dissertação, análises e material que descrevem esses sistemas.

“Não estou afirmando que a Anthropic se apropriou deliberadamente do nosso trabalho. Não posso provar isso”, disse ele à CNN por e-mail.

“Ou informações relacionadas ao nosso trabalho chegaram de alguma forma ao modelo e ele foi treinado com elas. A segunda possibilidade, que atualmente considero mais plausível, é que havia consideravelmente mais conhecimento científico prévio e direcionamento humano por trás da busca do que a expressão ‘descoberta autônoma’ sugere”, acrescentou Mestre, referindo-se à linguagem usada no comunicado.

A Anthropic não respondeu ao pedido de comentário enviado por e-mail.

Não é incomum no processo científico que diferentes grupos de pesquisa cheguem ao mesmo resultado, mas a alegação de Mestre é séria, e muitos cientistas podem pensar duas vezes no futuro antes de inserir seus resultados não publicados nessas ferramentas, disse Ilya Finkelstein, professor de biociências moleculares da Universidade do Texas em Austin.

Novo território

Ainda assim, o anúncio da Anthropic sugere que a IA está começando a funcionar com mais autonomia na ciência, disse Gustavo Sudre, professor de neuroimagem genômica e inteligência artificial no King’s College London.

“Recebeu uma orientação geral e depois teve que usar seu próprio julgamento sobre o que era interessante nos dados. Isso é uma mudança real em relação ao usual ‘analise este conjunto de dados para mim’”, disse ele em um e-mail.

Finkelstein acrescentou que a IA se destaca na busca por uma “agulha no palheiro”, em vez de uma “descoberta imaginativa”. Ele observou que as ferramentas de IA ajudariam a explorar áreas onde os alunos ficariam muito cansados ​​ou entediados ao tentar encontrar um padrão interessante que mereça uma investigação mais aprofundada.

“Eles podem seguir rapidamente um grande número de caminhos improdutivos”, disse Finkelstein à CNN. “Eles são realmente bons em trabalhos braçais quando orquestrados por especialistas na área.”

Finkelstein também observou que o autor principal do artigo da Anthropic é o Dr. Peter Yoon , que trabalhou no laboratório de Jennifer Doudna, uma das arquitetas do CRISPR Cas-9 e ganhadora do Prêmio Nobel de 2020 juntamente com Emmanuelle Charpentier. Portanto, os agentes de IA da Anthropic foram orientados por pessoas no topo de suas áreas, afirmou ele.

“Quatro dos seis autores são biólogos moleculares seniores e especialistas na área. Dê a esse grupo uma grande quantidade de recursos computacionais e modelos de ponta (sem salvaguardas, imagino), e tenho certeza de que veremos descobertas bioinformáticas ainda mais interessantes”, escreveu Finkelstein em uma postagem no blog do site de seu laboratório.

No entanto, outros pesquisadores afirmam que falar sobre descobertas autônomas impulsionadas por IA é uma propaganda exagerada que se antecipa à ciência real, e que os modelos ainda não são capazes de gerar resultados significativos por conta própria, apesar das alegações em contrário.

Permitir que um modelo analise dados em uma escala que nenhum ser humano consegue igualar realmente impulsiona o campo de pesquisa, mas não necessariamente anuncia um grande avanço, disse Sudre. “Por experiência própria, posso afirmar que a maior parte do trabalho se concentra na lacuna entre ‘padrões interessantes’ e ‘conhecimento útil'”, observou ele.

A Anthropic lançou o Claude Science, sua ferramenta projetada para pesquisa, no início deste ano. Seus concorrentes também lançaram recentemente ferramentas semelhantes. A OpenAI tem o GPT-Rosalind, a Microsoft tem o Quine e o Google DeepMind tem o Co-Scientist. Elas funcionam como grandes modelos de linguagem, mas também utilizam conjuntos de dados científicos específicos, como sequências de DNA.

No entanto, os modelos são tão confiáveis ​​quanto os dados com os quais são treinados. Por exemplo, a força do AlphaFold do Google DeepMind, que ganhou o Prêmio Nobel de Química de 2024 pela decodificação de estruturas de proteínas, vem do treinamento do sistema de IA em uma fonte de dados restrita e especializada, coletada ao longo de décadas .

Os desenvolvedores de IA estão sob intenso escrutínio público em meio à crescente preocupação com agentes de IA desonestos e se as empresas de IA conseguem controlá-los adequadamente. Descobertas biológicas podem oferecer aos executivos das empresas a oportunidade de construir uma narrativa mais positiva que contrabalance parte do pessimismo em torno de seus produtos.

Mas avançar em direção a descobertas significativas e tangíveis na área provavelmente exigirá a integração dos modelos de IA ao trabalho prático em laboratório por meio da robótica.

“Biologia não é matemática e, em algum momento, a inteligência precisa ser expressa no mundo físico por meio de um robô capaz de realizar as tarefas experimentais complexas e pontuais que um bom aluno normalmente faria quase instintivamente”, disse Yuval Elani, professor associado de tecnologias bioquímicas no Imperial College London. “Pelo que tenho visto sobre robótica e automação, ainda estamos longe disso. Portanto, levará algum tempo até que possamos realmente justificar toda a expectativa em torno da IA ​​na biologia.”

Limite tecnológico

A Anthropic afirma compreender que existe um limite para o que a inteligência artificial pode fazer sozinha e está investindo em ” hardware modelo ” que permitirá que agentes de IA operem dispositivos físicos com segurança.

Sudre, do King’s College, cujo trabalho integra dados genômicos, clínicos, neurais e cognitivos para prever como os sintomas de saúde mental se desenvolverão em crianças, enfatiza que o papel dos humanos na ciência não está diminuindo. O risco não é que os cientistas sejam afastados das descobertas, mas que se tornem preguiçosos e não usem seu discernimento para entender se um resultado é significativo, disse ele.

O próximo passo para os cientistas da Anthropic é realizar o trabalho minucioso de experimentos físicos em laboratório para entender o padrão que identificaram e se a assinatura pode ter uma aplicação prática em biotecnologia.

“Claro, no futuro, parte disso também poderá ser feito por robôs”, disse Sudre. “Mas o ponto é que as perguntas que valem a pena fazer na ciência não ficam escondidas em bancos de dados esperando para serem encontradas. Elas vêm de nós, daquilo que nos importa, daquilo que nos preocupa.”