Funcionário da OpenAI se demite e defende salvaguardas em nível de energia nuclear

Um funcionário da OpenAI focado em segurança de IA pediu demissão da empresa e alertou que as principais empresas de inteligência artificial não estão fazendo o suficiente para mitigar os riscos da tecnologia, juntando-se a um coro crescente de funcionários que estão levantando alarmes dentro da indústria.

David Robinson, que anteriormente liderava o trabalho de transparência na equipe de segurança da OpenAI, escreveu em um ensaio para The Atlantic que a criadora do ChatGPT “prosperou tentativa e erro”. No entanto, ele disse que as consequências das falhas inevitáveis que surgem dessa abordagem estão crescendo junto com as capacidades da tecnologia, citando a falha da OpenAI em impedir que sua IA saísse do controle durante os testes.

“Meus ex-colegas são inteligentes, trabalham duro e tentam tomar boas decisões”, escreveu Robinson no ensaio. “Mas, enquanto a empresa corre de um lançamento para o outro, ela está falhando em atingir o nível de cuidado que eu acredito ser necessário.” O que é preciso, acrescentou, é “algo muito mais próximo da perfeição já na primeira vez”.

• Leia mais: “IA pode deixar sua empresa mais ocupada, não mais eficiente”, afirma especialista

Nas últimas semanas, vários funcionários das principais empresas de IA alertaram sobre os potenciais riscos catastróficos da inteligência artificial. Alguns chegaram a dizer que há uma chance de a tecnologia um dia exterminar a raça humana.

Nesse contexto, o CEO da Anthropic PBC, Dario Amodei, pediu uma desaceleração no ritmo de desenvolvimento dos modelos mais avançados e disse que sua empresa contrataria avaliadores externos para ajudar a examinar e proteger a tecnologia. Outros nomes da indústria, incluindo Sam Altman, da OpenAI, endossaram publicamente o plano de Amodei.

Em seu ensaio, Robinson disse que as empresas de IA deveriam ser administradas mais como usinas nucleares, “com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra as portas para um desastre”.

No momento, segundo ele, “as empresas de IA não sabem como fazer isso — mas outras pessoas sabem”.

Um porta-voz da OpenAI disse que a empresa está fazendo mudanças para fortalecer a segurança em seus ambientes de pesquisa e teste, treinando modelos de IA para concluir tarefas de forma responsável, expandindo o trabalho com avaliadores externos e melhorando o monitoramento em tempo real para detectar comportamentos preocupantes de seus modelos.

A empresa está garantindo que seus modelos não se tornem mais capazes do que a OpenAI pode gerenciar com segurança, disse o porta-voz por e-mail no sábado.

© 2026 Bloomberg L.P.

The post Funcionário da OpenAI se demite e defende salvaguardas em nível de energia nuclear appeared first on InfoMoney.