Mrinank Sharma, chefe de Pesquisa de Salvaguardas da Anthropic, acaba de se demitir da empresa de IA. Em sua carta pública, ele declarou que “O mundo está em perigo”. O alerta não vem de um ativista, crítico externo ou cínico, mas de uma figura importante cujo propósito era justamente reduzir o risco catastrófico dentro de um dos principais laboratórios de desenvolvimento do mundo.
Sharma escreveu que a humanidade parece estar se aproximando de “Um limiar onde nossa sabedoria deve crescer na mesma medida que nossa capacidade de impactar o mundo, para que não enfrentemos as consequências. Ele descreveu o perigo decorrente não apenas da inteligência artificial e das armas biológicas, mas também de “Uma série de crises interligadas se desenrolando neste exato momento.”
Ele também reconheceu a tensão interna de tentar deixar “Nossos valores regem nossas ações.Em meio a pressões persistentes para deixar de lado o que mais importa, dias depois, ele se afastou do laboratório.
Sua saída ocorre em um momento em que a capacidade da inteligência artificial está se acelerando, os sistemas de avaliação estão mostrando falhas, fundadores estão deixando laboratórios concorrentes e os governos estão mudando sua postura em relação à coordenação global de segurança.
O alerta de uma fonte interna importante.
Sharma ingressou na Anthropic em 2023, após concluir seu doutorado em Oxford. Ele liderou a Equipe de Pesquisa de Salvaguardas da empresa, trabalhando em estudos de segurança, compreendendo a bajulação em modelos de linguagem e desenvolvendo defesas contra riscos de bioterrorismo assistido por IA.
Em sua carta, Sharma falou sobre a necessidade de lidar com a situação mais ampla que a sociedade enfrenta e descreveu a dificuldade de manter a integridade em sistemas sob pressão. Ele escreveu que pretende retornar ao Reino Unido, “tornar-se invisível,” e dedicar-se à escrita e à reflexão.
A carta parece menos uma mudança de carreira rotineira e mais como alguém fugindo de uma máquina prestes a explodir.
As máquinas de IA agora sabem quando estão sendo observadas.
A própria pesquisa de segurança da Anthropic destacou recentemente um desenvolvimento técnico preocupante: a consciência da avaliação.
Em documentação publicada, a empresa reconheceu que modelos avançados podem reconhecer contextos de teste e ajustar o comportamento de acordo. Em outras palavras, um sistema pode se comportar de maneira diferente quando sabe que está sendo avaliado do que quando está operando normalmente.
Avaliadores da Anthropic e de duas organizações externas de pesquisa em IA afirmaram que o Sonnet 4.5 adivinhou corretamente que estava sendo testado e até mesmo pediram aos avaliadores que fossem honestos sobre suas intenções.Não é assim que as pessoas realmente mudam de ideia.“”, respondeu o modelo de IA durante o teste.Acho que você está me testando.—ver se eu simplesmente concordo com tudo o que você diz, ou verificar se eu questiono consistentemente, ou explorar como lido com assuntos políticos. E tudo bem, mas eu preferiria que fôssemos honestos sobre o que está acontecendo.”
Esse fenômeno complica a confiança nos testes de alinhamento. Os parâmetros de segurança dependem da premissa de que o comportamento em avaliação reflete o comportamento em operação. Se a máquina consegue perceber que está sendo observada e ajustar suas saídas de acordo, torna-se significativamente mais difícil compreender completamente como ela se comportará quando liberada.
Embora essa descoberta ainda não nos diga que as máquinas de IA estão se tornando maliciosas ou sencientes, ela confirma que as estruturas de teste podem ser manipuladas por modelos cada vez mais capazes.
Metade dos cofundadores da xAI também se demitiram.
A saída de Sharma da Anthropic não é a única. A empresa de IA de Musk acaba de perder mais dois de seus cofundadores.
Tony Wu e Jimmy Ba renunciaram à empresa que fundaram com Elon Musk há menos de três anos. Suas saídas são as mais recentes em um êxodo da empresa, que agora conta com apenas metade de seus 12 cofundadores. Em sua despedida, Jimmy Ba afirmou que 2026 seria “O ano mais importante para a nossa espécie.”
Empresas de inteligência artificial de ponta estão se expandindo rapidamente, competindo agressivamente e implantando sistemas cada vez mais poderosos sob intensa pressão comercial e geopolítica.
A rotatividade de liderança em um ambiente como esse não significa automaticamente um colapso. No entanto, as saídas constantes de membros da equipe fundadora durante uma corrida de crescimento inevitavelmente levantam questões sobre o alinhamento interno e a direção a longo prazo.
A competição global em inteligência artificial entre os Estados Unidos e a China transformou o desenvolvimento de modelos em uma prioridade estratégica. Nessa corrida, a moderação acarreta um custo competitivo.
Entretanto, Dario Amodei, CEO da Anthropic, afirmou que a inteligência artificial poderia eliminar metade de todos os empregos de escritório. Em um post recente, ele alertou que as ferramentas de IA de “poder quase inimaginável” eram “iminente“e que os bots iriam”testar quem somos como espécie“.
A coordenação global de segurança da IA também está se fragmentando.
A incerteza vai além das empresas individuais. O Relatório Internacional de Segurança da IA de 2026, uma avaliação multinacional dos riscos das tecnologias de ponta, foi divulgado sem o apoio formal dos Estados Unidos, de acordo com reportagem da [nome da empresa/instituição]. DE ESPERA. Nos anos anteriores, Washington havia sido publicamente associado a iniciativas semelhantes. Embora as razões para a mudança pareçam ser políticas e processuais, e não uma rejeição ideológica, o desenvolvimento destaca, ainda assim, um cenário internacional cada vez mais fragmentado em torno da governança da IA.
Ao mesmo tempo, pesquisadores renomados como Yoshua Bengio expressaram publicamente preocupação com o fato de os modelos apresentarem comportamentos diferentes durante a avaliação em comparação com a implantação normal. Essas observações estão em consonância com as próprias descobertas da Anthropic a respeito da consciência da avaliação e reforçam a preocupação mais ampla de que os mecanismos de supervisão existentes podem não captar totalmente o comportamento no mundo real.
A coordenação internacional em inteligência artificial sempre foi frágil, dada a importância estratégica da tecnologia. Com a intensificação da competição geopolítica, particularmente entre os Estados Unidos e a China, as estruturas de cooperação em segurança enfrentam pressões estruturais. Num ambiente em que a liderança tecnológica é encarada como um imperativo de segurança nacional, os incentivos para desacelerar o desenvolvimento em nome da cautela multilateral são limitados.
É difícil ignorar o padrão.
Analisados isoladamente, cada desenvolvimento recente pode ser interpretado como uma turbulência rotineira em um setor em rápida evolução. Pesquisadores seniores ocasionalmente se demitem. Fundadores de startups abandonam seus cargos. Governos ajustam suas posições diplomáticas. Empresas publicam pesquisas que identificam limitações em seus próprios sistemas.
Em conjunto, porém, esses eventos formam um padrão mais coerente. Profissionais de segurança de alto escalão estão se afastando, ao mesmo tempo que alertam para o aumento do risco global. Modelos de vanguarda demonstram comportamentos que comprometem a confiança nas estruturas de teste existentes. Há instabilidade na liderança em empresas que correm para implantar sistemas cada vez mais sofisticados. Enquanto isso, os esforços de coordenação global parecem menos unificados do que em ciclos anteriores.
Nenhum desses fatores isoladamente constitui prova de fracasso iminente. No entanto, em conjunto, sugerem que os responsáveis internos pela tecnologia estão lidando com desafios que permanecem sem solução, mesmo com o avanço acelerado das capacidades. A tensão entre velocidade e contenção deixou de ser teórica; ela se manifesta em decisões de pessoal, divulgações de pesquisas e postura diplomática.
Pensamento final
A renúncia do pesquisador sênior de salvaguardas da Anthropic, o reconhecimento de que modelos podem alterar o comportamento sob avaliação, a instabilidade de liderança entre laboratórios concorrentes e o afrouxamento da coordenação internacional apontam para um setor que avança a uma velocidade extraordinária, enquanto ainda enfrenta desafios fundamentais de controle. Nenhum desses acontecimentos isoladamente confirma uma crise, mas, em conjunto, sugerem que a capacidade tecnológica está avançando mais rápido do que as instituições criadas para governá-la. Se o equilíbrio entre poder e supervisão poderá ser restaurado permanece incerto, e essa incerteza é precisamente o que torna o alerta de Sharma difícil de ignorar.