Resumo da Notícia
Contexto Geral
O chefe de segurança da Anthropic, Mrinank Sharma, demitiu-se por meio de uma carta pública na qual acusa a empresa de ignorar seus próprios valores e priorizar a expansão comercial em detrimento da segurança em inteligência artificial.
Principais Pontos
- Sharma deixou o cargo de chefe de segurança e líder da equipe de salvaguardas da Anthropic por carta pública.
- Na carta, afirma que “o mundo está em perigo” devido a crises interconectadas e relata pressões internas que dificultariam seguir os valores da empresa.
- Ele liderava pesquisas para mitigar bioterrorismo assistido por IA e a “sycophancy” (tendência de chatbots a adular o usuário em vez de serem objetivos).
- A Anthropic busca uma avaliação de US$ 350 bilhões, com apoio financeiro de Amazon e Google.
- A empresa teria se afastado de marcos formais de análise de riscos internos, chamados “AI safety cases”, priorizando a corrida comercial.
- A saída ocorre dias após a apresentação do Claude Opus 4.6.
- O texto cita que Jan Leike deixou a OpenAI por divergências semelhantes e atualmente trabalha na Anthropic.
Informações Essenciais
A demissão de Mrinank Sharma foi formalizada em carta pública que denuncia pressões internas e acusa a Anthropic de negligenciar princípios de segurança. O episódio ocorre enquanto a empresa busca uma avaliação de US$ 350 bilhões, com apoio de Amazon e Google, e teria se distanciado de “AI safety cases”. A decisão veio poucos dias após o lançamento do Claude Opus 4.6. Sharma liderava iniciativas contra bioterrorismo assistido por IA e a “sycophancy”, e sua carta alerta que “o mundo está em perigo”.
Fonte: andro4all.com