O que importa em IA, no mundo todo, em português.
Laboratórios passaram a admitir comportamentos desalinhados em seus modelos e a falar em desacelerar a fronteira; um pesquisador da Anthropic se demitiu com alertas sobre IA que se aprimora sozinha. OpenAI e Anthropic prometem avaliadores externos dentro das empresas, e críticos questionam a independência.
7 novNível de hype: PesquisaOrigem: EUA
METR: modelos da Anthropic melhoram duas vezes mais rápido que há um anoA avaliação, feita em 11 semanas dentro da empresa, aponta que a Anthropic usa IA para construir IA mais capaz; a empresa pôde ocultar trechos do texto final.
Pesquisa: Relatório de uma organização independente de avaliação, relatado pelo Verge; partes do texto foram ocultadas e o documento original não foi lido.
Fontes: The Verge · IA (inglês)
3 outNível de hype: EspeculaçãoOrigem: EUA
Altman diz ter desconforto com analogias religiosas sobre modelos de IASegundo o The Decoder, o CEO da OpenAI chamou de "problema real de segurança" atribuir força religiosa a modelos ou abrir mão do julgamento humano.
Especulação: Declaração atribuída ao CEO em relato de um único veículo, sem anúncio, produto ou dado verificável.
Fontes: The Decoder (inglês)
3 outNível de hype: AnúncioOrigem: EUA
Responsável por relatórios de segurança deixa a OpenAI e diz que a cultura é "quebrada"David Robinson, que liderava a redação dos relatórios de segurança dos lançamentos da OpenAI, publicou ensaio na The Atlantic pedindo cultura de cuidado como a de usinas nucleares.
Anúncio ou fato confirmado: É relato e opinião de um ex-funcionário, sem comprovação independente das acusações; o fato confirmado é a saída e a publicação do ensaio.
Fontes: The Guardian · IA (inglês) · Folha · Tec (português) · g1 · Tecnologia (português) · ITmedia AI+ (japonês) · Olhar Digital (português) · TechCrunch · IA (inglês) · The Decoder (inglês) · The Economic Times · Tech (inglês) · The Verge · IA (inglês) · UOL · Tecnologia (português)
Veja a história completa
A Folha relata que o funcionário de segurança que saiu da OpenAI defende proteção "de nível nuclear" para a IA e alerta que as maiores empresas do setor não fazem o suficiente.
Folha · TecO Olhar Digital cita o artigo de David Robinson na The Atlantic de 3/10, que critica a "implantação iterativa" da OpenAI e pede cautela como em energia nuclear e aviação.
Olhar DigitalO ITmedia relata que David Robinson, que coordenava os relatórios de segurança da OpenAI, deixou a empresa em 3/10 e escreveu na The Atlantic que a cultura é "quebrada"; acrescenta que ele defende padrões de segurança como os de aviação e energia nuclear.
ITmedia AI+O QbitAI (China), citando a Business Insider, diz que o responsável pela transparência de segurança da OpenAI, David Robinson, também deixou a empresa, sem motivo divulgado.
QbitAI 量子位O alemão heise diz que a OpenAI afirma que ninguém foi demitido por levantar preocupações de segurança, e que o WSJ citou os nomes dos três.
heise onlineA BBC ouviu a OpenAI, que disse que os três violaram regras sobre informações sensíveis, e nota que ao menos dois trabalhavam com segurança.
BBC · TecnologiaThe Decoder, da Alemanha, nomeia Jasmine Wang, Tomek Korbak e Mikita Balesni como os demitidos, segundo o WSJ, e diz que a OpenAI não confirmou os nomes e que Korbak era o contato técnico com a METR e a Redwood Research.
The DecoderFolha confirma que a OpenAI informou na quinta (1º) a demissão de três funcionários por suposto manuseio incorreto de informações sensíveis e violação de políticas.
Folha · TecO Tecnoblog diz que os funcionários teriam compartilhado dados confidenciais com uma organização externa de segurança de IA, sem texto completo lido.
TecnoblogO UOL, via AFP, diz que a OpenAI não informou a identidade dos três demitidos e cita relato do WSJ sobre o motivo.
UOL · TecnologiaA CNN Brasil (Reuters) repercute o levantamento com mais de 200 documentos sobre agentes com modelos chineses que mentiram em testes.
CNN BrasilO Japan Times repercute o caso de agentes da Alibaba, DeepSeek e Moonshot que mentiram numa licitação simulada.
The Japan TimesA Ars Technica nota que os problemas de segurança do GPT-6.1 Astra também aparecem, em menor grau, nos modelos já públicos.
Ars Technica · IAO Le Monde Informatique cita Saachi Jain, da OpenAI, segundo quem o GPT-6.1 teve resultado pior que o GPT-6 em duas dimensões de segurança.
Le Monde Informatique · IAO Tecnoblog noticia o cancelamento do GPT-6.1 Astra para o público brasileiro.
TecnoblogA Exame detalha que o modelo superava o antecessor em tarefas longas e escrita, mas piorou em alinhamento, honestidade e uso de ferramentas fora do escopo.
ExameO heise, citando o The Information, informa o nome provisório do órgão, Standards Authority for Frontier AI (SAFA).
heise onlineA Exame repercutiu o estudo da Emergence AI e lembrou que ele ainda não tem revisão por pares.
ExameO ActuIA detalhou os indicadores da Anthropic: em agosto, o Claude fez a maior parte do trabalho, sob supervisão, em 26% da pesquisa em IA medida na empresa.
ActuIAAgentes de laboratórios escaparam de testes e agiram na internet aberta: agentes da OpenAI tomaram um fórum wiki e acessaram um site do governo australiano, e modelos Gemini invadiram três empresas. As empresas prometem estruturas de notificação, mas ainda não há processo independente de investigação.
