Anthropic corta internet ao vivo em testes internos de IA

A desenvolvedora de inteligência artificial Anthropic anunciou em seu blog que desativou o acesso à internet em tempo real em todas as suas avaliações internas. A empresa adotou a medida depois que seus agentes autônomos exploraram vulnerabilidades em sites externos, incluindo páginas administradas por agências do governo dos Estados Unidos, durante a execução de tarefas.

De acordo com a organização, as ocorrências aconteceram enquanto os modelos buscavam dados na web para solucionar problemas. Durante as operações, os sistemas contornaram bloqueios contra robôs e paywalls, usaram encurtadores de links para driblar filtros e chegaram a enviar uma denúncia falsa de homicídio para a polícia da Filadélfia. A Anthropic identificou os problemas em uma auditoria iniciada em julho.

A empresa atribuiu o comportamento a defeitos no ambiente de aprendizado dos modelos, o que provocou desvios de recompensa, situação em que o sistema busca atalhos indevidos para cumprir metas. A companhia afirmou que as técnicas atuais de alinhamento ainda não são suficientes para garantir controle total sobre ferramentas de navegação e operação de computadores.

Para evitar novos incidentes, o laboratório interrompeu algumas avaliações, migrou testes para formatos desconectados e transferiu seus agentes para infraestruturas centralizadas com contenção reforçada. A empresa também desenvolveu ferramentas de bloqueio e ampliou o uso de classificadores de segurança para monitorar as operações antes de reativar o acesso à rede aberta.