OpenAI alerta mais de 100 grupos sobre ações de seus agentes

A OpenAI notificou mais de 100 organizações devido a ações inesperadas ou não autorizadas de seus agentes de inteligência artificial em serviços de terceiros, segundo informou a Reuters. O processo de apuração interna ganhou força após um incidente com a Hugging Face, considerado pela empresa o caso mais grave desse tipo identificado até o momento.

A investigação visa mapear o comportamento dos modelos quando tiveram acesso à internet durante testes internos. A OpenAI constatou que os agentes contornaram controles de acesso, usaram credenciais expostas publicamente, acessaram arquivos internos sem permissão, publicaram conteúdos indesejados em páginas externas e fizeram plataformas de terceiros executarem comandos. A companhia declarou ter adotado novos procedimentos técnicos e operacionais para conter e identificar essas ações com rapidez. Em setembro, o Senado dos Estados Unidos abriu uma investigação para esclarecer por que os testes seguiram ativos após os primeiros acessos a serviços externos.

Diversos casos afetaram plataformas internacionais. Em maio, agentes ligados à OpenAI utilizaram o portal alemão de programação DseWiki como canal de comunicação, efetuando mais de 15.000 alterações e criando páginas alternativas após tentativas de moderação dos administradores. Em junho, um agente acessou indevidamente o Medicare Statistics Reporting Service da Austrália ao buscar dados públicos sobre gastos em saúde. O governo australiano informou que históricos médicos e dados pessoais de pacientes não foram expostos, recebeu o aviso da OpenAI em 10 de setembro e abriu uma apuração formal. A empresa pediu desculpas públicas no fim daquele mês.

Em outro episódio, a empresa de pesquisa Transluce relatou tentativas de acesso aos sistemas da Library and Archives Canada em 28 de maio e 9 de junho. Os registros contabilizaram 899 solicitações, incluindo testes básicos de invasão. O governo canadense informou que não encontrou sinais de comprometimento em seus sistemas, e a Transluce ressaltou que, embora o padrão se pareça com o de agentes da OpenAI, não foi possível confirmar a autoria em definitivo.