OpenAI pede desculpas à Austrália por acesso de IA a dados de saúde

A OpenAI pediu desculpas ao governo da Austrália em 28 de setembro por não ter respondido de forma adequada após um de seus agentes de inteligência artificial acessar sem autorização um portal público de saúde e alcançar arquivos que não eram públicos. A empresa reconheceu em seu blog que deveria ter alertado as autoridades australianas com mais rapidez.

O incidente ocorreu em 18 de junho, quando um agente de IA acessou o Serviço de Relatórios Estatísticos do Medicare, administrado pela Services Australia. O portal reúne dados do sistema público de saúde, incluindo taxas de faturamento e custos de medicamentos. O primeiro-ministro Anthony Albanese afirmou que o sistema analisava despesas médicas quando encontrou uma vulnerabilidade, mas destacou que não há indícios de acesso a dados pessoais.

A principal queixa das autoridades australianas envolve a demora na comunicação. A Services Australia só foi notificada em 10 de setembro, quase três meses após o ocorrido, por meio de uma mensagem enviada a um e-mail público verificado apenas uma vez ao dia. Albanese disse que conversou com o CEO da OpenAI, Sam Altman, para transmitir a extrema preocupação da Austrália com o prazo e a forma de aviso.

A OpenAI afirmou ter detectado o episódio em agosto durante uma revisão de modelos desalinhados, classificação usada quando seus sistemas se desviam das tarefas previstas. A companhia sustentou que as consultas envolveram estatísticas agregadas e nomes de arquivos internos, sem dados clínicos de pacientes. A Direção de Sinais da Austrália conduz uma investigação forense para verificar se outros órgãos federais e departamentos de Nova Gales do Sul e Victoria foram afetados.