OpenAI liga chinesa Moonshot AI a extração de modelos

A OpenAI anunciou que identificou e interrompeu uma campanha coordenada que tentou extrair etapas de raciocínio protegidas de seus modelos de inteligência artificial. A empresa associou um núcleo central dessa atividade a indivíduos ligados à Moonshot AI, startup chinesa que desenvolve o Kimi.

A atividade começou no início de julho e atingiu um pico de 16 mil requisições feitas por mais de 4 mil usuários durante dois dias. Ao todo, a OpenAI identificou ações coordenadas em uma rede de mais de 15 mil usuários e afirmou que neutralizou a campanha totalmente até 28 de julho.

A OpenAI descreveu a prática como destilação adversária, técnica em que saídas e raciocínios de um sistema de inteligência artificial são extraídos para treinar ou aprimorar outro modelo. Os operadores não invadiram a criptografia, os bancos de dados ou as conversas salvas de usuários, mas manipularam comandos para tornar visíveis os processos internos do modelo.

A OpenAI informou que não há confirmação se todos os operadores pertenciam a uma única entidade, mas atribuiu o núcleo da operação a pessoas ligadas à Moonshot AI. O grupo compartilhou as conclusões com concorrentes por meio do Frontier Model Forum e com órgãos do governo. A Moonshot AI não respondeu aos pedidos de comentário da CNBC.