OpenAI vincula a Moonshot AI con la extracción de datos

OpenAI informó que identificó y neutralizó una campaña coordinada que intentó extraer razonamientos protegidos de sus modelos de inteligencia artificial. La empresa vinculó un núcleo central de esa actividad con personas asociadas a Moonshot AI, la startup china creadora del asistente Kimi.

La actividad comenzó a principios de julio y alcanzó un pico de 16.000 solicitudes procedentes de más de 4.000 usuarios a lo largo de dos días. OpenAI detectó operaciones relacionadas en un grupo de más de 15.000 usuarios y afirmó que interrumpió por completo la campaña el 28 de julio.

OpenAI calificó la maniobra como destilación adversaria, un proceso en el que las respuestas o razonamientos de un modelo se extraen para entrenar o perfeccionar otro sistema. Los operadores no vulneraron el cifrado, las bases de datos ni las conversaciones guardadas de los usuarios, sino que manipularon las interacciones para forzar al modelo a mostrar sus pasos lógicos internos.

OpenAI señaló que no está claro si todos los operadores dependían de un único actor, pero atribuyó el núcleo de la actividad a personas vinculadas a Moonshot AI. La firma compartió sus conclusiones con otros desarrolladores a través del Frontier Model Forum y canales gubernamentales. Moonshot AI no respondió de inmediato a las consultas de CNBC.