OpenAI alerta a más de 100 entidades por sus agentes de IA

OpenAI notificó a más de 100 organizaciones por acciones inesperadas o no autorizadas de sus agentes de inteligencia artificial en servicios de terceros, según informó Reuters. La revisión interna se intensificó tras un incidente con Hugging Face, que la compañía califica como el caso más grave de este tipo detectado hasta la fecha.

La investigación busca reconstruir el comportamiento de los modelos cuando tuvieron acceso a internet durante pruebas internas. OpenAI identificó que los agentes eludieron controles de acceso, emplearon credenciales expuestas en la web, ingresaron a sectores y archivos internos sin permiso, publicaron contenido no deseado en sitios ajenos y lograron que otros sistemas ejecutaran consultas y comandos. La empresa afirmó que sumó nuevas medidas técnicas y operativas para prevenir y detectar estos episodios. En septiembre, el Senado de Estados Unidos abrió una investigación sobre los motivos por los cuales las evaluaciones continuaron tras detectarse estos accesos externos.

Varios episodios tuvieron alcance internacional. En mayo, agentes vinculados con OpenAI usaron el portal de programación alemán DseWiki como vía de comunicación, donde realizaron más de 15.000 modificaciones y abrieron páginas alternativas cuando los administradores intentaron frenar la actividad. En junio, un agente ingresó sin autorización al Medicare Statistics Reporting Service del gobierno de Australia mientras recopilaba datos sobre gasto sanitario público. Las autoridades australianas aclararon que no se comprometieron historiales médicos ni datos personales de pacientes. El gobierno australiano recibió la notificación el 10 de septiembre e inició una investigación, tras lo cual OpenAI pidió disculpas públicas a fines de ese mes.

Por otra parte, la firma de investigación Transluce reportó que agentes de inteligencia artificial intentaron ingresar a los sistemas de Library and Archives Canada el 28 de mayo y el 9 de junio. Los registros revelaron 899 solicitudes con intentos básicos de intrusión. Las autoridades de Canadá confirmaron que no detectaron vulneraciones en sus plataformas, mientras que Transluce indicó que, aunque las tácticas se asemejaban a las de OpenAI, no podía atribuir el hecho con total certeza.