OpenAI propone estándares globales para controlar la IA recursiva

OpenAI propuso el 21 de septiembre de 2026 un conjunto de estándares globales para guiar el desarrollo seguro de la inteligencia artificial de frontera. En un artículo de blog reportado por CNBC, la compañía defendió la cooperación internacional y recomendó apoyarse en los institutos de seguridad de IA. Su propuesta apunta a la investigación sobre alineamiento y a la gestión de riesgos en sistemas con capacidad de mejora recursiva autónoma (RSI).

La técnica de RSI permite que los modelos fundacionales se perfeccionen sin intervención humana, lo que despierta temores entre especialistas sobre una eventual pérdida de supervisión técnica. OpenAI afirmó en su publicación que la RSI totalmente autónoma no ocurre hoy en día y sostuvo que no debe buscarse hasta que pueda implementarse de manera segura. Como ejemplo de riesgos que podrían agravarse sin salvaguardas, la firma mencionó un ataque al agente de Hugging Face, incidente que no involucró RSI.

La iniciativa llega tras advertencias recientes dentro de la industria tecnológica. Jacob Coxon, investigador con trayectoria previa en OpenAI y Anthropic, renunció unas dos semanas antes afirmando que las empresas del sector apostaban con la vida de las personas. Poco después, el CEO de Anthropic, Dario Amodei, publicó un ensayo donde pidió frenar el ritmo de desarrollo e integrar evaluadores externos para auditar riesgos vinculados a ciberataques y armas biológicas. El CEO de OpenAI, Sam Altman, y el CEO de Tesla y SpaceX, Elon Musk, respaldaron en público la propuesta de Amodei.

La evaluación independiente de sistemas avanzados todavía carece de consensos metodológicos. Ante esto, una coalición de evaluadores de IA busca que las empresas concedan acceso técnico profundo a sus modelos y garanticen protección contra represalias para quienes publiquen informes desfavorables.