REGULACION
OpenAI, Anthropic y Hugging Face piden en la ONU controles globales ante riesgos de la IA
Directivos de OpenAI, Anthropic y Hugging Face, junto a Yoshua Bengio, alertaron ante el Consejo de Seguridad de la ONU sobre los riesgos de una IA avanzada y pidieron controles y coordinación internacional. António Guterres respaldó la necesidad de salvaguardas comunes. Se debatió el papel del código abierto y la brecha entre usos beneficiosos y maliciosos.
Qué ha ocurrido
En una sesión del Consejo de Seguridad celebrada durante la Asamblea General de la ONU, Yoshua Bengio y los CEOs de Anthropic (Dario Amodei), OpenAI (Sam Altman) y Hugging Face (Clément Delangue) reclamaron controles urgentes para los sistemas de IA avanzados. Advirtieron riesgos globales —incluida la posibilidad de perder el control— y pidieron transparencia; Delangue defendió el código abierto. António Guterres instó a coordinar salvaguardas e intercambio de información entre países.
Qué significa para creadores
Para creadores en España, estas señales apuntan a un entorno con más requisitos de seguridad y transparencia en las herramientas de IA que utilizáis. Pueden llegar estándares comunes y controles internacionales, lo que implicaría revisar flujos de trabajo, documentación y cumplimiento. El foco en código abierto sugiere opciones con mayor auditabilidad; a la vez, la brecha entre usos “buenos” y “malos” invita a reforzar prácticas de ciberseguridad y verificación de contenidos.
Fuente y contexto
Información basada en un artículo de WIRED en Español sobre las intervenciones ante la ONU de Bengio, Amodei, Altman y Delangue, y sobre los llamados de António Guterres a la coordinación global. El texto también recoge voces escépticas que ven el alarmismo como una estrategia para influir en la regulación. Más detalles: https://es.wired.com/articulos/podriamos-perder-el-control-del-futuro-openal-y-anthropic-alertan-ante-la-onu-sobre-los-riesgos-de-la-ia