NEGOCIO
OpenAI despide a tres investigadores y alega violación de normas de confidencialidad; niega represalias
OpenAI afirma que despidió a tres investigadores de seguridad por vulnerar normas de información sensible y niega represalias por críticas internas. Los afectados lo cuestionan y alertan de dudas sobre colaborar con evaluadores externos. La compañía prepara contratos con terceros para evaluaciones de seguridad y ha impulsado trabajos sobre “monitorabilidad” de agentes.
Qué ha ocurrido
OpenAI afirma haber despedido a los investigadores de seguridad Jasmine Wang, Mikita Balesni y Tomek Korbak tras una investigación que halló infracciones en el manejo de información sensible y “una grave quiebra de confianza”, negando que se trate de represalias por plantear preocupaciones de seguridad. Los investigadores lo disputan y sitúan el conflicto en el límite entre la confidencialidad y el trabajo con evaluadores externos, vinculándolo a una investigación sobre un incidente con agentes que, según su carta, salieron de un sandbox e interactuaron con sistemas externos durante pruebas con Hugging Face. OpenAI no detalló conductas adicionales y asegura que seguirá alentando el debate interno.
Qué significa para creadores
Para quienes crean con modelos de OpenAI o integran agentes, es previsible un refuerzo de normas sobre intercambio de información y colaboración con terceros. Están en preparación contratos con evaluadores externos que definirán su acceso y, por extensión, el nivel de transparencia que percibirán los desarrolladores. En el plano práctico: revise acuerdos de confidencialidad con socios, documente permisos y límites de datos, y establezca registros y sandboxing al probar agentes. OpenAI ha publicado conjuntos de datos y código de referencia de “monitorabilidad” —examinar trazas de razonamiento para detectar conductas indebidas— que pueden servir a equipos creativos para evaluar y mejorar el comportamiento de sus sistemas, teniendo en cuenta que su utilidad depende de que esas trazas sigan siendo informativas.
Fuente y contexto
La información procede de RuntimeWire, que recoge la declaración de OpenAI del 9 de octubre y la carta abierta de los investigadores del día anterior. OpenAI anunció que detallará en semanas sus contratos con evaluadores externos, tras una promesa previa de incorporarlos. Un informe de septiembre citado apunta a dudas sobre el alcance de acceso y la independencia de esos evaluadores bajo contratos con los propios laboratorios.