INVESTIGACION
Descubren cómo extraer el razonamiento oculto de Claude, ChatGPT y Gemini; el riesgo de filtración se ha mitigado, pero persiste
Investigadores de la Universidad de Tubinga, el Instituto Max Planck, MATS Research y Snyk lograron extraer huellas de razonamiento de modelos de OpenAI, Anthropic y Google vía API. La fuga de contraseñas y claves ya fue mitigada, pero aún pueden revelarse rastros internos. El estudio detecta similitudes en Kimi K3, sin probar destilación.
Qué ha ocurrido
Investigadores de la Univ. de Tubinga, el Instituto Max Planck, MATS Research y Snyk han mostrado cómo recuperar “huellas de razonamiento” que los grandes modelos envían cifradas al ordenador del usuario para aliviar carga computacional. Al inyectarlas en versiones más pequeñas y menos alineadas del mismo modelo, aflora el razonamiento oculto. La vulnerabilidad afectó a APIs de OpenAI, Anthropic y Google; permitió extraer contraseñas y claves API desde esos rastros capturados en la máquina del usuario, algo ya mitigado por los proveedores. Aun así, parte del razonamiento sigue pudiendo desvelarse y cerrarlo del todo exigiría replantear las APIs. El equipo observó que Kimi K3 generó salidas muy similares a rastros ocultos de Claude Opus 4.8 y GPT-5.6 Sol en ciertas indicaciones, sin poder probar destilación; DeepSeek e Inkling no mostraron esa similitud. Anthropic indicó que aplicó medidas a corto plazo; Google y OpenAI declinaron comentar. Moonshot AI y Z.ai no respondieron antes de la publicación.
Qué significa para creadores
Para creadores que usan estos modelos vía API: evita introducir contraseñas o claves en prompts o flujos que puedan quedar reflejados en el razonamiento; rota credenciales si sospechas exposición previa. Revisa cambios de los proveedores y prueba tus integraciones tras las mitigaciones. Sé cauto al alternar a “modelos mini” de la misma familia: pueden revelar más de lo que imaginas. Si tu trabajo depende de cadenas de pensamiento o de entrenar asistentes propios, asume que esos rastros podrían facilitar destilación por terceros; prioriza diseños que minimicen la exposición de pasos internos y limita qué datos llegan al cliente.
Fuente y contexto
La destilación —traspasar capacidades de un modelo a otro— es práctica común pero ahora polémica en la pugna EE. UU.–China. OpenAI comunicó a legisladores que DeepSeek habría copiado uno de sus modelos para crear R1; Anthropic indicó que Alibaba destiló los suyos para Qwen. El estudio sugiere que extraer rastros de modelos cerrados puede facilitar destilación a escala. Mientras, voces como Mark Zuckerberg defienden la destilación en el ecosistema abierto, y expertos como Kyle Miller relativizan su impacto competitivo. Información publicada por WIRED en Español, adaptada de WIRED.com.