HERRAMIENTAS
Dan Luu: los agentes de código aceleran el desarrollo, pero no corrigen la “ceguera a bugs”
El ingeniero Dan Luu publica “Bug Blindness”, donde sostiene que muchos equipos dejan de percibir fallos al convertir sus apaños en parte del flujo. Los agentes de código aceleran la entrega sin mejorar el juicio. Propone usar LLMs como “usuarios” para reproducir problemas y tratar los atajos y pausas como datos de producto.
Qué ha ocurrido
Dan Luu publicó el 30 de agosto el ensayo “Bug Blindness”, donde describe cómo los equipos interiorizan atajos y rituales que ocultan defectos a sus propios ojos. Cita ejemplos cotidianos (tiempos y búsquedas en Google Docs; desactivar el Wi‑Fi para iniciar sesión en Microsoft) y afirma que sortea centenares de fallos en una semana típica. Advierte que los agentes de código multiplican la producción de cambios sin aportar el juicio necesario para decidir qué está roto y si una corrección mejora la experiencia. A la vez, sugiere que los LLMs pueden comportarse como distintos tipos de usuarios para reproducir problemas, aunque las decisiones sobre qué fallos importan siguen siendo humanas.
Qué significa para creadores
Si desarrollas productos o flujos con IA, trata los apaños como datos de producto: una pausa compartida del equipo señala un problema de temporización; un “ritual” de acceso apunta a autenticación frágil. Antes de lanzar, usa LLMs como usuarios variados para descubrir comportamientos inesperados y pide a los expertos que narren los pasos que hacen sin pensar: esos gestos ocultan deuda de usabilidad. Cuando el código es barato, observar a personas nuevas vale más. Define explícitamente qué fallos cuentan y evita confundir maña interna con producto usable.
Fuente y contexto
Luu basa su diagnóstico en años depurando sistemas: trabajó ocho años en Centaur Technology (x86 y validación), fue el segundo ingeniero en el proyecto que derivó en el TPU de Google y después en la infraestructura de búsqueda BitFunnel de Microsoft, con experiencia previa en virtualización de red, hardware de deep learning y procesadores x86/ARM. Relata que directivos le pedían evaluar productos “funcionales” que dependían de rodeos no obvios. Su estimación de fallos sorteados es anecdótica, aunque ya documentó una semana de bugs. Concluye que los LLMs pueden ayudar a exponer reproducibilidad, pero la organización debe querer ver los problemas. Fuente: RuntimeWire.