Cactus Compute lanza Whistle, un modelo de voz a texto de 16,9 MB para ejecutarse en CPU local

Qué ha ocurrido

Cactus Compute lanzó el 2 de octubre Whistle, un modelo abierto de reconocimiento automático del habla de 16,9 MB diseñado para ejecutarse localmente en CPU y dentro del runtime Needle. Soporta inglés, alemán, francés, español, italiano, neerlandés y polaco; procesa audio mono de 16 kHz de hasta 30 segundos en una pasada; devuelve probabilidades y marcas temporales a nivel de palabra; permite sesgar el reconocimiento con listas de palabras clave; puede generar embeddings sin transcripción; y devuelve vacío ante silencios o ruido constante. La empresa publica arquitectura (log-mel, tronco convolucional, encoder de ocho bloques y decoder con cross-attention con compuertas) y compatibilidad con 17 destinos de plataforma. En pruebas propias en CPU Apple M4 Pro afirma 11,1 ms hasta el primer token y 1.319 tokens/s, frente a 73,2 ms y 266 para Whisper base; también difunde métricas en LibriSpeech, FLEURS, SPGISpeech y Earnings-22, con resultados mixtos y sin reproducción independiente.

Qué significa para creadores

Para creadores, ofrece subtitulado y dictado en portátil o móvil sin depender de la nube, con menor latencia y privacidad en origen. Las marcas por palabra facilitan edición y navegación; el sesgo por palabras clave ayuda con nombres propios y términos de nicho; y la salida vacía evita falsos positivos en silencios. Hay límites: 7 idiomas y 30 s por pasada, por lo que habrá que trocear audio largo. Los benchmarks y la velocidad son cifras de la empresa; probad vuestro acento, ruido y dispositivo. El runtime Needle permite encadenar Whistle con modelos de herramientas locales (Needle 2) para que un clip derive en llamadas estructuradas. La instalación vía Python se ofrece como cactus-needle y existe un comando de comparación con Whisper y Moonshine para evaluar tiempos.

Fuente y contexto

Información original de RuntimeWire sobre Whistle y los materiales técnicos de Cactus Compute (hilo en X y post de lanzamiento). Los resultados de precisión y rendimiento los reporta la empresa; su propia página indica que Whisper base gana en TED-LIUM, AMI y la media de MLS, y que el test de WER cubre 86.174 enunciados. La cifra de velocidad corresponde a una prueba con 10 s de audio en CPU Apple M4 Pro y no generaliza a todos los dispositivos. La propuesta de Cactus Compute, liderada por Henry Ndubuaku (CTO) y Roman Shemet (CEO), es llevar IA útil al propio dispositivo.