Tenstorrent y Smallest.ai lanzan stack de IA de voz de grado producción on-premises

Image: Tenstorrent · Source

Tenstorrent y Smallest.ai se asociaron para ofrecer un sistema de IA de voz on-premises que ejecuta el modelo Lightning V2 de Smallest.ai en servidores Tenstorrent Galaxy Blackhole, permitiendo aplicaciones de voz en tiempo real rentables y con control total de datos.

Tenstorrent, compañía de cómputo para IA, se unió a Smallest.ai, laboratorio de investigación en IA, para entregar un stack de IA de voz de grado producción on-premises. Esta solución ejecuta nativamente el modelo de texto a voz en tiempo real Lightning V2 de Smallest.ai en servidores Tenstorrent Galaxy Blackhole, soportando IA de voz a escala empresarial con alto rendimiento y reducción en costos de despliegue. La implementación de IA de voz suele requerir compromisos entre calidad, costo y control de datos. Esta alianza permite a las empresas operar agentes de voz en tiempo real completamente on-premises, manteniendo la soberanía de datos sin sacrificar eficiencia. Según Tenstorrent, su arquitectura ofrece hasta cuatro veces más eficiencia a una fracción del costo de GPUs comparables, revolucionando la economía del procesamiento de inferencias.