Tenstorrent i Smallest.ai uruchamiają lokalny produkcyjny stack AI głosowej

Image: Tenstorrent · Source

Tenstorrent i Smallest.ai połączyły siły, aby zaoferować lokalny system AI głosowej działający na modelu Lightning V2 Smallest.ai na serwerach Tenstorrent Galaxy Blackhole, umożliwiając ekonomiczne aplikacje głosowe w czasie rzeczywistym z pełną kontrolą nad danymi.

Tenstorrent, firma zajmująca się obliczeniami dla AI, nawiązała współpracę z laboratorium badawczym AI Smallest.ai, aby dostarczyć produkcyjny stack AI głosowej działający lokalnie (on-premises). Rozwiązanie to natywnie uruchamia model do syntezy mowy w czasie rzeczywistym Lightning V2 Smallest.ai na serwerach Tenstorrent Galaxy Blackhole, wspierając głosową AI w skali przedsiębiorstw z wysoką wydajnością i obniżonymi kosztami wdrożenia. Wdrażanie AI głosowej zwykle wymaga kompromisów między jakością, kosztami i kontrolą nad danymi. To partnerstwo umożliwia firmom uruchamianie agentów głosowych w czasie rzeczywistym całkowicie lokalnie, zachowując suwerenność danych bez utraty efektywności. Według Tenstorrent ich architektura oferuje do czterokrotnie większą wydajność przy ułamku kosztów porównywalnych GPU, przekształcając ekonomię inferencji.