Tenstorrent og Smallest.ai lanserer lokal produksjonsklar stemme-AI-løsning

Bilde: Tenstorrent · Kilde

Tenstorrent og Smallest.ai har inngått partnerskap for å tilby et lokalt stemme-AI-system som kjører Smallest.ai sin Lightning V2-modell på Tenstorrent Galaxy Blackhole-servere, og muliggjør kostnadseffektive sanntids stemmeapplikasjoner med full datakontroll.

Tenstorrent, et AI-databehandlingsselskap, samarbeidet med AI-forskningslaboratoriet Smallest.ai om å levere en produksjonsklar, lokal stemme-AI-løsning. Denne løsningen kjører Smallest.ai sin Lightning V2 sanntids tekst-til-tale-modell nativt på Tenstorrent Galaxy Blackhole-servere, og støtter stemme-AI i bedriftsstørrelse med høy ytelse og reduserte distribusjonskostnader.

Å distribuere stemme-AI krever vanligvis kompromisser mellom kvalitet, kostnad og datakontroll. Dette partnerskapet gjør det mulig for selskaper å kjøre sanntids stemmeagenter helt lokalt, og opprettholde datasuverenitet uten at det går på bekostning av effektiviteten.

I følge Tenstorrent tilbyr deres arkitektur opptil fire ganger effektiviseringsgevinst til en brøkdel av kostnadene sammenlignet med tilsvarende GPU-er, noe som endrer økonomien for inferens.