Tenstorrent och Smallest.ai lanserar lokal produktionsklassad röst-AI-lösning

Bild: Tenstorrent · Källa

Tenstorrent och Smallest.ai har samarbetat för att erbjuda ett lokalt röst-AI-system som kör Smallest.ais Lightning V2-modell på Tenstorrent Galaxy Blackhole-servrar, vilket möjliggör kostnadseffektiva röstapplikationer i realtid med full kontroll över data.

Tenstorrent, ett företag inriktat på AI-beräkningar, samarbetade med AI-forskningslaboratoriet Smallest.ai för att leverera en produktionsklassad röst-AI-stack för lokala installationer. Denna lösning kör Smallest.ais Lightning V2-modell för text-till-tal i realtid inbyggt på Tenstorrent Galaxy Blackhole-servrar och stöder röst-AI i företagsstor skala med hög prestanda och minskade driftskostnader.

Att implementera röst-AI brukar innebära kompromisser mellan kvalitet, kostnad och datakontroll. Detta partnerskap möjliggör för företag att köra röstagenter i realtid helt lokalt, vilket bevarar datasuveräniteten utan att offra effektivitet.

Enligt Tenstorrent erbjuder deras arkitektur upp till fyra gånger förbättrad effektivitet till en bråkdel av kostnaden för jämförbara GPU:er, vilket omformar ekonomin kring inferensprocesser.