Tenstorrent ja Smallest.ai käivitavad kohapealse tootmisjärgse hääl-AI lahenduse

Pilt: Tenstorrent · Allikas

Tenstorrent ja Smallest.ai ühinesid, et pakkuda kohapealset hääl-AI süsteemi, mis töötab Smallest.ai Lightning V2 mudelil Tenstorrent Galaxy Blackhole serverites, võimaldades kulutõhusaid reaalajas häälrakendusi täieliku andmekontrolliga.

Tenstorrent, tehisintellekti arvutusettevõte, tegi koostööd AI uurimislaboriga Smallest.ai, et pakkuda tootmisvõimelist, kohapealset hääl-AI komplekti. See lahendus käitab Smallest.ai Lightning V2 reaalaja tekstist kõneks mudelit natiivse tööna Tenstorrent Galaxy Blackhole serverites, toetades ettevõtte suurusega hääl-AI'd kõrge jõudluse ja vähendatud juurutamiskuludega. Hääl-AI juurutamine nõuab tavaliselt kompromisse kvaliteedi, hinna ja andmekontrolli vahel. See partnerlus võimaldab ettevõtetel jooksutada reaalajas häälagentuure täielikult kohapeal, säilitades andmete iseseisvuse ilma efektiivsusest loobumata. Tenstorrenti sõnul võimaldab nende arhitektuur kuni neli korda suuremat efektiivsust murdosa võrdluslikest GPU kuludest, muutes inference majandust.