Tenstorrent ja Smallest.ai lanseeraavat paikan päällä toimivan tuotantotason ääni-AI-alustan

Kuva: Tenstorrent · Lähde

Tenstorrent ja Smallest.ai yhteistyössä tarjoavat paikan päällä toimivan ääni-AI-järjestelmän, joka käyttää Smallest.ai:n Lightning V2 -mallia Tenstorrent Galaxy Blackhole -palvelimilla mahdollistaen kustannustehokkaat reaaliaikaiset ääniosovellukset täydellisellä datan hallinnalla.

Tenstorrent, tekoälyn laskentayritys, teki yhteistyötä tekoälytutkimuslaboratorio Smallest.ai:n kanssa tuodakseen tuotantotason paikan päällä toimivan ääni-AI-ratkaisun. Tämä ratkaisu pyörittää Smallest.ai:n Lightning V2 -reaaliaikatekstistä puheeksi -mallia natiivisti Tenstorrent Galaxy Blackhole -palvelimilla, tukeen yrityskoon ääni-AI:ta korkealla suorituskyvyllä ja pienemmillä käyttöönoton kustannuksilla. Ääni-AI:n käyttöönotto vaatii tyypillisesti kompromisseja laadun, kustannusten ja datan hallinnan välillä. Tämä kumppanuus mahdollistaa yritysten ajaa reaaliaikaisia ääniagentteja kokonaan paikan päällä, säilyttäen datan suvereniteetin tinkimättä tehokkuudesta. Tenstorrentin mukaan heidän arkkitehtuurinsa tarjoaa jopa nelinkertaiset tehokkuushyödyt murto-osalla vastaavien GPU-kustannuksista, muuttaen inferenssin taloutta.