Tenstorrent un Smallest.ai launche ražošanas līmeņa balss AI risinājumu uz vietas

Attēls: Tenstorrent · Avots

Tenstorrent un Smallest.ai sadarbojās, lai piedāvātu uz vietas darbināmu balss AI sistēmu, kas izmanto Smallest.ai Lightning V2 modeli uz Tenstorrent Galaxy Blackhole serveriem, nodrošinot efektīvas reāllaika balss lietojumprogrammas ar pilnīgu datu kontroli.

Tenstorrent, mākslīgā intelekta aprēķinu uzņēmums, sadarbojās ar AI pētniecības laboratoriju Smallest.ai, lai nodrošinātu ražošanas līmeņa uz vietas balss AI platformu. Šis risinājums natīvi darbojas uz Tenstorrent Galaxy Blackhole serveriem, izmantojot Smallest.ai Lightning V2 reāllaika teksta runā modeli, atbalstot uzņēmuma līmeņa balss AI ar augstu veiktspēju un samazinātām izvietošanas izmaksām. Balss AI izvietošana parasti prasa kompromisus starp kvalitāti, izmaksām un datu kontroli. Šis sadarbības projekts ļauj uzņēmumiem pilnībā palaist reāllaika balss aģentus uz vietas, saglabājot datu suverenitāti, nezaudējot efektivitāti. Pēc Tenstorrent teiktā, tā arhitektūra nodrošina līdz četrreiz lielāku efektivitāti par nelielu daļu no salīdzināmo GPU izmaksām, pārveidojot inferenču ekonomiku.