Nvidia investerer 14 millioner dollar i indiske startup Simplismart for å optimalisere distribusjon av AI-modeller

Bilde: TechCrunch · Kilde

Nvidia ledet en investering på 14 millioner dollar i Bengaluru-baserte Simplismart, hvis programvare gjør det mulig for selskaper å kjøre AI-modeller mer effektivt med tilpasset GPU-bruk, noe som øker ytelsen samtidig som kostnadene reduseres.

Etter hvert som etterspørselen etter AI-applikasjoner øker, står selskaper overfor større utfordringer med å distribuere AI-modeller kostnadseffektivt i stor skala. Nvidia, en ledende leverandør av AI-brikker, har tatt en betydelig eierandel i den indiske oppstarten Simplismart, og bidratt til en Serie B-finansieringsrunde på 14 millioner dollar som verdsetter det fire år gamle selskapet til omtrent 100 millioner dollar. Runden inkluderte også investorer som Accel, Shastra VC, Micromax og Dallas Venture Capital.

Simplismart spesialiserer seg på programvare som automatiserer og optimerer hvordan AI-modeller kjører på eksisterende GPU-infrastruktur. I motsetning til generiske løsninger som kun fokuserer på hastighet eller kostnad, tilpasser Simplismarts plattform distribusjonskonfigurasjoner basert på hver kundes spesifikke ytelses- og kostnadskrav. Programvaren håndterer avveininger mellom inferenshastighet, forespørselsvolum og GPU-forbruk, slik at organisasjoner kan bruke sine nåværende GPU-ressurser mer effektivt.

Det Bengaluru-baserte selskapet tilbyr plattformen som en frittstående tjeneste eller integrert med kunders sky- og lokale oppsett. Det leverer også verktøy for finjustering av modeller, automatisk ressurs-skalerering og sanntidsovervåking av ytelse. I tillegg lisensierer Simplismart teknologi til skyløsninger som Indias Yotta, for å støtte serverløse AI-inferenstjenester.

Blant Simplismarts kunder er AI-videoprodusenter som InVideo, HeyGen og Higgsfield, samt bedriftsoppstarten Ema. InVideo rapporterte en 56 % reduksjon i GPU-serverkostnader etter å ha tatt i bruk Simplismarts programvare. Selv om oppstarten har flest kunder i India, kommer over halvparten av inntektene fra USA, noe som reflekterer selskapets voksende internasjonale nærvær.

Medgründer og administrerende direktør Amritanshu Jain understreket at organisasjoner ikke nødvendigvis trenger den raskeste eller billigste inferensen, men krever løsninger tilpasset deres unike brukskontekster. Oppstartens årlige inntektsrate har økt 14 ganger på seks måneder til et åttesifret beløp, basert på nylig bruk snarere enn kontrakter, noe som understreker sterk markedsvekst.

Nvidias investering skjer parallelt med pågående teknisk samarbeid, inkludert integrasjonsarbeid med Nvidias Dynamo-inferensprogramvare. Jain bemerket at selv om Simplismarts programvare kan redusere antall GPU-er som trengs for noen arbeidsbelastninger, bidrar denne effektiviteten til å øke bruken av AI-applikasjoner og gagner til slutt Nvidias maskinvarevirksomhet.

Simplismart opererer i et konkurranseutsatt landskap, og konkurrerer med inferensverktøy fra Nvidia selv, store skyløsninger som AWS, Google Cloud og Microsoft Azure, samt fremvoksende startups. Selskapet skiller seg ut ved å tilby finjusterte avveininger som oppfyller strenge tjenestenivå- og kostnadskrav, i stedet for å tilby forhåndsinnstilte hastighets- eller kostnadsløsninger.

Grunnlagt i 2022 av tidligere Oracle- og Google-ingeniører Amritanshu Jain og Devansh Ghatak, har Simplismart nå 58 ansatte. Det nye kapitalinnskuddet skal støtte utvidelse i USA, styrking av teamet og videreutvikling av inferensprogramvareplattformen. Til tross for rapporter om fortsatt kapitalinnhenting, opplyste selskapet at Serie B-runden er avsluttet og at de for øyeblikket ikke søker ytterligere investeringer.