AI-natives e startups
Luminal capta US$ 25 milhões e processa 90 trilhões de tokens por mês
Segundo a TechNode Global, a Luminal, de São Francisco, levantou US$ 25 milhões em série A liderada pela Standard Capital, com Y Combinator, Felicis, SagaVC e Liquid 2. O compilador da empresa testa formas equivalentes de executar um modelo em cada chip e escolhe a mais rápida, o que permite rodar IA em GPUs da Nvidia e AMD e em chips como o Trainium, da Amazon. Em quatro meses de nuvem própria, chegou a 90 trilhões de tokens por mês, boa parte em Trainium. A empresa não divulgou clientes nem ganhos de custo.
O que está por trás
É a mesma tese do caso Anthropic com a AMD desta semana: software que reduz o custo de trocar de chip tira poder de preço da Nvidia e barateia a inferência.
Para levar
Ao contratar inferência, peça preços em mais de um tipo de chip; a diferença tende a aumentar.