Big techs e laboratórios
Amazon lança ferramenta para levar aplicações de IA da Nvidia para o chip Trainium
Segundo o TechCrunch, a AWS lançou o TorchNeuron, que permite rodar no chip Trainium aplicações escritas em PyTorch trocando uma linha de configuração, sem reescrever o código. A Amazon afirma que cerca de 85% das aplicações de IA usam PyTorch, biblioteca aberta criada pelo Facebook e mantida pela Linux Foundation desde 2022. AMD e Apple já ofereciam migração parecida. A AWS diz que o mesmo Trainium serve para treino e para uso dos modelos e que, mesmo sem ter o menor preço por token, a integração com o resto da nuvem reduz o custo total. A comparação com as nuvens especializadas em Nvidia, como CoreWeave e Nebius, é da própria AWS.
O que está por trás
A Nvidia passou anos fazendo o CUDA funcionar de forma nativa com o PyTorch, e é isso que torna seus chips a escolha padrão. A Amazon ataca esse ponto: se migrar custa uma linha de código, a decisão passa a ser preço e disponibilidade. Para a AWS, cada cliente que sai da GPU da Nvidia para o Trainium melhora a margem e reduz a dependência de um fornecedor que também abastece seus concorrentes.
Para levar
Se sua empresa ou seu fornecedor treina ou ajusta modelos, peça cotação em Trainium e em GPU da Nvidia; a troca ficou mais barata.