Big techs e laboratórios
DeepSeek abre o código do motor que roda seus modelos em produção
Segundo o The Next Web, a DeepSeek liberou o DeepInfer, software que usa para servir o DeepSeek-V4.1-Flash, sob licença Apache 2.0, que permite uso comercial. O sistema roda em GPUs SM100 da Nvidia e no chip Ascend 950, da Huawei. A DeepSeek diz que um único cluster com o DeepInfer atende 155 trilhões de tokens por dia; o número é da empresa e ninguém de fora testou ainda. Ficaram de fora o sistema de cache, a separação entre leitura do prompt e geração da resposta e o balanceamento de carga entre máquinas, partes que determinam o custo de uma operação grande. Por enquanto, o DeepInfer só funciona com o V4.1-Flash.
O que está por trás
Abrir o motor de inferência barateia o uso dos modelos da DeepSeek para quem quiser hospedá-los e pressiona o preço dos laboratórios americanos. O suporte nativo ao Ascend 950 vem depois da notícia de que engenheiros da Huawei trabalham dentro da DeepSeek: a empresa está montando uma pilha completa que não depende da Nvidia. Ao mesmo tempo, o governo americano mandou agências federais retirarem a DeepSeek de seus sistemas, o que limita o uso por empresas que vendem ao governo dos EUA.
Para levar
Antes de adotar modelos chineses abertos, confira se algum cliente ou contrato seu proíbe esses fornecedores; o custo menor pode sair caro em compliance.