IA
DeepSeek local: quando o DS4 paga o hardware
16 de novembro de 2026
Por que isso importa
Rodar um modelo de 284 bilhões de parâmetros num notebook chama atenção. Para quem trabalha com tecnologia, a consequência interessante é poder escolher onde executar tarefas recorrentes: resumir documentos internos, classificar chamados ou preparar alterações pequenas de código. Minha régua para essa escolha é o custo de uma tarefa concluída e aprovada, incluindo o tempo de conferir a resposta.
O vídeo apresenta o DS4, também chamado DwarfStar 4, como uma combinação de motor de inferência e pesos preparados para executar o DeepSeek V4 Flash localmente. A ficha oficial confirma os 284 bilhões de parâmetros totais e aproximadamente 13 bilhões ativados por token. Essa diferença reduz o cálculo por etapa; os demais pesos continuam precisando de armazenamento e de uma estratégia para serem acessados. Ficha oficial do DeepSeek V4 Flash.
A oportunidade merece um teste com trabalho real. Comprar memória para economizar tokens só faz sentido quando a máquina entrega qualidade suficiente, no prazo necessário e com volume que justifique o investimento. O roteiro abaixo acrescenta essa avaliação à demonstração do vídeo, sem apresentar seus números como medições próprias.
Pontos principais
- 0:34 A arquitetura Mixture-of-Experts ativa apenas parte do modelo a cada token. Isso ajuda a explicar a velocidade, mas não transforma um modelo de 284 bilhões de parâmetros em um arquivo com o tamanho de um modelo de 13 bilhões.
- 2:17 A quantização descrita comprime fortemente os especialistas e preserva maior precisão em componentes sensíveis. O princípio é distribuir a perda conforme a tolerância de cada parte. Oito bits ainda representam precisão reduzida; a expressão “precisão total” usada no vídeo pede esse ajuste.
- 2:50 O vídeo cita aproximadamente 76 GB e geração de 26,68 tokens por segundo num M3 Max com 128 GB. Esse resultado pertence à configuração apresentada. Ele não informa sozinho quanto demora para processar um documento longo ou atender duas pessoas simultaneamente.
- 3:23 O projeto restringe os arquivos e as configurações aceitas para tornar a integração mais controlável. Essa escolha pode facilitar a reprodução de resultados, mas validar o motor não garante que toda resposta esteja correta no seu domínio.
- 3:57 API HTTP, chamadas de ferramentas, agente de programação e cache persistente ampliam a utilidade além do chat. Na aplicação, vale conferir especialmente a retomada de sessões: reaproveitar estado computacional e manter corretamente o histórico são aspectos diferentes.
- 4:29 Antirez relata ter passado a usar o modelo local em trabalho que normalmente encaminharia a serviços externos. É um testemunho relevante de uso, mas continua sendo uma experiência pessoal, sem equivaler a uma avaliação comparativa das suas tarefas. Relato do autor.
- 5:37 A discussão sobre qualidade e preço coloca limites na promessa. Compressão agressiva precisa ser avaliada no resultado final, e o hardware citado pertence a uma faixa de investimento elevada para muitos profissionais.
- 6:12 O vídeo distingue o Flash do PRO, de 1,6 trilhão de parâmetros. O funcionamento do Flash no notebook não demonstra que qualquer modelo maior terá os mesmos requisitos ou a mesma experiência.
- 7:22 A recomendação final privilegia tarefas recorrentes, volume e necessidade de processamento interno. A decisão prática depende de quanto trabalho consegue migrar mantendo qualidade, tempo de resposta e custo operacional aceitáveis.
Como aplicar
DeepSeek local: dimensione a configuração atual
Antes de comprar hardware, registre modelo, versão dos pesos, quantização e versão do DS4 que pretende usar. O projeto mudou desde a configuração retratada no vídeo: o README atual já relaciona outros modelos e classifica o software como beta. Portanto, “um único modelo” descreve o foco apresentado naquela gravação. Estado atual do DS4.
O guia atual lista cerca de 81 GiB para o download Flash 0731 Q2, indicado como ponto de partida em sistemas de 96 ou 128 GB. Os 76 GB do vídeo são uma referência histórica de outra configuração. Reserve memória adicional para contexto, buffers e aplicativos abertos, além de espaço em disco para os arquivos. Modelos e requisitos do projeto.
Para aprender como rodar LLM local, comece pelo guia da plataforma e pelos pesos indicados pelo próprio projeto. Fixar essa combinação também permite repetir o teste depois de uma atualização.
Monte uma amostra do seu trabalho
Eu começaria com 30 tarefas já resolvidas, usando material autorizado ou anonimizado. Separe dez exemplos de cada atividade e prepare a referência esperada antes de gerar respostas.
| Atividade | O que conferir | |---|---| | Resumir incidentes | Preservou datas, identificadores e ações pendentes? | | Classificar chamados em português | Escolheu uma categoria válida e respeitou o formato pedido? | | Fazer pequenas alterações de código | Resolveu o problema, passou nos testes relevantes e manteve o escopo? |
Inclua casos desagradáveis: documento incompleto, instrução ambígua, texto com acentos, datas brasileiras e pedido que deveria resultar em “informação insuficiente”. Para cada tarefa, registre aprovação, correções necessárias e minutos de revisão.
Use a mesma amostra na solução atual e no DS4. Mantenha entradas e critérios de aprovação equivalentes e registre diferenças de configuração. Essa amostra serve para decidir se vale ampliar o piloto; trinta exemplos não comprovam confiabilidade geral.
Meça a espera completa
Registre separadamente o tempo até começar a resposta, o tempo até receber tudo e o tempo até aprovar o resultado. Repita com um documento curto, um longo e duas solicitações simultâneas. Uma resposta rápida que exige cinco minutos de conserto pode custar mais que uma resposta um pouco mais lenta.
Teste também uma sessão retomada depois de reiniciar o processo. A documentação explica que o cache em disco reaproveita prefixos compatíveis e pode exigir novo processamento em determinadas situações. Ele não deve ser tratado como garantia de memória permanente. Funcionamento do servidor e do cache.
Faça a conta com a despesa que realmente desaparece
Use uma estimativa simples de retorno:
Meses para recuperar o investimento = investimento adicional ÷ (API evitada por mês − operação adicional por mês).
Exemplo inteiramente hipotético: R$ 12 mil de investimento, R$ 1.250 mensais de API efetivamente eliminados e R$ 250 de operação adicional resultam em 12 meses. A operação deve incluir energia, manutenção e diferença no trabalho de revisão. Se a despesa evitada cair para R$ 500, o prazo sobe para 48 meses.
Conte apenas as chamadas que conseguirá substituir. Uma assinatura mantida para outras atividades continua na despesa. Para comprar no Brasil, use uma cotação local com impostos, garantia e suporte. Se o denominador for zero ou negativo, esse cenário não recupera o investimento por economia operacional.
Confira o caminho dos dados e amplie aos poucos
Execute o piloto com inferência local e confira se ferramentas, busca externa, registros ou mecanismos de contingência enviam conteúdo para outros serviços. O cache também merece atenção: a documentação informa que seus arquivos contêm texto dos prompts e estado do modelo. Defina quem pode acessá-los e quando apagá-los. Armazenamento do cache.
Eu migraria primeiro a atividade que passar na avaliação com menor revisão e economia demonstrável. As demais continuariam na solução atual até haver evidência para mudar. Assim, cada nova tarefa precisa justificar sua migração com qualidade, tempo e custo observados.
Recursos citados
- DS4 / DwarfStar 4 · Motor de inferência apresentado; código aberto. O hardware e a operação têm custos.
- DeepSeek V4 Flash · Página oficial do modelo e dos pesos, sob licença MIT. Para DS4, use os downloads indicados pelo projeto.
- A few words on DS4 — antirez · Texto do autor sobre a proposta do projeto e sua experiência com inferência local.
- llama.cpp · Motor de inferência citado como referência e contraponto à especialização do DS4.
- NVIDIA DGX Spark (pago) · Hardware citado como alternativa de execução; confira configuração, disponibilidade e preço local.
- LM Studio · Alternativa citada na descrição. A execução local tem opção gratuita; há serviços pagos opcionais.
- Ollama · Alternativa citada na descrição. Execução local gratuita; serviços de nuvem são separados.