Local-first não significa local-only

Este site não fala sobre IA soberana em abstrato — roda sobre ela. Vale a pena mostrar exatamente como, porque "local-first" é frequentemente malinterpretado como "nunca use a nuvem", e essa não é a postura.

A hierarquia real

A produção corre hoje com três modelos em ordem de prioridade: um modelo primário de 27B na GPU principal, um secundário de 8B sempre ativo na segunda GPU e um modelo pequeno de reserva em CPU para quando nenhuma GPU estiver disponível. Cada nível tem um papel claro — o primário resolve a maioria das tarefas de raciocínio, o secundário cobre picos de carga ou tarefas mais simples, e o de CPU é a garantia de que o sistema nunca cai totalmente.

A nuvem existe nesta arquitetura, mas como fallback explícito, e não como padrão silencioso. Isso importa: um sistema que "às vezes" envia seu dado para uma API externa sem que você saiba não é soberano, mesmo que tenha um modelo local instalado. A diferença não é ter hardware próprio — é que o caminho por padrão seja local e a exceção fique documentada e visível.

Por que importa a diferença

Rodar modelos localmente não é uma postura ideológica sem custo — tem vantagens concretas e mensuráveis: custo marginal próximo de zero uma vez amortizado o hardware, sem limites de taxa impostos por um provedor externo, controle total sobre quando e como o modelo que você está usando é atualizado. Também tem um custo real: manutenção de infraestrutura, tempo de ajuste fino e um teto de capacidade frente aos modelos comerciais de fronteira.

A conclusão honesta

Local-first significa que os dados por padrão permanecem na sua infraestrutura, e quando saem — porque às vezes é conveniente que saiam — é você quem decide que saiam, não um padrão que ninguém observou. Essa é a régua que este site usa para julgar qualquer ferramenta que resenha, começando pela própria.