Local-first ne signifie pas local-only

Ce site ne parle pas de l'IA souveraine de manière abstraite — il y est impliqué. Il est utile de montrer précisément comment, car « local-first » est souvent mal interprété comme « jamais utiliser le cloud », ce qui ne reflète pas notre position.

La hiérarchie réelle

La production fonctionne aujourd'hui avec trois modèles selon l'ordre de priorité : un modèle primaire de 27B sur la GPU principale, un modèle secondaire de 8B toujours actif sur la deuxième GPU, et un modèle de secours léger sur CPU lorsque aucune GPU n'est disponible. Chaque niveau a un rôle clair — le primaire résout la majorité des tâches de raisonnement, le secondaire couvre les pics de charge ou les tâches plus simples, et le CPU garantit que le système ne tombe jamais en panne totale.

Le cloud existe dans cette architecture, mais comment fallback explicite, pasant à la configuration par défaut silencieuse. Cela compte : un système qui « occasionnellement » envoie vos données vers une API externe sans que vous le sachiez n'est pas souverain, même s'il dispose d'un modèle local installé. La différence ne réside pas dans la possession de matériel propre, mais dans le fait que le chemin par défaut soit local et que l'exception soit documentée et visible.

Pourquoi la différence compte

Exécuter des modèles localement n'est pas une position idéologique sans coût : elle présente des avantages concrets et mesurables, à savoir un coût marginal proche de zéro une fois le matériel amorti, l'absence de limites de taux imposées par un fournisseur externe et un contrôle total sur le moment et la manière de mettre à jour le modèle utilisé. Elle comporte également un coût réel : la maintenance de l'infrastructure, le temps de mise en place et une limite de capacité face aux modèles commerciaux de pointe.

La conclusion honnête

Local-first signifie que les données par défaut restent dans votre infrastructure, et lorsqu'elles sortent — car il arrive qu'il soit nécessaire qu'elles le fassent — c'est vous qui décidez de leur sortie, et non un paramètre par défaut ignoré. C'est ce critère que ce site utilise pour évaluer tout outil, en commençant par le sien propre.