En consultant votre facture d'API LLM après une longue session de débogage assisté par IA, avez-vous déjà mesuré la part engloutie par les formules de politesse et les journaux répétitifs plutôt que par du code utile ? Les agents de code modernes enrobent chaque diagnostic de préambules superflus et réinjectent des centaines de lignes de logs à chaque itération.
Caveman est une compétence open source et un proxy local créés par Julius Brussee sous le slogan "why use many token when few token do trick". Il compresse les réponses textuelles et sorties d'outils des agents de code tout en gardant code, chemins et erreurs intacts, avec restauration locale complète sur demande.
Important
- Restauration locale sans perte : Les sorties volumineuses compressées par le proxy reçoivent un identifiant adressé par contenu (
ccr_...) stocké dans une base SQLite locale (~/.caveman/ccr.db), permettant à l'agent de récupérer les octets d'origine via MCP. - Transparence sur le chiffre de 65 % : Les mainteneurs rapportent environ 65 % de réduction de tokens sur des benchmarks textuels, tandis que l'évaluation indépendante de JetBrains sur SkillsBench (juillet 2026) a mesuré 8,5 % de baisse sur des tâches complètes de code ; Kling Digital n'a pas réalisé de banc d'essai interne propre sur ce ratio.
- Intégrité exacte du code : La compression cible exclusivement le remplissage conversationnel et le bruit des journaux ; code source, diffs, commandes CLI et traces d'erreur restent strictement intacts.
Pour les équipes qui déploient des solutions d'intelligence artificielle en entreprise, la dérive de consommation de tokens pèse directement sur la rentabilité opérationnelle. Même lorsqu'un projet évalue ses enveloppes budgétaires initiales via un calculateur de coût, l'expansion silencieuse de la fenêtre de contexte pendant les boucles autonomes de test génère des surcoûts récurrents. C'est précisément cette pression sur les factures d'API qui explique la diffusion rapide de Caveman chez les développeurs.
Pourquoi Caveman s'est imposé si vite dans les ateliers de développement
Fin 2026, les agents de code tels que Claude Code, Codex CLI, Cursor, Windsurf, OpenCode et Gemini CLI enchaînent des dizaines d'étapes autonomes : lecture de fichiers, exécution de suites de tests, analyse de journaux de compilation et correction itérative. Chaque tour renvoie l'historique accumulé vers le modèle.
Entraînés pour une conversation courtoise, les modèles de langage produisent spontanément des explications verbeuses. Expliquer un re-rendu React superflu consomme facilement 69 tokens en prose standard, alors que le diagnostic technique complet tient en 19 tokens : "New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo."
Au sein des tendances de l'écosystème open source des agents IA de novembre 2026, Caveman a popularisé une discipline concrète d'hygiène de contexte. Pour juger de sa valeur en production, il convient toutefois de distinguer sa couche initiale de prompt de son architecture plus récente en proxy local.
Architecture à deux niveaux : compétence « Say Less » et proxy local « Read Less »
Né comme une simple consigne de système, le projet s'est structuré en deux couches complémentaires agissant à la fois sur les sorties et sur les entrées du modèle.
1. Compression des sorties (Compétence et niveaux d'intensité)
La compétence centrale caveman est distribuée sous licence MIT. Elle demande au modèle d'éliminer les formules d'introduction, les précautions rhétoriques et les mots de remplissage, tout en laissant intacts les blocs de code, les chemins de fichiers et les commandes système.
Quatre modes permettent de moduler la concision en cours de session :
/caveman lite: Supprime les politesses et le remplissage évident tout en gardant des phrases fluides (les auteurs indiquent environ 30 % de gain sur la prose)./caveman(modefullpar défaut) : Active le style télégraphique de référence, où les mainteneurs rapportent environ 65 % de tokens en moins sur les explications textuelles./caveman ultra: Niveau maximal de concision, éliminant les transitions secondaires (les auteurs évoquent 75 % à 80 % sur la prose pure)./caveman off: Restaure immédiatement le style rédactionnel normal pour écrire une description de pull request, un ADR ou une documentation client.
2. Compression des entrées et récupération réversible (caveman-proxy)
Dans un dépôt réel, la majorité de la facture vient des tokens d'entrée répétés à chaque tour : journaux de tests verbeux, réponses JSON massives et traces de build. Le proxy local (caveman start ou caveman wrap, dont les composants moteur relèvent des licences BSL-1.1 / Apache-2.0 selon le paquet) s'intercale sur la machine du développeur entre l'agent et l'API du fournisseur pour compacter ce bruit avant transmission.
Pour éviter toute perte d'information critique lors du débogage, Caveman s'appuie sur un dépôt local de récupération adressé par contenu :
- Lorsque le proxy élide ou résume une sortie d'outil volumineuse, il conserve exactement les codes de retour, les chemins de fichiers et les classes d'erreur, puis insère un pointeur compact (
ccr_...ouccr://). - Parallèlement, les octets bruts d'origine sont enregistrés localement dans une base SQLite bornée (
~/.caveman/ccr.db) avec leurs métadonnées. - Si l'agent constate qu'il a besoin d'inspecter le texte complet derrière un pointeur, il appelle l'outil local Model Context Protocol (MCP)
caveman_retrieve. Le proxy renvoie alors les octets exacts depuis le disque local, sans aucun stockage cloud externe.
Astuce
Si vos fichiers d'instructions statiques comme CLAUDE.md alourdissent chaque démarrage de session, la commande /caveman-compress les compresse tout en créant une sauvegarde lisible hors du dépôt sous $XDG_DATA_HOME/caveman-compress/backups/.
Regard objectif sur l'économie annoncée de 65 %
Une analyse d'ingénierie rigoureuse distingue les chiffres publiés par les auteurs des mesures indépendantes en conditions réelles. Selon les mainteneurs de Caveman, la consommation de tokens recule d'environ 65 % sur des échanges courts et des explications textuelles. Par souci de transparence, Kling Digital précise ne pas avoir mené de banc d'essai interne pour valider ce taux de 65 % ; il doit être lu comme la mesure communiquée par les créateurs du projet et non comme une réduction uniforme garantie sur chaque facture.
En juillet 2026, JetBrains a conduit un test A/B indépendant de la compétence Caveman via SkillsBench sur plusieurs centaines de tâches de programmation réalistes au long cours. Deux enseignements majeurs en sont ressortis :
- En codage réel, la couche prompt seule réduit les sorties de 8,5 % : Sur un flux d'agent complet, l'essentiel des tokens générés consiste en code source, diffs et appels d'outils que Caveman protège volontairement sans les compresser. La réduction nette des tokens de sortie s'est donc établie à 8,5 % et non 65 %.
- Aucune baisse mesurable de précision : L'étude JetBrains a confirmé que le style télégraphique ne dégrade pas de manière statistiquement significative la réussite des tâches ($p = 0,82$).
C'est précisément ce constat qui a orienté l'évolution de Caveman vers le proxy local d'entrée (caveman-proxy). Les benchmarks publiés ensuite par le projet sur ce pipeline proxy rapportent environ 33,2 % de tokens d'entrée facturés en moins sans dégrader la qualité technique. La leçon est claire : raccourcir la prose apporte un confort immédiat, mais le levier budgétaire majeur réside dans la compression réversible des entrées volumineuses.
Tableau comparatif des approches d'optimisation de tokens
Chaque mécanisme agit sur un segment différent de la facture LLM. Le tableau ci-dessous situe les deux couches de Caveman face au flux standard et à la mémoire persistante :
| Approche | Cible principale | Effet rapporté / mesuré | Retour au texte d'origine | Intégrité du code | Cas d'usage optimal |
|---|---|---|---|---|---|
| Agent standard sans filtre | Aucune (flux brut) | Référence (0 %) | Déjà complet | Totale | Mentorat, spécifications et documentation client |
| Caveman Skill (couche prompt) | Prose de sortie du modèle | Auteurs : ~65 % prose ; JetBrains : ~8,5 % code complet | Bascule immédiate via /caveman off | Code et chemins exacts | Débogage interactif et questions d'architecture ciblées |
Caveman Proxy (caveman-proxy) | Sorties d'outils, logs de tests, JSON | Tests proxy du projet : ~33,2 % de tokens d'entrée en moins | Restauration intégrale via ccr_... et caveman_retrieve MCP | Erreurs et chemins exacts | Grands monorepos à boucles de tests intensives |
Mémoire persistante (claude-mem) | Contexte répété entre sessions | Injection progressive en 3 couches depuis un index léger | Forage sélectif via timeline et get_observations | Références fichiers intactes | Développements longs répartis sur plusieurs sessions |
Tandis que Caveman élimine le gaspillage au sein d'une session active, son association avec la couche détaillée dans notre guide sur la mémoire persistante avec claude-mem évite également que l'agent ne relise tout le dépôt de zéro à chaque nouvelle ouverture.
Installation et configuration du proxy local
Le dépôt officiel JuliusBrussee/caveman permet d'installer la compétence MIT seule ou l'ensemble CLI et proxy local :
npx skills add JuliusBrussee/caveman -g
npx @caveman-ai/cli@latest
caveman tools config path
caveman-proxy recovery-store status
La configuration globale réside dans ~/.caveman-cloud/config.json et les surcharges par dépôt dans ./.caveman/config.json :
{
"mode": "full",
"proxy": {
"enabled": true,
"preserveCodeBlocks": true,
"recoveryStore": "~/.caveman/ccr.db",
"maxStoreSizeMb": 256
},
"mcp": {
"retrieveTool": "caveman_retrieve"
}
}
Avertissement
Sécurité et licences : Comme caveman-proxy intercepte les échanges locaux et écrit les sorties brutes dans ~/.caveman/ccr.db, évitez d'afficher des clés secrètes ou données sensibles en sortie standard et limitez la rétention disque. Vérifiez également les clauses BSL-1.1 avant toute redistribution commerciale.
Quand adopter Caveman dans une équipe d'ingénierie ?
Dans un contexte de développement logiciel, Caveman s'utilise de façon ciblée :
- Activez-le dans les boucles répétitives : Échecs CI, journaux de tests volumineux et explorations multi-fichiers profitent immédiatement de la réduction réversible du bruit.
- Désactivez-le (
/caveman off) pour les livrables humains : RFC, audits de sécurité et documents clients exigent nuance et clarté rédactionnelle. - Mesurez sur votre télémétrie : Relevez une semaine de référence avant d'activer la compétence puis le proxy.
Consultez aussi notre guide d'architecture REA MCP ou contactez nos ingénieurs via la page contact de Kling Digital.




