IA frugale : maîtriser la facture IA en production
01 · SITUATION
Le contexte
3 agents IA en production : un assistant banquier CRM (synthèse client avant RDV), un moteur d'analyse documentaire KYC, un générateur de rapports de fonds (220 fonds, 387 parts, 5 langues, mensuel). Le coût n'avait jamais été décomposé, la consommation de tokens jamais quantifiée, l'empreinte carbone invisible.
02 · MÉTHODE
Audit frugal 5 dimensions
Framework TCO
Décomposition build / run / décommissionnement. L'OPEX représente 60-70 % du coût total. C'est là que se jouent les gains réels.
Axe coût
« Bon modèle pour la bonne tâche » : la plupart des appels n'ont pas besoin du modèle le plus puissant. Chaque usage est réévalué et orienté vers l'option la plus sobre qui tient le niveau de qualité exigé.
Axe tokens
La consommation est auditée poste par poste : requêtes redondantes, documents retraités en boucle, architectures bavardes. Les tokens qu'on ne consomme pas sont les moins chers. C'est le levier le plus sous-estimé.
Axe carbone
À service rendu identique, l'empreinte varie fortement selon où et comment les traitements s'exécutent. L'audit identifie les bascules possibles (sans impact sur la qualité ni les délais).
Gouvernance des coûts
Pérenniser les gains : alertes budget, tableau de bord coût, tokens et carbone par agent, règles de validation. Pour que la facture ne remonte pas six mois après l'audit.
03 · RÉSULTATS
Gains chiffrés
Cas suivant
Agent CV : du manuel à la production