Retour au blog
Un modèle pour chaque tâche, chez le fournisseur de ton choix
Architecture4 min de lecture

Un modèle pour chaque tâche, chez le fournisseur de ton choix

Le problème

Un assistant comme LIA ne fait pas un seul travail. Pour une même question, il doit comprendre de quoi tu parles, préparer un plan, appeler tes outils, puis rédiger une réponse. En arrière-plan, il tient ton journal ; la nuit, il fait le ménage dans tes souvenirs. Ces tâches n'ont pas les mêmes besoins. Trier une demande doit être rapide et bon marché, préparer un plan demande de la rigueur, écrire une réponse demande du style.

Tout confier à un seul modèle, chez un seul fournisseur, c'est payer le prix fort pour des tâches simples, ou se contenter d'un modèle trop faible pour les tâches difficiles. C'est aussi dépendre d'une seule entreprise : ses tarifs, ses pannes, ses conditions.

Ce que je voulais

Je voulais que chaque tâche de LIA ait son poste, avec son fournisseur et son modèle. Le tri des demandes peut tourner sur un petit modèle rapide, le planificateur sur un modèle plus solide, la réponse sur celui dont tu préfères le ton. Et je voulais qu'on puisse en changer sans toucher au code.

LIA sait parler à OpenAI, Anthropic, Google Gemini, DeepSeek, Qwen d'Alibaba et Perplexity, ainsi qu'aux modèles que tu fais tourner toi-même avec Ollama, un serveur qui exécute des modèles ouverts sur ta propre machine.

Comment ça se passe

Chaque fournisseur a ses habitudes. L'un refuse un réglage de température, l'autre compte la réflexion du modèle dans le budget de la réponse, un troisième met en cache le début des messages à sa manière. LIA traduit ces différences, fournisseur par fournisseur :

  • Une seule échelle de réflexion. Demander à un modèle de réfléchir plus ou moins se règle sur la même échelle pour tous, d'« aucune » à « maximale ». Ce que chaque modèle accepte vraiment est déduit de sa famille, et l'administration ne propose que les niveaux que son API acceptera.
  • Des réglages filtrés. Un paramètre qu'un modèle refuse n'est pas envoyé. Un budget de réponse trop grand pour le modèle choisi est ramené à ce qu'il peut produire.
  • Des consignes rangées pour le cache. Le début des consignes, identique d'un tour à l'autre, est placé en premier. Les fournisseurs qui savent le garder en cache le relisent, ce qui coûte moins cher et répond plus vite.
  • Des modèles locaux traités comme les autres. LIA parle à Ollama par son interface native. Elle demande à ton serveur ce que chaque modèle sait faire (outils, images, réflexion, taille de contexte) : rien n'est deviné d'après son nom.

Un exemple concret : une notification de rappel tient en deux phrases. Sur un modèle qui réfléchit par défaut, la réflexion peut consommer tout le petit budget prévu, et la réponse revient vide. LIA demande donc ces messages courts sans réflexion, là où le modèle permet de la couper. Si la réponse revient vide ou coupée malgré tout, LIA envoie la phrase de secours prévue, et le coût de l'appel reste compté.

Ce que ça coûte, et qui paie

Chaque appel payé est compté au tarif réel de son fournisseur : l'entrée, la sortie, les lectures et les écritures de cache, et même les heures creuses quand un fournisseur en propose. Une tentative qui échoue après avoir été facturée est comptée aussi, car un échec n'est pas un appel gratuit. Les modèles tournent sur les clés de l'instance, et chaque appel est imputé au compte pour qui il a été fait, dans ses limites. Les clés que l'administrateur saisit sont stockées chiffrées, et l'administration ne les affiche que masquées.

Quand une requête est partie et que la réponse se perd en route, LIA ne la relance pas. Le fournisseur est peut-être encore en train de produire cette réponse, et de la facturer : la relancer reviendrait à payer deux fois. LIA ne réessaie que ce qui a échoué de façon certaine, par exemple un service momentanément saturé.

Les limites

  • Il n'y a pas de bascule automatique vers un autre fournisseur quand le tien tombe en panne. Changer de modèle reste un choix de l'administrateur.
  • Tu peux confier toutes les tâches de conversation à des modèles chez toi, mais une installation entièrement hors ligne n'est pas possible. La recherche par le sens (souvenirs, espaces de connaissances, journal) passe par le service d'embeddings de Google, les réponses parlées par des services vocaux en ligne, et la météo, la recherche web ou tes comptes connectés sont en ligne par nature.
  • Un modèle local reste un modèle local : sa qualité dépend de ta machine et du modèle que tu choisis.

L'idée tient en une phrase : tu choisis qui fait chaque travail, et LIA se charge de parler à chacun dans sa langue.

Pour approfondir : Régler les modèles de LIA sans redémarrer, et sans configuration impossible ; Montrer au modèle ce qui compte : les services qui allègent le travail de LIA.

#openai#anthropic#google#deepseek#ollama#multi-provider