Modèles et accès

Une seule clé, une seule facture, une seule forme de requête (compatible avec le format OpenAI), et derrière : les modèles d'Anthropic, d'OpenAI, de Google, de Mistral, de Meta, et les modèles ouverts hébergés par des tiers.

L'intérêt réel n'est pas le confort, c'est le pouvoir de comparaison. Le jour où tu veux savoir si ton système marcherait aussi bien avec un modèle trois fois moins cher, tu le testes en dix minutes au lieu d'ouvrir un compte, une facturation et un SDK de plus. C'est aussi ce qui te protège d'une dépendance : le jour où un fournisseur double ses prix ou déprécie un modèle, tu bascules.

La contrepartie, à connaître : une couche d'intermédiation de plus (donc un point de panne et quelques millisecondes), une commission, et les fonctions les plus récentes d'un fournisseur arrivent parfois avec du retard. Pour un système en production critique, beaucoup d'équipes prototypent sur OpenRouter puis basculent sur l'API directe du modèle retenu. C'est une trajectoire saine, pas un aveu d'échec.

Le site mesure lui-même, en continu, les modèles de tous les fournisseurs sur les mêmes tests, et affiche trois axes que les communiqués de presse ne croisent jamais : un score de qualité, un prix au million de tokens, et une vitesse en tokens par seconde.

Ce qu'il t'apprend et que personne ne dit : l'écart de qualité entre le meilleur modèle et un modèle dix fois moins cher est souvent plus petit que l'écart de prix. Sur une tâche de classification ou d'extraction, le petit modèle passe. Sur du raisonnement long, non. Savoir de quel côté tombe ta tâche, c'est la moitié de la maîtrise des coûts.

Prends le réflexe de regarder la colonne latence autant que la colonne qualité : un système qui répond en huit secondes est jugé cassé par ses utilisateurs, même quand ses réponses sont excellentes.

C'est là que tu vois ta consommation ligne par ligne, que tu poses des plafonds de dépense, et que tu accèdes en premier aux fonctions qui n'ont pas encore été reprises par les passerelles : mise en cache de prompt, traitement par lots à tarif réduit, contrôle fin du raisonnement.

Deux réglages à faire le jour de l'ouverture du compte, avant même le premier appel : un plafond de dépense mensuel et une alerte par courriel à la moitié du plafond. Le nombre de personnes qui découvrent une facture à quatre chiffres à cause d'une boucle mal fermée n'a pas diminué depuis 2023.

Ces deux réglages ne font pas la même chose, et l'intitulé ne le dit pas toujours : l'alerte écrit un courriel et laisse passer les appels suivants, le plafond refuse les appels au-delà du montant. Le plafond se pose au niveau de l'organisation ou du projet selon les fournisseurs, jamais au niveau d'une clé isolée. Vérifie lequel des deux tu viens réellement d'activer avant de te croire couvert.

C'est là que sont publiés les modèles que tu peux télécharger et faire tourner chez toi, avec leur licence, qui n'est pas toujours aussi libre que le mot « ouvert » le laisse croire, et qui se lit avant l'usage commercial, pas après.

Au-delà des modèles de conversation, c'est surtout la référence pour les modèles d'embedding (ceux qui transforment un texte en vecteur, indispensables à tout système de recherche documentaire) : le classement MTEB y compare des centaines de modèles par langue, et il existe presque toujours un modèle multilingue de petite taille qui fait le travail pour un centième du prix d'une API.