Méthodologie
Comment nous collectons les données, comment nous les notons et à quelle fréquence chaque partie est actualisée.
Sources de données
OpenRouter API
QuotidienModel catalog and list prices (9 fields: input, output, cache read/write, reasoning, image, audio, web search, per request), context windows, modalities, supported parameters, deprecation dates. Per-provider offers from the endpoints API.
Epoch AI
QuotidienBenchmark scores and model metadata such as training compute, release dates and organizations.
Public leaderboards
QuotidienArtificial Analysis, LMArena, LiveBench, Aider, SWE-bench, Scale SEAL, HELM, OpenCompass, and CJK and multilingual suites. Scores are fetched from each leaderboard and range-checked before they are written.
Hugging Face Open LLM Leaderboard
InstantanéRetired by Hugging Face. BenchGecko keeps its last snapshot; it is no longer fetched.
MCP Registry
QuotidienMCP server listings with package info, transport types, and repository links.
Hacker News, Wikipedia, GitHub
QuotidienMindshare signals: daily Hacker News mentions (Algolia API), Wikipedia page views (Wikimedia API) and GitHub stars for every tracked model, lab, agent, person and topic.
SEC EDGAR and market close
QuotidienPublic company figures from filings and the daily market close. Private company figures are researched twice a week and written only when a trusted source page contains the number.
Vast.ai marketplace
QuotidienGPU rental prices: median, 10th percentile and minimum on-demand price per GPU-hour for tracked AI chips.
Hugging Face Hub
InstantanéModel metadata for open models: parameter counts, licenses, architectures, downloads.
Infrastructure dataset
Sélectionné · datéChips, memory, foundries, systems and energy, curated from datasheets, earnings calls, filings and utility disclosures. Every record carries an as-of date and a source link.
Gecko Tests
QuotidienBenchGecko's own automated tests on the newest models: identity, world map, refusals, knowledge cutoff, tokenizer cost, provider quality, drift. Raw answers are published.
Scores de benchmark
Les scores sont affichés tels que rapportés par leur source. Aucun ajustement, pondération ou normalisation inter-benchmarks sauf mention explicite.
Lorsque plusieurs sources publient le même benchmark pour un modèle, BenchGecko conserve le score de la source la plus fiable (le classement propre au benchmark avant les agrégateurs). Les scores issus des annonces officielles des modèles sont ajoutés lorsque les classements publics ne les incluent pas encore.
BenchGecko Score
Le BenchGecko Score classe les modèles sur une seule échelle. Chaque score de benchmark est remis à l'échelle de 0 à 100 entre le score le plus bas et le plus élevé obtenus par un modèle suivi sur ce benchmark, puis les scores ainsi remis à l'échelle sont moyennés. Les classements Arena Elo et les indices composites d'Artificial Analysis sont exclus, et un modèle doit avoir au moins 3 benchmarks pour obtenir un score. C'est un signal de synthèse : vérifiez la couverture sur la page du modèle avant de tirer des conclusions tranchées.
Tarification
Les prix publics des modèles proviennent du catalogue public d'OpenRouter et sont affichés par million de tokens. Nous suivons 9 champs de prix : entrée, sortie, lecture du cache, écriture du cache, image, audio, raisonnement interne, recherche web et frais par requête. Les offres par fournisseur (prix, quantification, fenêtre de contexte, disponibilité) proviennent de l'API d'endpoints d'OpenRouter, ce qui permet de comparer un même modèle entre hébergeurs.
Les prix sont vérifiés chaque jour et conservés dans un historique quotidien, représenté sur la page de chaque modèle. Les changements de prix durables sont enregistrés comme événements datés dans le journal des modifications.
Surveillance de disponibilité
La disponibilité des fournisseurs est mesurée en appelant le point d'accès API public de chaque fournisseur suivi toutes les 15 minutes, en enregistrant le statut HTTP et le temps de réponse. Trois échecs consécutifs ouvrent un incident ; deux succès consécutifs le ferment.
Les pourcentages de disponibilité sont calculés à partir des vérifications stockées, conservées pendant 35 jours. Ils reflètent la disponibilité des points d'accès API, pas celle de chaque modèle.
Classification Open Source
Un modèle est marqué « Open Source » si ses poids sont disponibles publiquement sous licence approuvée OSI ou sous licence communautaire permissive.
Fréquence de mise à jour
| Type de données | Fréquence |
|---|---|
| Tarification API | Quotidien |
| Répertoire de modèles | Quotidien (depuis OpenRouter) |
| Scores de benchmarks | Quotidien |
| Disponibilité fournisseurs | Toutes les 15 minutes |
| Serveurs MCP | Quotidien |
| Mindshare (Hacker News, Wikipedia, GitHub) | Quotidien |
| Chiffres des entreprises | Publiques : quotidien · privées : deux fois par semaine |
| Prix de location de GPU | Quotidien |
| Gecko Tests | Labo quotidien · chaque modèle une fois par version de test |
| Puces, mémoire, fonderies, systèmes, énergie | Jeu de données sélectionné · au · |
Corrections
Si vous repérez une erreur dans nos données, écrivez à hello@benchgecko.ai ou contactez-nous sur X @BenchGecko. Chaque chiffre conserve sa source et sa date, ce qui permet de vérifier les corrections par rapport à l'original.
Créé par l'équipe BenchGecko à partir de sources publiques. Chaque chiffre indique sa date et sa source.