Méthodologie

Comment nous collectons les données, comment nous les notons et à quelle fréquence chaque partie est actualisée.

OpenRouter API

Quotidien

Model catalog and list prices (9 fields: input, output, cache read/write, reasoning, image, audio, web search, per request), context windows, modalities, supported parameters, deprecation dates. Per-provider offers from the endpoints API.

Source: https://openrouter.ai/api/v1/modelsLicence: Public API, no authentication required

Epoch AI

Quotidien

Benchmark scores and model metadata such as training compute, release dates and organizations.

Source: https://epoch.ai/dataLicence: CC BY 4.0

Public leaderboards

Quotidien

Artificial Analysis, LMArena, LiveBench, Aider, SWE-bench, Scale SEAL, HELM, OpenCompass, and CJK and multilingual suites. Scores are fetched from each leaderboard and range-checked before they are written.

Licence: Each leaderboard's own terms

Hugging Face Open LLM Leaderboard

Instantané

Retired by Hugging Face. BenchGecko keeps its last snapshot; it is no longer fetched.

Source: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboardLicence: Open data

MCP Registry

Quotidien

MCP server listings with package info, transport types, and repository links.

Source: https://registry.modelcontextprotocol.ioLicence: Open API

Hacker News, Wikipedia, GitHub

Quotidien

Mindshare signals: daily Hacker News mentions (Algolia API), Wikipedia page views (Wikimedia API) and GitHub stars for every tracked model, lab, agent, person and topic.

Source: https://hn.algolia.com/apiLicence: Public APIs

SEC EDGAR and market close

Quotidien

Public company figures from filings and the daily market close. Private company figures are researched twice a week and written only when a trusted source page contains the number.

Source: https://www.sec.gov/edgarLicence: Public records

Vast.ai marketplace

Quotidien

GPU rental prices: median, 10th percentile and minimum on-demand price per GPU-hour for tracked AI chips.

Source: https://vast.aiLicence: Public marketplace data

Hugging Face Hub

Instantané

Model metadata for open models: parameter counts, licenses, architectures, downloads.

Source: https://huggingface.co/api/modelsLicence: Public API, no authentication required

Infrastructure dataset

Sélectionné · daté

Chips, memory, foundries, systems and energy, curated from datasheets, earnings calls, filings and utility disclosures. Every record carries an as-of date and a source link.

Licence: Sources linked per record

Gecko Tests

Quotidien

BenchGecko's own automated tests on the newest models: identity, world map, refusals, knowledge cutoff, tokenizer cost, provider quality, drift. Raw answers are published.

Licence: CC BY 4.0

Les scores sont affichés tels que rapportés par leur source. Aucun ajustement, pondération ou normalisation inter-benchmarks sauf mention explicite.

Lorsque plusieurs sources publient le même benchmark pour un modèle, BenchGecko conserve le score de la source la plus fiable (le classement propre au benchmark avant les agrégateurs). Les scores issus des annonces officielles des modèles sont ajoutés lorsque les classements publics ne les incluent pas encore.

Le BenchGecko Score classe les modèles sur une seule échelle. Chaque score de benchmark est remis à l'échelle de 0 à 100 entre le score le plus bas et le plus élevé obtenus par un modèle suivi sur ce benchmark, puis les scores ainsi remis à l'échelle sont moyennés. Les classements Arena Elo et les indices composites d'Artificial Analysis sont exclus, et un modèle doit avoir au moins 3 benchmarks pour obtenir un score. C'est un signal de synthèse : vérifiez la couverture sur la page du modèle avant de tirer des conclusions tranchées.

Les prix publics des modèles proviennent du catalogue public d'OpenRouter et sont affichés par million de tokens. Nous suivons 9 champs de prix : entrée, sortie, lecture du cache, écriture du cache, image, audio, raisonnement interne, recherche web et frais par requête. Les offres par fournisseur (prix, quantification, fenêtre de contexte, disponibilité) proviennent de l'API d'endpoints d'OpenRouter, ce qui permet de comparer un même modèle entre hébergeurs.

Les prix sont vérifiés chaque jour et conservés dans un historique quotidien, représenté sur la page de chaque modèle. Les changements de prix durables sont enregistrés comme événements datés dans le journal des modifications.

La disponibilité des fournisseurs est mesurée en appelant le point d'accès API public de chaque fournisseur suivi toutes les 15 minutes, en enregistrant le statut HTTP et le temps de réponse. Trois échecs consécutifs ouvrent un incident ; deux succès consécutifs le ferment.

Les pourcentages de disponibilité sont calculés à partir des vérifications stockées, conservées pendant 35 jours. Ils reflètent la disponibilité des points d'accès API, pas celle de chaque modèle.

Un modèle est marqué « Open Source » si ses poids sont disponibles publiquement sous licence approuvée OSI ou sous licence communautaire permissive.

Type de donnéesFréquence
Tarification APIQuotidien
Répertoire de modèlesQuotidien (depuis OpenRouter)
Scores de benchmarksQuotidien
Disponibilité fournisseursToutes les 15 minutes
Serveurs MCPQuotidien
Mindshare (Hacker News, Wikipedia, GitHub)Quotidien
Chiffres des entreprisesPubliques : quotidien · privées : deux fois par semaine
Prix de location de GPUQuotidien
Gecko TestsLabo quotidien · chaque modèle une fois par version de test
Puces, mémoire, fonderies, systèmes, énergieJeu de données sélectionné · au ·

Si vous repérez une erreur dans nos données, écrivez à hello@benchgecko.ai ou contactez-nous sur X @BenchGecko. Chaque chiffre conserve sa source et sa date, ce qui permet de vérifier les corrections par rapport à l'original.

Créé par l'équipe BenchGecko à partir de sources publiques. Chaque chiffre indique sa date et sa source.