Metodologia

Come raccogliamo i dati, come li valutiamo e con quale frequenza si aggiorna ogni parte.

OpenRouter API

Giornaliera

Model catalog and list prices (9 fields: input, output, cache read/write, reasoning, image, audio, web search, per request), context windows, modalities, supported parameters, deprecation dates. Per-provider offers from the endpoints API.

Fonte: https://openrouter.ai/api/v1/modelsLicenza: Public API, no authentication required

Epoch AI

Giornaliera

Benchmark scores and model metadata such as training compute, release dates and organizations.

Fonte: https://epoch.ai/dataLicenza: CC BY 4.0

Public leaderboards

Giornaliera

Artificial Analysis, LMArena, LiveBench, Aider, SWE-bench, Scale SEAL, HELM, OpenCompass, and CJK and multilingual suites. Scores are fetched from each leaderboard and range-checked before they are written.

Licenza: Each leaderboard's own terms

Hugging Face Open LLM Leaderboard

Snapshot

Retired by Hugging Face. BenchGecko keeps its last snapshot; it is no longer fetched.

Fonte: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboardLicenza: Open data

MCP Registry

Giornaliera

MCP server listings with package info, transport types, and repository links.

Fonte: https://registry.modelcontextprotocol.ioLicenza: Open API

Hacker News, Wikipedia, GitHub

Giornaliera

Mindshare signals: daily Hacker News mentions (Algolia API), Wikipedia page views (Wikimedia API) and GitHub stars for every tracked model, lab, agent, person and topic.

Fonte: https://hn.algolia.com/apiLicenza: Public APIs

SEC EDGAR and market close

Giornaliera

Public company figures from filings and the daily market close. Private company figures are researched twice a week and written only when a trusted source page contains the number.

Fonte: https://www.sec.gov/edgarLicenza: Public records

Vast.ai marketplace

Giornaliera

GPU rental prices: median, 10th percentile and minimum on-demand price per GPU-hour for tracked AI chips.

Fonte: https://vast.aiLicenza: Public marketplace data

Hugging Face Hub

Snapshot

Model metadata for open models: parameter counts, licenses, architectures, downloads.

Fonte: https://huggingface.co/api/modelsLicenza: Public API, no authentication required

Infrastructure dataset

Curato · datato

Chips, memory, foundries, systems and energy, curated from datasheets, earnings calls, filings and utility disclosures. Every record carries an as-of date and a source link.

Licenza: Sources linked per record

Gecko Tests

Giornaliera

BenchGecko's own automated tests on the newest models: identity, world map, refusals, knowledge cutoff, tokenizer cost, provider quality, drift. Raw answers are published.

Licenza: CC BY 4.0

Riportiamo i punteggi esattamente come dichiarati dalla fonte originale. Non adeguiamo, ponderiamo o normalizziamo nulla per confronti tra benchmark diversi, salvo indicazione esplicita. Dove disponibile, ogni punteggio rimanda alla fonte primaria.

Quando più fonti riportano lo stesso benchmark per un modello, BenchGecko mantiene il punteggio della fonte più autorevole (la classifica del benchmark stesso prima degli aggregatori). I punteggi degli annunci ufficiali dei modelli vengono aggiunti quando le classifiche pubbliche non li includono ancora.

Il BenchGecko Score classifica i modelli su un'unica scala. Il punteggio di ogni benchmark viene riscalato da 0 a 100 tra il punteggio più basso e quello più alto ottenuti da un modello tracciato su quel benchmark, poi i punteggi riscalati vengono mediati. I rating Arena Elo e gli indici compositi di Artificial Analysis sono esclusi, e un modello ha bisogno di almeno 3 benchmark per ottenere un punteggio. È un indicatore di sintesi: controlla la copertura nella pagina del modello prima di trarre conclusioni forti.

I prezzi di listino dei modelli provengono dal catalogo pubblico di OpenRouter e sono mostrati per 1 milione di token. Tracciamo 9 campi di prezzo: input, output, lettura cache, scrittura cache, immagini, audio, ragionamento interno, ricerca web e costi per richiesta. Le offerte dei singoli provider (prezzo, quantizzazione, finestra di contesto, uptime) provengono dall'API degli endpoint di OpenRouter, così lo stesso modello può essere confrontato tra host diversi.

I prezzi vengono verificati ogni giorno e salvati come storico giornaliero dei prezzi, mostrato in un grafico in ogni pagina del modello. Le variazioni di prezzo che si mantengono vengono registrate come eventi datati nel changelog.

L'uptime dei provider viene misurato chiamando ogni 15 minuti l'endpoint API pubblico di ciascun provider tracciato e registrando stato HTTP e tempo di risposta. Tre controlli falliti consecutivi aprono un incidente; due controlli riusciti consecutivi lo chiudono.

Le percentuali di uptime sono calcolate dai controlli salvati, conservati per 35 giorni. Riflettono la disponibilità dell'endpoint API, non quella dei singoli modelli.

Un modello è classificato "Open Source" se i suoi pesi sono scaricabili e utilizzabili con licenza approvata OSI (Apache 2.0, MIT) o licenza comunitaria permissiva (Llama Community License). I modelli con "pesi aperti" sotto licenze restrittive sono contrassegnati a parte.

Tipo di datoFrequenza
Prezzi APIGiornaliero
Catalogo modelliGiornaliero (da OpenRouter)
Punteggi dei benchmarkGiornaliero
Stato dei providerOgni 15 minuti
Server MCPGiornaliero
Mindshare (Hacker News, Wikipedia, GitHub)Giornaliero
Dati aziendaliPubbliche: ogni giorno · private: due volte a settimana
Prezzi di noleggio GPUGiornaliero
Gecko TestsLaboratorio giornaliero · ogni modello una volta per versione del test
Chip, memoria, fonderie, sistemi, energiaDataset curato · aggiornato al ·

Se noti un errore nei nostri dati, scrivi a hello@benchgecko.ai o contattaci su X @BenchGecko. Ogni dato conserva la propria fonte e data, quindi le correzioni possono essere verificate rispetto all'originale.

Creato dal team BenchGecko a partire da fonti pubbliche. Ogni dato mostra data e fonte.