Metodologia
Come raccogliamo i dati, come li valutiamo e con quale frequenza si aggiorna ogni parte.
Fonti dei dati
OpenRouter API
GiornalieraModel catalog and list prices (9 fields: input, output, cache read/write, reasoning, image, audio, web search, per request), context windows, modalities, supported parameters, deprecation dates. Per-provider offers from the endpoints API.
Epoch AI
GiornalieraBenchmark scores and model metadata such as training compute, release dates and organizations.
Public leaderboards
GiornalieraArtificial Analysis, LMArena, LiveBench, Aider, SWE-bench, Scale SEAL, HELM, OpenCompass, and CJK and multilingual suites. Scores are fetched from each leaderboard and range-checked before they are written.
Hugging Face Open LLM Leaderboard
SnapshotRetired by Hugging Face. BenchGecko keeps its last snapshot; it is no longer fetched.
MCP Registry
GiornalieraMCP server listings with package info, transport types, and repository links.
Hacker News, Wikipedia, GitHub
GiornalieraMindshare signals: daily Hacker News mentions (Algolia API), Wikipedia page views (Wikimedia API) and GitHub stars for every tracked model, lab, agent, person and topic.
SEC EDGAR and market close
GiornalieraPublic company figures from filings and the daily market close. Private company figures are researched twice a week and written only when a trusted source page contains the number.
Vast.ai marketplace
GiornalieraGPU rental prices: median, 10th percentile and minimum on-demand price per GPU-hour for tracked AI chips.
Hugging Face Hub
SnapshotModel metadata for open models: parameter counts, licenses, architectures, downloads.
Infrastructure dataset
Curato · datatoChips, memory, foundries, systems and energy, curated from datasheets, earnings calls, filings and utility disclosures. Every record carries an as-of date and a source link.
Gecko Tests
GiornalieraBenchGecko's own automated tests on the newest models: identity, world map, refusals, knowledge cutoff, tokenizer cost, provider quality, drift. Raw answers are published.
Punteggi benchmark
Riportiamo i punteggi esattamente come dichiarati dalla fonte originale. Non adeguiamo, ponderiamo o normalizziamo nulla per confronti tra benchmark diversi, salvo indicazione esplicita. Dove disponibile, ogni punteggio rimanda alla fonte primaria.
Quando più fonti riportano lo stesso benchmark per un modello, BenchGecko mantiene il punteggio della fonte più autorevole (la classifica del benchmark stesso prima degli aggregatori). I punteggi degli annunci ufficiali dei modelli vengono aggiunti quando le classifiche pubbliche non li includono ancora.
BenchGecko Score
Il BenchGecko Score classifica i modelli su un'unica scala. Il punteggio di ogni benchmark viene riscalato da 0 a 100 tra il punteggio più basso e quello più alto ottenuti da un modello tracciato su quel benchmark, poi i punteggi riscalati vengono mediati. I rating Arena Elo e gli indici compositi di Artificial Analysis sono esclusi, e un modello ha bisogno di almeno 3 benchmark per ottenere un punteggio. È un indicatore di sintesi: controlla la copertura nella pagina del modello prima di trarre conclusioni forti.
Prezzi
I prezzi di listino dei modelli provengono dal catalogo pubblico di OpenRouter e sono mostrati per 1 milione di token. Tracciamo 9 campi di prezzo: input, output, lettura cache, scrittura cache, immagini, audio, ragionamento interno, ricerca web e costi per richiesta. Le offerte dei singoli provider (prezzo, quantizzazione, finestra di contesto, uptime) provengono dall'API degli endpoint di OpenRouter, così lo stesso modello può essere confrontato tra host diversi.
I prezzi vengono verificati ogni giorno e salvati come storico giornaliero dei prezzi, mostrato in un grafico in ogni pagina del modello. Le variazioni di prezzo che si mantengono vengono registrate come eventi datati nel changelog.
Monitoraggio uptime
L'uptime dei provider viene misurato chiamando ogni 15 minuti l'endpoint API pubblico di ciascun provider tracciato e registrando stato HTTP e tempo di risposta. Tre controlli falliti consecutivi aprono un incidente; due controlli riusciti consecutivi lo chiudono.
Le percentuali di uptime sono calcolate dai controlli salvati, conservati per 35 giorni. Riflettono la disponibilità dell'endpoint API, non quella dei singoli modelli.
Classificazione Open Source
Un modello è classificato "Open Source" se i suoi pesi sono scaricabili e utilizzabili con licenza approvata OSI (Apache 2.0, MIT) o licenza comunitaria permissiva (Llama Community License). I modelli con "pesi aperti" sotto licenze restrittive sono contrassegnati a parte.
Frequenza di aggiornamento
| Tipo di dato | Frequenza |
|---|---|
| Prezzi API | Giornaliero |
| Catalogo modelli | Giornaliero (da OpenRouter) |
| Punteggi dei benchmark | Giornaliero |
| Stato dei provider | Ogni 15 minuti |
| Server MCP | Giornaliero |
| Mindshare (Hacker News, Wikipedia, GitHub) | Giornaliero |
| Dati aziendali | Pubbliche: ogni giorno · private: due volte a settimana |
| Prezzi di noleggio GPU | Giornaliero |
| Gecko Tests | Laboratorio giornaliero · ogni modello una volta per versione del test |
| Chip, memoria, fonderie, sistemi, energia | Dataset curato · aggiornato al · |
Correzioni
Se noti un errore nei nostri dati, scrivi a hello@benchgecko.ai o contattaci su X @BenchGecko. Ogni dato conserva la propria fonte e data, quindi le correzioni possono essere verificate rispetto all'originale.
Creato dal team BenchGecko a partire da fonti pubbliche. Ogni dato mostra data e fonte.