BenchGecko Labs

Nossos Próprios Testes de IA · Respostas Brutas Incluídas

Criado e executado pelo BenchGecko · dados sob CC BY 4.0

O BenchGecko Labs executa os Gecko Tests: testes automatizados que nós mesmos criamos e rodamos nos modelos mais recentes de cada laboratório monitorado. Novos lançamentos costumam ser testados em até um dia após entrarem no catálogo. Pontuações, itens de teste e respostas brutas são públicos.

Modelos testados

Testes com dados

Última execução

Benchmarks medem o que um modelo consegue resolver. Os Gecko Tests medem como ele se comporta: se sabe quem o criou, como desenha o mundo, o que recusa, onde termina seu conhecimento, quanto custam outros idiomas e se muda sem aviso.

Os testes de perfil rodam uma vez por versão do modelo, assim que um novo modelo aparece. Os testes de monitoramento se repetem nos mesmos modelos: o Model Drift Index toda semana, o Same Model Different Host todo mês. Cada execução é datada e cada resposta é armazenada.

Resultados notáveis são publicados como descobertas no blog. Pontuações, itens de teste e respostas brutas podem ser reutilizados livremente sob CC BY 4.0: em JSON na página de cada teste e em exportações diárias no repositório de datasets do BenchGecko no GitHub.

Todas as descobertas no blog

Os resultados, itens de teste e respostas brutas dos Gecko Tests podem ser reutilizados livremente sob CC BY 4.0. Baixe o JSON em qualquer página de teste ou obtenha as exportações diárias no GitHub.

BenchGecko/datasets no GitHub
O BenchGecko Labs é onde o BenchGecko executa seus próprios testes automatizados em modelos de IA: identidade (Who Are You), geografia (World Map), recusas (Censorship Index), corte de conhecimento (Knowledge Horizon), custo por idioma (Tokenizer Tax), mudanças silenciosas (Model Drift Index) e qualidade do provedor (Same Model Different Host). O Gecko Scorecard resume tudo.