BenchGecko Labs

Nuestras propias pruebas de IA · Respuestas originales incluidas

Diseñado y ejecutado por BenchGecko · datos bajo CC BY 4.0

BenchGecko Labs ejecuta Gecko Tests: pruebas automatizadas que diseñamos y ejecutamos nosotros mismos con los modelos más recientes de cada laboratorio seguido. Los lanzamientos nuevos suelen probarse en el plazo de un día desde que aparecen en el catálogo. Las puntuaciones, los elementos de prueba y las respuestas originales son públicos.

Modelos probados

Pruebas con datos

Última ejecución

Los benchmarks miden lo que un modelo puede resolver. Los Gecko Tests miden cómo se comporta: si sabe quién lo creó, cómo dibuja el mundo, qué rechaza, dónde termina su conocimiento, cuánto cuestan otros idiomas y si cambia sin avisar.

Las pruebas de perfil se ejecutan una vez por versión de modelo, en cuanto aparece uno nuevo. Las pruebas de monitoreo se repiten sobre los mismos modelos: el Model Drift Index cada semana, Same Model Different Host cada mes. Cada ejecución tiene fecha y cada respuesta se guarda.

Los resultados destacados se publican como hallazgos en el blog. Las puntuaciones, los elementos de prueba y las respuestas originales se pueden reutilizar libremente bajo CC BY 4.0: como JSON en la página de cada prueba y como exportaciones diarias en el repositorio de datasets de BenchGecko en GitHub.

Todos los hallazgos en el blog

Los resultados, los elementos de prueba y las respuestas originales de los Gecko Tests se pueden reutilizar libremente bajo CC BY 4.0. Descarga el JSON desde cualquier página de prueba u obtén las exportaciones diarias en GitHub.

BenchGecko/datasets en GitHub
BenchGecko Labs es donde BenchGecko ejecuta sus propias pruebas automatizadas sobre modelos de IA: identidad (Who Are You), geografía (World Map), rechazos (Censorship Index), fecha de corte del conocimiento (Knowledge Horizon), costo por idioma (Tokenizer Tax), cambios silenciosos (Model Drift Index) y calidad del proveedor (Same Model Different Host). El Gecko Scorecard las resume.