BenchGecko Labs

자체 AI 테스트 · 원본 답변 공개

BenchGecko가 설계하고 실행 · 데이터는 CC BY 4.0

BenchGecko Labs는 추적 중인 모든 연구소의 최신 모델을 대상으로 직접 설계하고 실행하는 자동화 테스트, Gecko Tests를 운영합니다. 새 모델은 보통 카탈로그에 등록된 지 하루 안에 테스트됩니다. 점수, 테스트 문항, 원본 답변은 모두 공개됩니다.

테스트된 모델

데이터가 있는 테스트

최근 실행

벤치마크는 모델이 무엇을 풀 수 있는지를 측정합니다. Gecko Tests는 모델이 어떻게 행동하는지를 측정합니다. 자신을 만든 곳을 아는지, 세계를 어떻게 그리는지, 무엇을 거부하는지, 지식이 어디서 끝나는지, 다른 언어에는 어떤 비용이 드는지, 그리고 알림 없이 바뀌는지를 봅니다.

프로필 테스트는 새 모델이 나타나면 모델 버전마다 한 번씩 실행됩니다. 모니터링 테스트는 같은 모델에 반복 실행됩니다. Model Drift Index는 매주, Same Model Different Host는 매월 실행됩니다. 모든 실행에는 날짜가 기록되고 모든 답변이 저장됩니다.

주목할 만한 결과는 블로그에 발견 사항으로 게시됩니다. 점수, 테스트 문항, 원본 답변은 CC BY 4.0에 따라 자유롭게 재사용할 수 있으며, 각 테스트 페이지의 JSON과 GitHub의 BenchGecko 데이터셋 저장소에서 제공하는 일일 내보내기 파일로 받을 수 있습니다.

블로그의 모든 발견 사항

Gecko Tests 결과, 테스트 문항, 원본 답변은 CC BY 4.0에 따라 자유롭게 재사용할 수 있습니다. 모든 테스트 페이지에서 JSON을 내려받거나 GitHub에서 일일 내보내기 파일을 받으세요.

GitHub의 BenchGecko/datasets
BenchGecko Labs는 BenchGecko가 AI 모델에 자체 자동화 테스트를 실행하는 곳입니다. 정체성(Who Are You), 지리(World Map), 거부(Censorship Index), 지식 기준일(Knowledge Horizon), 언어 비용(Tokenizer Tax), 조용한 변경(Model Drift Index), 제공자 품질(Same Model Different Host)을 다루며, Gecko Scorecard가 이를 종합합니다.