Gemma 2 27B
オープンソース開発元 Google DeepMind · リリース日 2024-07-13
32.9
平均スコア
$0.65/1M
入力料金
$0.65/1M
出力料金
8K tokens (~4 books)
コンテキストウィンドウ
text
タイプ
Tested on 11 benchmarks with 32.9% average. Top scores: Chatbot Arena Elo — Overall (1287.6%), IFEval (79.8%), MMLU (67.6%).
ベンチマークスコア
| ベンチマーク | カテゴリ | スコア | Bar |
|---|---|---|---|
| Chatbot Arena Elo — Overall | arena | 1287.6 | |
| IFEval | language | 79.8 | |
| MMLU | knowledge | 67.6 | |
| BBH (HuggingFace) | general | 49.3 | |
| MMLU-PRO | knowledge | 38.4 | |
| MATH level 5 | math | 27.9 | |
| MATH Level 5 | math | 23.9 | |
| GPQA | knowledge | 16.7 | |
| GPQA diamond | knowledge | 15.3 | |
| MUSR | reasoning | 9.1 | |
| OTIS Mock AIME 2024-2025 | math | 1.3 |