Alle LLM-Vergleiche
Direktvergleich
GPT-5.4 vs. Gemini 3.1 Pro Preview
Veröffentlichte Benchmarkwerte aus derselben Version und Vergleichskohorte, API-Preise und technische Eckdaten. Unterschiedliche Testeinstellungen werden sichtbar ausgewiesen.
79
gemeinsame Messreihen
23
verschiedene Benchmarks
11.08.2026
jüngster Abruf
Modellauswahl ändern
Steckbrief und Kosten
Allgemeine Daten und Standard-API-Preise
Nicht veröffentlichte Parameterzahlen oder Wissensstände bleiben als solche markiert. Die Tabelle zeigt direkte Standardtarife pro Token einschließlich hinterlegter Kontextstufen. Batch, Fast, Priority, regionale Aufschläge, Toolaufrufe und Cloudpreise sind nicht eingerechnet.
| Merkmal | GPT-5.4 | Gemini 3.1 Pro Preview |
|---|---|---|
| Anbieter | OpenAI | |
| Erschienen | März 2026 | 19. Feb. 2026 |
| Verfügbarkeit | Aktiv | Preview |
| Modelltyp | Proprietär | Proprietär |
| Parameter | Nicht veröffentlicht | Nicht veröffentlicht |
| Architektur | Nicht veröffentlicht | Nicht veröffentlicht |
| Kontextfenster | 1.050.000 Token | 1.048.576 Token |
| Wissensstand | 31. August 2025 | Nicht veröffentlicht |
| Technische Quellen | Modell | Modell |
| API-Preise pro 1 Mio. Token | ||
| API-Eingabe | 2,5 $ ≤272K / 5 $ >272K | 2 $ ≤200K / 4 $ >200K |
| API-Ausgabe | 15 $ ≤272K / 22,5 $ >272K | 12 $ ≤200K / 18 $ >200K |
| Cache lesen | 0,25 $ ≤272K / 0,5 $ >272K | 0,2 $ ≤200K / 0,4 $ >200K |
| Cache schreiben (5 Min.) | Nicht ausgewiesen | Nicht ausgewiesen |
| Cache schreiben (1 Std.) | Nicht ausgewiesen | Nicht ausgewiesen |
| Preis geprüft | 30.07.2026Quelle | 30.07.2026Quelle |
GPT-5.4Gemini 3.1 Pro Preview
API-EingabeUSD pro 1 Mio. Token, Basistarif
GPT-5.42,5 $Gemini 3.1 Pro Preview2 $
API-AusgabeUSD pro 1 Mio. Token, Basistarif
GPT-5.415 $Gemini 3.1 Pro Preview12 $
Cache lesenUSD pro 1 Mio. Token, Basistarif
GPT-5.40,25 $Gemini 3.1 Pro Preview0,2 $
Leistung
Gemeinsame Benchmarks
Nur veröffentlichte Ergebnisse mit derselben Benchmark-Version, Aufgabe, Metrik und Vergleichskohorte werden gegenübergestellt. Wenn Anbieter unterschiedliche Reasoning-Stufen, Agenten oder Ausgabegrenzen verwendet haben, steht das direkt in der Tabelle.
79 gemeinsame Messreihen
GPT-5.4Gemini 3.1 Pro Preview
Code MigrationOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.434,984 %Gemini 3.1 Pro Preview17,313 %
CorpFin v2Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.465,268 %Gemini 3.1 Pro Preview64,491 %
CyberBenchOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.472,881 %Gemini 3.1 Pro Preview36,441 %
GPQA DiamondOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.491,666 %Gemini 3.1 Pro Preview95,454 %
Humanity's Last ExamOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.436,24 % ± 1,88Gemini 3.1 Pro Preview46,44 % ± 1,96
LegalBenchOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.486,044 %Gemini 3.1 Pro Preview87,398 %
LiveCodeBench v6Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.484,141 %Gemini 3.1 Pro Preview88,485 %
MedCodeOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.441,292 %Gemini 3.1 Pro Preview59,062 %
MedQAOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.496,092 %Gemini 3.1 Pro Preview96,367 %
MedScribeOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.477,549 %Gemini 3.1 Pro Preview76,114 %
MMLU-ProOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.487,482 %Gemini 3.1 Pro Preview90,987 %
MMMU-ProOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.487,514 %Gemini 3.1 Pro Preview88,208 %
| Benchmark und Aufgabe | GPT-5.4 | Gemini 3.1 Pro Preview | Vergleichbarkeit | Quelle |
|---|---|---|---|---|
| Code MigrationOverall | 34,984 %höher | 17,313 % | 1accuracyMehr ist besserKohorte: vals-code-migration:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Overall | 65,268 %höher | 64,491 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| CyberBenchOverall | 72,881 %höher | 36,441 % | 1accuracyMehr ist besserKohorte: vals-cyberbench:1:overallKein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05 Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen | Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026 |
| GPQA DiamondOverall | 91,666 % | 95,454 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Humanity's Last ExamOverall | 36,24 % ± 1,88 | 46,44 % ± 1,96höher | final 2,500-question public setaccuracyMehr ist besserKohorte: hle-final-scale-public-temperature-0Kein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Versuche: pass@1 Gemini 3.1 Pro Preview: Snapshot: gemini-3.1-pro-preview-thinking-high, Versuche: pass@1Alle 2.500 öffentlichen Fragen, Temperatur 0 und automatischer Antwort-Extraktor. | Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-02-9f109d68fc81 / curated-scale-ai-2026-08-02-606cf1619b66Abgerufen am 02.08.2026 |
| LegalBenchOverall | 86,044 % | 87,398 %höher | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Overall | 84,141 % | 88,485 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MedCodeOverall | 41,292 % | 59,062 %höher | 1accuracyMehr ist besserKohorte: vals-medcode:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-medcode-2026-08-11-59016050c3a3Abgerufen am 11.08.2026 |
| MedQAOverall | 96,092 % | 96,367 %höher | 1accuracyMehr ist besserKohorte: vals-medqa:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026 |
| MedScribeOverall | 77,549 %höher | 76,114 % | 1accuracyMehr ist besserKohorte: vals-medscribe:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-medscribe-2026-08-11-d7cf1ca6b81fAbgerufen am 11.08.2026 |
| MMLU-ProOverall | 87,482 % | 90,987 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MMMU-ProOverall | 87,514 % | 88,208 %höher | 1accuracyMehr ist besserKohorte: vals-mmmu:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmmu-2026-08-11-9869cf71f8c7Abgerufen am 11.08.2026 |
| MortgageTaxOverall | 68,323 % | 69,396 %höher | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| MultiNRCOverall | 58,29 % ± 2,98 | 64,74 % ± 2,88höher | French, Spanish, and Chinese releaseaccuracyMehr ist besserKohorte: scale-multinrc-native-languagesTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-xhigh, Reasoning: xhigh, Versuche: pass@1 Gemini 3.1 Pro Preview: Versuche: pass@1Native, nicht aus dem Englischen übersetzte Reasoning-Aufgaben mit automatischer Bewertung. | Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-5ba6c48ecc82 / curated-scale-ai-2026-08-05-5a1557803da7Abgerufen am 05.08.2026 |
| PRBench FinanceOverall | 45,63 % ± 0,56höher | 41,87 % ± 1,22 | full finance setweighted rubric scoreMehr ist besserKohorte: scale-prbench-finance-fullTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Versuche: pass@1 Gemini 3.1 Pro Preview: Versuche: pass@1600 Finanzaufgaben mit aufgabenspezifischen Rubriken und o4-mini als Juror. | Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-f6b08a569deb / curated-scale-ai-2026-08-05-c33e65ae0f0eAbgerufen am 05.08.2026 |
| PRBench LegalOverall | 44,35 % ± 0,28höher | 44,02 % ± 1,12 | full legal setweighted rubric scoreMehr ist besserKohorte: scale-prbench-legal-fullTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Versuche: pass@1 Gemini 3.1 Pro Preview: Versuche: pass@1500 Rechtsaufgaben mit aufgabenspezifischen Rubriken und o4-mini als Juror. | Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-63e40da2f52b / curated-scale-ai-2026-08-05-ddea150189a5Abgerufen am 05.08.2026 |
| ProgramBenchOverall | 0 % | 0 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| ProofBenchOverall | 56 %höher | 26 % | 1accuracyMehr ist besserKohorte: vals-proof-bench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-proof_bench-2026-08-11-c6615e599d88Abgerufen am 11.08.2026 |
| SAGEOverall | 43,312 % | 48,677 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench VerifiedOverall | 78,2 % | 78,8 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Overall | 73,958 %höher | 72,882 % | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0OverallReasoning: high | 58,427 % | 67,416 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| VisualToolBenchOverall | 29,17 % ± 0,13höher | 28,97 % ± 0,91 | 1,204-task releaseaverage pass rateMehr ist besserKohorte: scale-visual-toolbench-aprTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Versuche: pass@1 Gemini 3.1 Pro Preview: Versuche: pass@11.204 Aufgaben, sechs Werkzeuge und höchstens 20 Werkzeugaufrufe pro Aufgabe. | Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-8dae0c29c04e / curated-scale-ai-2026-08-05-18cb821a3540Abgerufen am 05.08.2026 |
| Code MigrationCLI | 23,788 %höher | 10,833 % | 1accuracyMehr ist besserKohorte: vals-code-migration:1:cliTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Exact Pages | 64,103 %höher | 60,839 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:exact_pagesTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| CyberBenchPatch | 81,356 %höher | 69,492 % | 1accuracyMehr ist besserKohorte: vals-cyberbench:1:patchKein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05 Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen | Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026 |
| GPQA DiamondFew-Shot CoT | 91,414 % | 95,96 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_few_shot_cotTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| LegalBenchConclusion Tasks | 88,939 % | 89,257 %höher | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:conclusion_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Easy | 99,068 % | 99,068 % | 1accuracyMehr ist besserKohorte: vals-lcb:1:easyTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MedQAAsian | 96,15 % | 96,3 %höher | 1accuracyMehr ist besserKohorte: vals-medqa:1:asianTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026 |
| MMLU-ProBiology | 92,887 % | 95,258 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:biologyTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MortgageTaxNumerical Extraction | 75,994 % | 76,391 %höher | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:numerical_extractionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchAlmost Resolved | 7 %höher | 1 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:almostTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGEAutomata | 21,428 % | 32,143 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:automataTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified<15 min fix | 88,144 % | 88,66 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:<15 min fixTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Correctness | 64,922 %höher | 60,749 % | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:correctnessTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0EasyReasoning: high | 100 % | 100 % | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:easyTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Code MigrationCOBOL | 68,571 %höher | 36,753 % | 1accuracyMehr ist besserKohorte: vals-code-migration:1:cobolTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Max Fitting Context | 64,918 % | 66,9 %höher | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:max_fitting_contextTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| CyberBenchPoC | 64,407 %höher | 3,39 % | 1accuracyMehr ist besserKohorte: vals-cyberbench:1:pocKein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05 Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen | Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026 |
| GPQA DiamondZero-Shot CoT | 91,919 % | 94,949 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_zero_shot_cotTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| LegalBenchInterpretation Tasks | 83,921 %höher | 83,823 % | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:interpretation_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Hard | 67,714 % | 76,571 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:hardTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MedQABlack | 96,5 % | 96,8 %höher | 1accuracyMehr ist besserKohorte: vals-medqa:1:blackTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026 |
| MMLU-ProBusiness | 91,762 % | 93,409 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:businessTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MortgageTaxSemantic Extraction | 60,652 % | 62,401 %höher | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:semantic_extractionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchFully Resolved | 0 % | 0 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:strictTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGECalculus | 70,988 % | 78,395 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:calculusTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified>4 hours | 0 % | 33,333 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:>4 hoursTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Stepwise Reasoning | 82,993 % | 85,016 %höher | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:stepwise_reasoningTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0HardReasoning: high | 33,333 % | 53,333 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:hardTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Code MigrationCode Quality | 3,632 / 5höher | 2,538 / 5 | 1mean reviewer code-quality ratingMehr ist besserKohorte: vals-code-migration:1:code_qualityTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Shared Max Context | 66,783 %höher | 65,734 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:shared_max_contextTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| LegalBenchIssue Tasks | 90,526 % | 91,48 %höher | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:issue_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Medium | 85,64 % | 89,817 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:mediumTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MedQAHispanic | 95,7 % | 95,95 %höher | 1accuracyMehr ist besserKohorte: vals-medqa:1:hispanicTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026 |
| MMLU-ProChemistry | 91,078 % | 93,286 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:chemistryTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| ProgramBenchRaw Pass Rate | 68,596 %höher | 39,468 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:partialTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGELinear Algebra | 68,826 % | 74,205 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:linear_algebraTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified1-4 hours | 50 %höher | 42,857 % | 1accuracyMehr ist besserKohorte: vals-swebench:1:1-4 hoursTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| Terminal-Bench 2.0MediumReasoning: high | 69,091 % | 72,727 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:mediumTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| LegalBenchRhetoric Tasks | 82,824 % | 84,136 %höher | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:rhetoric_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| MedQAIndigenous | 95,9 % | 96,1 %höher | 1accuracyMehr ist besserKohorte: vals-medqa:1:indigenousTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026 |
| MMLU-ProComputer Science | 89,756 % | 92,683 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:computer_scienceTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
Die Tabelle zeigt 64 diversifizierte Messreihen aus insgesamt 79 gemeinsamen Ergebnissen. Dadurch verdrängt ein Benchmark mit vielen Unteraufgaben nicht alle anderen Tests.
So liest du den Vergleich
Ein Benchmark-Sieg ist kein Gesamturteil
Entscheidend sind deine Aufgaben, dein Budget und die benötigte Kontextlänge. Ein Coding-Benchmark sagt wenig über Bildverständnis oder Agentenarbeit aus.
Preise beziehen sich auf die offiziellen API-Tarife pro 1 Mio. Token. Web-Abos und Cloud-Aufschläge können davon abweichen.
Jeder Messwert verlinkt seine Messstelle und zeigt den Abrufstand. Je nach Kennzeichnung handelt es sich um eine Anbieterangabe, ein offizielles Benchmark-Leaderboard oder eine unabhängige Evaluation. Strittige oder archivierte Ergebnisse werden nicht verwendet.