Alle LLM-Vergleiche
Direktvergleich
GPT-5.4 mini vs. Gemini 3.1 Pro Preview
Veröffentlichte Benchmarkwerte aus derselben Version und Vergleichskohorte, API-Preise und technische Eckdaten. Unterschiedliche Testeinstellungen werden sichtbar ausgewiesen.
114
gemeinsame Messreihen
20
verschiedene Benchmarks
11.08.2026
jüngster Abruf
Modellauswahl ändern
Steckbrief und Kosten
Allgemeine Daten und Standard-API-Preise
Nicht veröffentlichte Parameterzahlen oder Wissensstände bleiben als solche markiert. Die Tabelle zeigt direkte Standardtarife pro Token einschließlich hinterlegter Kontextstufen. Batch, Fast, Priority, regionale Aufschläge, Toolaufrufe und Cloudpreise sind nicht eingerechnet.
| Merkmal | GPT-5.4 mini | Gemini 3.1 Pro Preview |
|---|---|---|
| Anbieter | OpenAI | |
| Erschienen | März 2026 | 19. Feb. 2026 |
| Verfügbarkeit | Aktiv | Preview |
| Modelltyp | Proprietär | Proprietär |
| Parameter | Nicht veröffentlicht | Nicht veröffentlicht |
| Architektur | Nicht veröffentlicht | Nicht veröffentlicht |
| Kontextfenster | 400.000 Token | 1.048.576 Token |
| Wissensstand | 31. August 2025 | Nicht veröffentlicht |
| Technische Quellen | Modell | Modell |
| API-Preise pro 1 Mio. Token | ||
| API-Eingabe | 0,75 $ | 2 $ ≤200K / 4 $ >200K |
| API-Ausgabe | 4,5 $ | 12 $ ≤200K / 18 $ >200K |
| Cache lesen | 0,07 $ | 0,2 $ ≤200K / 0,4 $ >200K |
| Cache schreiben (5 Min.) | Nicht ausgewiesen | Nicht ausgewiesen |
| Cache schreiben (1 Std.) | Nicht ausgewiesen | Nicht ausgewiesen |
| Preis geprüft | 30.07.2026Quelle | 30.07.2026Quelle |
GPT-5.4 miniGemini 3.1 Pro Preview
API-EingabeUSD pro 1 Mio. Token, Basistarif
GPT-5.4 mini0,75 $Gemini 3.1 Pro Preview2 $
API-AusgabeUSD pro 1 Mio. Token, Basistarif
GPT-5.4 mini4,5 $Gemini 3.1 Pro Preview12 $
Cache lesenUSD pro 1 Mio. Token, Basistarif
GPT-5.4 mini0,075 $Gemini 3.1 Pro Preview0,2 $
Leistung
Gemeinsame Benchmarks
Nur veröffentlichte Ergebnisse mit derselben Benchmark-Version, Aufgabe, Metrik und Vergleichskohorte werden gegenübergestellt. Wenn Anbieter unterschiedliche Reasoning-Stufen, Agenten oder Ausgabegrenzen verwendet haben, steht das direkt in der Tabelle.
114 gemeinsame Messreihen
GPT-5.4 miniGemini 3.1 Pro Preview
Code MigrationOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini12,936 %Gemini 3.1 Pro Preview17,313 %
CorpFin v2Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini60,917 %Gemini 3.1 Pro Preview64,491 %
EMBOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini45,426 %Gemini 3.1 Pro Preview52,616 %
Finance Agent (v2)Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini45,36 %Gemini 3.1 Pro Preview42,982 %
GPQA DiamondOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini83,08 %Gemini 3.1 Pro Preview95,454 %
Legal Research BenchOverall · All-pass. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini12,5 %Gemini 3.1 Pro Preview20,673 %
LiveCodeBench v6Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini81,465 %Gemini 3.1 Pro Preview88,485 %
MMLU-ProOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini84,554 %Gemini 3.1 Pro Preview90,987 %
MMMU-ProOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini79,249 %Gemini 3.1 Pro Preview88,208 %
MortgageTaxOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini63,514 %Gemini 3.1 Pro Preview69,396 %
ProgramBenchOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini0 %Gemini 3.1 Pro Preview0 %
ProofBenchOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.4 mini21 %Gemini 3.1 Pro Preview26 %
| Benchmark und Aufgabe | GPT-5.4 mini | Gemini 3.1 Pro Preview | Vergleichbarkeit | Quelle |
|---|---|---|---|---|
| Code MigrationOverall | 12,936 % | 17,313 %höher | 1accuracyMehr ist besserKohorte: vals-code-migration:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Overall | 60,917 % | 64,491 %höher | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| EMBOverall | 45,426 % | 52,616 %höher | 1accuracyMehr ist besserKohorte: vals-emb:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-emb-2026-08-11-e3c855e236e4Abgerufen am 11.08.2026 |
| Finance Agent (v2)Overall | 45,36 %höher | 42,982 % | 2accuracyMehr ist besserKohorte: vals-finance-agent-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-fabv2-2026-08-11-3e5c93a1857cAbgerufen am 11.08.2026 |
| GPQA DiamondOverall | 83,08 % | 95,454 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Legal Research BenchOverall · All-pass | 12,5 % | 20,673 %höher | 1all-pass rateMehr ist besserKohorte: vals-legal-research:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-legal_research-2026-08-11-326cf7aaca58Abgerufen am 11.08.2026 |
| LiveCodeBench v6Overall | 81,465 % | 88,485 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProOverall | 84,554 % | 90,987 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MMMU-ProOverall | 79,249 % | 88,208 %höher | 1accuracyMehr ist besserKohorte: vals-mmmu:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmmu-2026-08-11-9869cf71f8c7Abgerufen am 11.08.2026 |
| MortgageTaxOverall | 63,514 % | 69,396 %höher | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchOverall | 0 % | 0 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| ProofBenchOverall | 21 % | 26 %höher | 1accuracyMehr ist besserKohorte: vals-proof-bench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-proof_bench-2026-08-11-c6615e599d88Abgerufen am 11.08.2026 |
| SAGEOverall | 50,813 %höher | 48,677 % | 1accuracyMehr ist besserKohorte: vals-sage:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench VerifiedOverall | 73 % | 78,8 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Overall | 71,218 % | 72,882 %höher | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0OverallReasoning: high | 44,944 % | 67,416 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Terminal-Bench 2.1OverallReasoning: high | 54,682 % | 70,787 %höher | 2.1accuracyMehr ist besserKohorte: vals-terminal-bench-2-1:2.1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-terminal-bench-2-1-2026-08-11-8f0ebd72a609Abgerufen am 11.08.2026 |
| Vals IndexOverall | 52,425 % | 53,77 %höher | 1.2weighted index scoreMehr ist besserKohorte: vals-vals-index:1.2:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-vals_index-2026-08-11-e79d08d59249Abgerufen am 11.08.2026 |
| Vals Multimodal IndexOverall | 54,219 % | 56,068 %höher | 1.2weighted index scoreMehr ist besserKohorte: vals-vals-multimodal-index:1.2:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-vals_multimodal_index-2026-08-11-fa704862df19Abgerufen am 11.08.2026 |
| Vibe Code Bench v1.1Overall | 47,969 %höher | 32,034 % | 1.1accuracyMehr ist besserKohorte: vals-vibe-code-bench:1.1:overallTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Harness: OpenHands, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Harness: OpenHands, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 05.08.2026Import-ID: vals-vibe-code-2026-08-11-b6b708f7b194Abgerufen am 11.08.2026 |
| Code MigrationCLI | 8,2 % | 10,833 %höher | 1accuracyMehr ist besserKohorte: vals-code-migration:1:cliTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Exact Pages | 61,538 %höher | 60,839 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:exact_pagesTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| EMBComps | 40,488 % | 44,505 %höher | 1accuracyMehr ist besserKohorte: vals-emb:1:compsTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-emb-2026-08-11-e3c855e236e4Abgerufen am 11.08.2026 |
| Finance Agent (v2)Adjustments | 45,366 %höher | 38,361 % | 2accuracyMehr ist besserKohorte: vals-finance-agent-v2:2:adjustmentsTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-fabv2-2026-08-11-3e5c93a1857cAbgerufen am 11.08.2026 |
| GPQA DiamondFew-Shot CoT | 84,848 % | 95,96 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_few_shot_cotTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Legal Research BenchAdministrative / Regulatory · All-pass | 15,152 % | 24,242 %höher | 1all-pass rateMehr ist besserKohorte: vals-legal-research:1:administrative_regulatoryTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-legal_research-2026-08-11-326cf7aaca58Abgerufen am 11.08.2026 |
| LiveCodeBench v6Easy | 97,826 % | 99,068 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:easyTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProBiology | 91,353 % | 95,258 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:biologyTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MortgageTaxNumerical Extraction | 79,412 %höher | 76,391 % | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:numerical_extractionTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchAlmost Resolved | 3 %höher | 1 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:almostTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGEAutomata | 41,27 %höher | 32,143 % | 1accuracyMehr ist besserKohorte: vals-sage:1:automataTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified<15 min fix | 85,567 % | 88,66 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:<15 min fixTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Correctness | 63,042 %höher | 60,749 % | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:correctnessTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0EasyReasoning: high | 75 % | 100 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:easyTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Terminal-Bench 2.1EasyReasoning: high | 75 % | 91,667 %höher | 2.1accuracyMehr ist besserKohorte: vals-terminal-bench-2-1:2.1:easyTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-terminal-bench-2-1-2026-08-11-8f0ebd72a609Abgerufen am 11.08.2026 |
| Vals IndexCorpFin v2 | 60,256 % | 65,734 %höher | 1.2benchmark scoreMehr ist besserKohorte: vals-vals-index:1.2:corp_fin_v2Testaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-vals_index-2026-08-11-e79d08d59249Abgerufen am 11.08.2026 |
| Vals Multimodal IndexCorpFin v2 | 60,256 % | 65,734 %höher | 1.2benchmark scoreMehr ist besserKohorte: vals-vals-multimodal-index:1.2:corp_fin_v2Testaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-vals_multimodal_index-2026-08-11-fa704862df19Abgerufen am 11.08.2026 |
| Code MigrationCOBOL | 27,143 % | 36,753 %höher | 1accuracyMehr ist besserKohorte: vals-code-migration:1:cobolTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Max Fitting Context | 60,956 % | 66,9 %höher | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:max_fitting_contextTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| EMBDataroom | 48,286 % | 79,17 %höher | 1accuracyMehr ist besserKohorte: vals-emb:1:dataroomTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-emb-2026-08-11-e3c855e236e4Abgerufen am 11.08.2026 |
| Finance Agent (v2)All-Pass | 32,369 %höher | 30,879 % | 2accuracyMehr ist besserKohorte: vals-finance-agent-v2:2:all_passTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-fabv2-2026-08-11-3e5c93a1857cAbgerufen am 11.08.2026 |
| GPQA DiamondZero-Shot CoT | 81,313 % | 94,949 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_zero_shot_cotTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Legal Research BenchAdministrative / Regulatory · Weighted partial credit | 69,72 % | 79,215 %höher | 1weighted partial-credit scoreMehr ist besserKohorte: vals-legal-research:1:weighted_pass__administrative_regulatoryTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-legal_research-2026-08-11-326cf7aaca58Abgerufen am 11.08.2026 |
| LiveCodeBench v6Hard | 61,714 % | 76,571 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:hardTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProBusiness | 89,734 % | 93,409 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:businessTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MortgageTaxSemantic Extraction | 47,615 % | 62,401 %höher | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:semantic_extractionTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchFully Resolved | 0 % | 0 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:strictTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGECalculus | 59,259 % | 78,395 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:calculusTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified>4 hours | 0 % | 33,333 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:>4 hoursTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Stepwise Reasoning | 79,395 % | 85,016 %höher | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:stepwise_reasoningTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0HardReasoning: high | 24,444 % | 53,333 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:hardTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Terminal-Bench 2.1HardReasoning: high | 34,444 % | 60 %höher | 2.1accuracyMehr ist besserKohorte: vals-terminal-bench-2-1:2.1:hardTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-terminal-bench-2-1-2026-08-11-8f0ebd72a609Abgerufen am 11.08.2026 |
| Vals IndexFinance Agent v2 | 45,407 %höher | 42,968 % | 1.2benchmark scoreMehr ist besserKohorte: vals-vals-index:1.2:finance_agentTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-vals_index-2026-08-11-e79d08d59249Abgerufen am 11.08.2026 |
| Vals Multimodal IndexFinance Agent v2 | 45,407 %höher | 42,968 % | 1.2benchmark scoreMehr ist besserKohorte: vals-vals-multimodal-index:1.2:finance_agentTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-vals_multimodal_index-2026-08-11-fa704862df19Abgerufen am 11.08.2026 |
| Code MigrationCode Quality | 3,053 / 5höher | 2,538 / 5 | 1mean reviewer code-quality ratingMehr ist besserKohorte: vals-code-migration:1:code_qualityTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Shared Max Context | 60,256 % | 65,734 %höher | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:shared_max_contextTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| EMBDCF | 40,605 % | 46,388 %höher | 1accuracyMehr ist besserKohorte: vals-emb:1:dcfTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-emb-2026-08-11-e3c855e236e4Abgerufen am 11.08.2026 |
| Finance Agent (v2)Comparables | 40,273 %höher | 36,66 % | 2accuracyMehr ist besserKohorte: vals-finance-agent-v2:2:comparablesTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-fabv2-2026-08-11-3e5c93a1857cAbgerufen am 11.08.2026 |
| Legal Research BenchBusiness & Commercial · All-pass | 11,628 % | 23,256 %höher | 1all-pass rateMehr ist besserKohorte: vals-legal-research:1:business_commercialTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-legal_research-2026-08-11-326cf7aaca58Abgerufen am 11.08.2026 |
| LiveCodeBench v6Medium | 84,856 % | 89,817 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:mediumTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProChemistry | 89,134 % | 93,286 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:chemistryTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| ProgramBenchRaw Pass Rate | 54,375 %höher | 39,468 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:partialTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGELinear Algebra | 71,486 % | 74,205 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:linear_algebraTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified1-4 hours | 33,333 % | 42,857 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:1-4 hoursTestaufbau nicht identisch dokumentiertGPT-5.4 mini: Snapshot: gpt-5.4-mini-2026-03-17, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
Die Tabelle zeigt 64 diversifizierte Messreihen aus insgesamt 114 gemeinsamen Ergebnissen. Dadurch verdrängt ein Benchmark mit vielen Unteraufgaben nicht alle anderen Tests.
So liest du den Vergleich
Ein Benchmark-Sieg ist kein Gesamturteil
Entscheidend sind deine Aufgaben, dein Budget und die benötigte Kontextlänge. Ein Coding-Benchmark sagt wenig über Bildverständnis oder Agentenarbeit aus.
Preise beziehen sich auf die offiziellen API-Tarife pro 1 Mio. Token. Web-Abos und Cloud-Aufschläge können davon abweichen.
Jeder Messwert verlinkt seine Messstelle und zeigt den Abrufstand. Je nach Kennzeichnung handelt es sich um eine Anbieterangabe, ein offizielles Benchmark-Leaderboard oder eine unabhängige Evaluation. Strittige oder archivierte Ergebnisse werden nicht verwendet.