Alle LLM-Vergleiche
Direktvergleich
GPT-5.4 vs. Gemini 3.5 Flash
Veröffentlichte Benchmarkwerte aus derselben Version und Vergleichskohorte, API-Preise und technische Eckdaten. Unterschiedliche Testeinstellungen werden sichtbar ausgewiesen.
119
gemeinsame Messreihen
19
verschiedene Benchmarks
11.08.2026
jüngster Abruf
Modellauswahl ändern
Steckbrief und Kosten
Allgemeine Daten und Standard-API-Preise
Nicht veröffentlichte Parameterzahlen oder Wissensstände bleiben als solche markiert. Die Tabelle zeigt direkte Standardtarife pro Token einschließlich hinterlegter Kontextstufen. Batch, Fast, Priority, regionale Aufschläge, Toolaufrufe und Cloudpreise sind nicht eingerechnet.
| Merkmal | GPT-5.4 | Gemini 3.5 Flash |
|---|---|---|
| Anbieter | OpenAI | |
| Erschienen | März 2026 | 19. Mai 2026 |
| Verfügbarkeit | Aktiv | Aktiv |
| Modelltyp | Proprietär | Proprietär |
| Parameter | Nicht veröffentlicht | Nicht veröffentlicht |
| Architektur | Nicht veröffentlicht | Nicht veröffentlicht |
| Kontextfenster | 1.050.000 Token | 1.048.576 Token |
| Wissensstand | 31. August 2025 | Nicht veröffentlicht |
| Technische Quellen | Modell | Modell |
| API-Preise pro 1 Mio. Token | ||
| API-Eingabe | 2,5 $ ≤272K / 5 $ >272K | 1,5 $ |
| API-Ausgabe | 15 $ ≤272K / 22,5 $ >272K | 9 $ |
| Cache lesen | 0,25 $ ≤272K / 0,5 $ >272K | 0,15 $ |
| Cache schreiben (5 Min.) | Nicht ausgewiesen | Nicht ausgewiesen |
| Cache schreiben (1 Std.) | Nicht ausgewiesen | Nicht ausgewiesen |
| Preis geprüft | 30.07.2026Quelle | 30.07.2026Quelle |
GPT-5.4Gemini 3.5 Flash
API-EingabeUSD pro 1 Mio. Token, Basistarif
GPT-5.42,5 $Gemini 3.5 Flash1,5 $
API-AusgabeUSD pro 1 Mio. Token, Basistarif
GPT-5.415 $Gemini 3.5 Flash9 $
Cache lesenUSD pro 1 Mio. Token, Basistarif
GPT-5.40,25 $Gemini 3.5 Flash0,15 $
Leistung
Gemeinsame Benchmarks
Nur veröffentlichte Ergebnisse mit derselben Benchmark-Version, Aufgabe, Metrik und Vergleichskohorte werden gegenübergestellt. Wenn Anbieter unterschiedliche Reasoning-Stufen, Agenten oder Ausgabegrenzen verwendet haben, steht das direkt in der Tabelle.
119 gemeinsame Messreihen
GPT-5.4Gemini 3.5 Flash
Code MigrationOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.434,984 %Gemini 3.5 Flash26,745 %
CorpFin v2Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.465,268 %Gemini 3.5 Flash64,686 %
CyberBenchOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.472,881 %Gemini 3.5 Flash69,331 %
GPQA DiamondOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.491,666 %Gemini 3.5 Flash92,676 %
Harvey's Legal Agent BenchmarkOverall · Task fully resolved. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.40 %Gemini 3.5 Flash2,5 %
LegalBenchOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.486,044 %Gemini 3.5 Flash83,602 %
LiveCodeBench v6Overall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.484,141 %Gemini 3.5 Flash87,604 %
MedCodeOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.441,292 %Gemini 3.5 Flash55,825 %
MedScribeOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.477,549 %Gemini 3.5 Flash76,574 %
MMLU-ProOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.487,482 %Gemini 3.5 Flash89,515 %
MMMU-ProOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.487,514 %Gemini 3.5 Flash88,266 %
MortgageTaxOverall. Mehr ist besser. Testaufbau nicht identisch dokumentiert
GPT-5.468,323 %Gemini 3.5 Flash68,124 %
| Benchmark und Aufgabe | GPT-5.4 | Gemini 3.5 Flash | Vergleichbarkeit | Quelle |
|---|---|---|---|---|
| Code MigrationOverall | 34,984 %höher | 26,745 % | 1accuracyMehr ist besserKohorte: vals-code-migration:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Overall | 65,268 %höher | 64,686 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| CyberBenchOverall | 72,881 %höher | 69,331 % | 1accuracyMehr ist besserKohorte: vals-cyberbench:1:overallKein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05 Gemini 3.5 Flash: Keine weiteren Einstellungen ausgewiesen | Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026 |
| GPQA DiamondOverall | 91,666 % | 92,676 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Harvey's Legal Agent BenchmarkOverall · Task fully resolved | 0 % | 2,5 %höher | 1task resolution rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-hlab-2026-08-11-ea11b6e53414Abgerufen am 11.08.2026 |
| LegalBenchOverall | 86,044 %höher | 83,602 % | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Overall | 84,141 % | 87,604 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MedCodeOverall | 41,292 % | 55,825 %höher | 1accuracyMehr ist besserKohorte: vals-medcode:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-medcode-2026-08-11-59016050c3a3Abgerufen am 11.08.2026 |
| MedScribeOverall | 77,549 %höher | 76,574 % | 1accuracyMehr ist besserKohorte: vals-medscribe:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-medscribe-2026-08-11-d7cf1ca6b81fAbgerufen am 11.08.2026 |
| MMLU-ProOverall | 87,482 % | 89,515 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MMMU-ProOverall | 87,514 % | 88,266 %höher | 1accuracyMehr ist besserKohorte: vals-mmmu:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmmu-2026-08-11-9869cf71f8c7Abgerufen am 11.08.2026 |
| MortgageTaxOverall | 68,323 %höher | 68,124 % | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchOverall | 0 % | 0 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| ProofBenchOverall | 56 %höher | 29 % | 1accuracyMehr ist besserKohorte: vals-proof-bench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-proof_bench-2026-08-11-c6615e599d88Abgerufen am 11.08.2026 |
| SAGEOverall | 43,312 % | 49,885 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SkillsBenchOverall | 51,711 % | 52,737 %höher | 1accuracyMehr ist besserKohorte: vals-skillsbench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Harness: OpenHands, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Harness: OpenHands, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-skillsbench-2026-08-11-351bec9d0e01Abgerufen am 11.08.2026 |
| SWE-bench VerifiedOverall | 78,2 % | 78,8 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Overall | 73,958 % | 74,366 %höher | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0OverallReasoning: high | 58,427 % | 67,416 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:overallTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Code MigrationCLI | 23,788 %höher | 17,175 % | 1accuracyMehr ist besserKohorte: vals-code-migration:1:cliTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Exact Pages | 64,103 %höher | 62,821 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:exact_pagesTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| CyberBenchPatch | 81,356 %höher | 81,034 % | 1accuracyMehr ist besserKohorte: vals-cyberbench:1:patchKein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05 Gemini 3.5 Flash: Keine weiteren Einstellungen ausgewiesen | Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026 |
| GPQA DiamondFew-Shot CoT | 91,414 % | 91,414 % | 1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_few_shot_cotTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Harvey's Legal Agent BenchmarkAntitrust Competition · Criteria passed | 76,449 % | 84,42 %höher | 1criteria pass rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:criteria_pass_rate__antitrust_competitionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-hlab-2026-08-11-ea11b6e53414Abgerufen am 11.08.2026 |
| LegalBenchConclusion Tasks | 88,939 %höher | 81,939 % | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:conclusion_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Easy | 99,068 % | 99,068 % | 1accuracyMehr ist besserKohorte: vals-lcb:1:easyTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProBiology | 92,887 % | 93,863 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:biologyTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MortgageTaxNumerical Extraction | 75,994 % | 77,504 %höher | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:numerical_extractionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchAlmost Resolved | 7 %höher | 1,5 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:almostTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGEAutomata | 21,428 % | 38,492 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:automataTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SkillsBenchNo Skills | 48,905 %höher | 40,971 % | 1accuracyMehr ist besserKohorte: vals-skillsbench:1:no_skillsTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Harness: OpenHands, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Harness: OpenHands, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-skillsbench-2026-08-11-351bec9d0e01Abgerufen am 11.08.2026 |
| SWE-bench Verified<15 min fix | 88,144 %höher | 86,598 % | 1accuracyMehr ist besserKohorte: vals-swebench:1:<15 min fixTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Correctness | 64,922 %höher | 61,897 % | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:correctnessTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0EasyReasoning: high | 100 % | 100 % | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:easyTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Code MigrationCOBOL | 68,571 %höher | 55,455 % | 1accuracyMehr ist besserKohorte: vals-code-migration:1:cobolTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Max Fitting Context | 64,918 % | 66,667 %höher | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:max_fitting_contextTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| CyberBenchPoC | 64,407 %höher | 57,627 % | 1accuracyMehr ist besserKohorte: vals-cyberbench:1:pocKein dokumentierter Setup-UnterschiedGPT-5.4: Snapshot: gpt-5.4-2026-03-05 Gemini 3.5 Flash: Keine weiteren Einstellungen ausgewiesen | Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026 |
| GPQA DiamondZero-Shot CoT | 91,919 % | 93,939 %höher | 1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_zero_shot_cotTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026 |
| Harvey's Legal Agent BenchmarkAntitrust Competition · Task fully resolved | 0 % | 0 % | 1task resolution rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:antitrust_competitionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-hlab-2026-08-11-ea11b6e53414Abgerufen am 11.08.2026 |
| LegalBenchInterpretation Tasks | 83,921 % | 88,675 %höher | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:interpretation_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Hard | 67,714 % | 73,143 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:hardTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProBusiness | 91,762 % | 93,283 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:businessTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| MortgageTaxSemantic Extraction | 60,652 %höher | 58,744 % | 1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:semantic_extractionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026 |
| ProgramBenchFully Resolved | 0 % | 0 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:strictTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGELinear Algebra | 68,826 %höher | 68,305 % | 1accuracyMehr ist besserKohorte: vals-sage:1:linear_algebraTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SkillsBenchWith Skills | 51,711 % | 52,737 %höher | 1accuracyMehr ist besserKohorte: vals-skillsbench:1:with_skillsTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Harness: OpenHands, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Harness: OpenHands, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-skillsbench-2026-08-11-351bec9d0e01Abgerufen am 11.08.2026 |
| SWE-bench Verified>4 hours | 0 % | 33,333 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:>4 hoursTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| TaxEval v2Stepwise Reasoning | 82,993 % | 86,836 %höher | 2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:stepwise_reasoningTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026 |
| Terminal-Bench 2.0HardReasoning: high | 33,333 % | 53,333 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:hardTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Code MigrationCode Quality | 3,632 / 5höher | 2,789 / 5 | 1mean reviewer code-quality ratingMehr ist besserKohorte: vals-code-migration:1:code_qualityTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026 |
| CorpFin v2Shared Max Context | 66,783 %höher | 64,569 % | 2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:shared_max_contextTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026 |
| Harvey's Legal Agent BenchmarkArbitration International Dispute Resolution · Criteria passed | 66,667 % | 78,495 %höher | 1criteria pass rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:criteria_pass_rate__arbitration_international_dispute_resolutionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-hlab-2026-08-11-ea11b6e53414Abgerufen am 11.08.2026 |
| LegalBenchIssue Tasks | 90,526 %höher | 76,014 % | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:issue_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| LiveCodeBench v6Medium | 85,64 % | 90,601 %höher | 1accuracyMehr ist besserKohorte: vals-lcb:1:mediumTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026 |
| MMLU-ProChemistry | 91,078 % | 93,11 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:chemistryTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| ProgramBenchRaw Pass Rate | 68,596 %höher | 56,356 % | 1accuracyMehr ist besserKohorte: vals-programbench:1:partialTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026 |
| SAGEPartial Differential Equations | 39,683 % | 42,857 %höher | 1accuracyMehr ist besserKohorte: vals-sage:1:PDEsTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026 |
| SWE-bench Verified1-4 hours | 50 % | 52,381 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:1-4 hoursTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| Terminal-Bench 2.0MediumReasoning: high | 69,091 % | 72,727 %höher | 2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:mediumTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026 |
| Harvey's Legal Agent BenchmarkArbitration International Dispute Resolution · Task fully resolved | 0 % | 0 % | 1task resolution rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:arbitration_international_dispute_resolutionTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-hlab-2026-08-11-ea11b6e53414Abgerufen am 11.08.2026 |
| LegalBenchRhetoric Tasks | 82,824 % | 83,384 %höher | 1accuracyMehr ist besserKohorte: vals-legal-bench:1:rhetoric_tasksTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026 |
| MMLU-ProComputer Science | 89,756 % | 91,707 %höher | 1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:computer_scienceTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026 |
| SWE-bench Verified15 min - 1 hour | 76,245 % | 77,778 %höher | 1accuracyMehr ist besserKohorte: vals-swebench:1:15 min - 1 hourTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026 |
| Harvey's Legal Agent BenchmarkBanking Finance · Criteria passed | 80,297 % | 80,669 %höher | 1criteria pass rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:criteria_pass_rate__banking_financeTestaufbau nicht identisch dokumentiertGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 Token Gemini 3.5 Flash: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 Token | Vals AITyp: Unabhängige EvaluationMessstand: 07.08.2026Import-ID: vals-hlab-2026-08-11-ea11b6e53414Abgerufen am 11.08.2026 |
Die Tabelle zeigt 64 diversifizierte Messreihen aus insgesamt 119 gemeinsamen Ergebnissen. Dadurch verdrängt ein Benchmark mit vielen Unteraufgaben nicht alle anderen Tests.
So liest du den Vergleich
Ein Benchmark-Sieg ist kein Gesamturteil
Entscheidend sind deine Aufgaben, dein Budget und die benötigte Kontextlänge. Ein Coding-Benchmark sagt wenig über Bildverständnis oder Agentenarbeit aus.
Preise beziehen sich auf die offiziellen API-Tarife pro 1 Mio. Token. Web-Abos und Cloud-Aufschläge können davon abweichen.
Jeder Messwert verlinkt seine Messstelle und zeigt den Abrufstand. Je nach Kennzeichnung handelt es sich um eine Anbieterangabe, ein offizielles Benchmark-Leaderboard oder eine unabhängige Evaluation. Strittige oder archivierte Ergebnisse werden nicht verwendet.