Zum Hauptinhalt springen

Direktvergleich

GPT-5.4 vs. Gemini 3.1 Pro Preview

Veröffentlichte Benchmarkwerte aus derselben Version und Vergleichskohorte, API-Preise und technische Eckdaten. Unterschiedliche Testeinstellungen werden sichtbar ausgewiesen.

138

gemeinsame Messreihen

25

verschiedene Benchmarks

16.08.2026

jüngster Abruf

Modellauswahl ändern

Steckbrief und Kosten

Allgemeine Daten und Standard-API-Preise

Nicht veröffentlichte Parameterzahlen oder Wissensstände bleiben als solche markiert. Die Tabelle zeigt direkte Standardtarife pro Token einschließlich hinterlegter Kontextstufen. Batch, Fast, Priority, regionale Aufschläge, Toolaufrufe und Cloudpreise sind nicht eingerechnet.

Allgemeine Daten und API-Preise von GPT-5.4 und Gemini 3.1 Pro Preview
MerkmalGPT-5.4Gemini 3.1 Pro Preview
AnbieterOpenAIGoogle
ErschienenMärz 202619. Feb. 2026
VerfügbarkeitAktivPreview
ModelltypProprietärProprietär
ParameterNicht veröffentlichtNicht veröffentlicht
ArchitekturNicht veröffentlichtNicht veröffentlicht
Kontextfenster1.050.000 Token1.048.576 Token
Wissensstand31. August 2025Nicht veröffentlicht
Technische QuellenModellModell
API-Preise pro 1 Mio. Token
API-Eingabe2,5 $ ≤272K / 5 $ >272K2 $ ≤200K / 4 $ >200K
API-Ausgabe15 $ ≤272K / 22,5 $ >272K12 $ ≤200K / 18 $ >200K
Cache lesen0,25 $ ≤272K / 0,5 $ >272K0,2 $ ≤200K / 0,4 $ >200K
Cache schreiben (5 Min.)Nicht ausgewiesenNicht ausgewiesen
Cache schreiben (1 Std.)Nicht ausgewiesenNicht ausgewiesen
Preis geprüft30.07.2026Quelle30.07.2026Quelle
GPT-5.4Gemini 3.1 Pro Preview
API-EingabeUSD pro 1 Mio. Token, Basistarif
GPT-5.42,5 $
Gemini 3.1 Pro Preview2 $Günstiger
API-AusgabeUSD pro 1 Mio. Token, Basistarif
GPT-5.415 $
Gemini 3.1 Pro Preview12 $Günstiger
Cache lesenUSD pro 1 Mio. Token, Basistarif
GPT-5.40,25 $
Gemini 3.1 Pro Preview0,2 $Günstiger

Leistung

Gemeinsame Benchmarks

Nur veröffentlichte Ergebnisse mit derselben Benchmark-Version, Aufgabe, Metrik und Vergleichskohorte werden gegenübergestellt. Wenn Anbieter unterschiedliche Reasoning-Stufen, Agenten oder Ausgabegrenzen verwendet haben, steht das direkt in der Tabelle.

138 gemeinsame Messreihen
GPT-5.4Gemini 3.1 Pro Preview
Arena Text, Style ControlOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.41.465,439 Arena-Punkte
Gemini 3.1 Pro Preview1.486,245 Arena-PunkteGewinner
Code MigrationOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.434,984 %Gewinner
Gemini 3.1 Pro Preview17,313 %
CorpFin v2Overall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.465,268 %Gewinner
Gemini 3.1 Pro Preview64,491 %
CyberBenchOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.472,881 %Gewinner
Gemini 3.1 Pro Preview36,441 %
GPQA DiamondOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.491,666 %
Gemini 3.1 Pro Preview95,454 %Gewinner
Harvey's Legal Agent BenchmarkOverall · Task fully resolved. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.40 %Gleichstand
Gemini 3.1 Pro Preview0 %Gleichstand
Humanity's Last ExamOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.436,24 % ± 1,88
Gemini 3.1 Pro Preview46,44 % ± 1,96Gewinner
LegalBenchOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.486,044 %
Gemini 3.1 Pro Preview87,398 %Gewinner
LiveCodeBench v6Overall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.484,141 %
Gemini 3.1 Pro Preview88,485 %Gewinner
MedCodeOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.441,292 %
Gemini 3.1 Pro Preview59,062 %Gewinner
MedQAOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.496,092 %
Gemini 3.1 Pro Preview96,367 %Gewinner
MedScribeOverall. Mehr ist besser. Kein dokumentierter Setup-Unterschied
GPT-5.477,549 %Gewinner
Gemini 3.1 Pro Preview76,114 %
Benchmarkwerte von GPT-5.4 und Gemini 3.1 Pro Preview
Benchmark und AufgabeGPT-5.4Gemini 3.1 Pro PreviewVergleichbarkeitQuelle
Arena Text, Style ControlOverall
1.465,439 Arena-Punkte
95-%-Konfidenzintervall: ±3,814Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
1.486,245 Arena-PunkteGewinner
95-%-Konfidenzintervall: ±3,337Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
style-control-v1style-controlled Bradley-Terry ratingMehr ist besserKohorte: lmarena-text-style-control:2026-08-12:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4, Harness: Arena text, style control
Gemini 3.1 Pro Preview: Snapshot: gemini-3.1-pro-preview, Harness: Arena text, style control
GPT-5.4: Stilbereinigte Arena-Bewertung aus 63.759 anonymen Paarvergleichen.Gemini 3.1 Pro Preview: Stilbereinigte Arena-Bewertung aus 94.989 anonymen Paarvergleichen.
ArenaTyp: Offizielles Benchmark-LeaderboardMessstand: 12.08.2026Import-ID: lmarena-eeedf9209373a7f9b324bfb839e7b02fedacd1e5-1611ed64f3f1Abgerufen am 16.08.2026
Code MigrationOverall
34,984 %Gewinner
17,313 %
1accuracyMehr ist besserKohorte: vals-code-migration:1:overallKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 13.08.2026Import-ID: vals-code-migration-2026-08-16-107652dc6bfcAbgerufen am 16.08.2026
CorpFin v2Overall
65,268 %Gewinner
64,491 %
2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:overallKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-corp_fin_v2-2026-08-16-45bbf84f57abAbgerufen am 16.08.2026
CyberBenchOverall
72,881 %Gewinner
36,441 %
1accuracyMehr ist besserKohorte: vals-cyberbench:1:overallKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-16-702acaee9aa9Abgerufen am 16.08.2026
GPQA DiamondOverall
91,666 %
95,454 %Gewinner
1accuracyMehr ist besserKohorte: vals-gpqa:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-gpqa-2026-08-16-7f8363eaa2dbAbgerufen am 16.08.2026
Harvey's Legal Agent BenchmarkOverall · Task fully resolved
0 %Gleichstand
0 %Gleichstand
1task resolution rateMehr ist besserKohorte: vals-legal-agent-benchmark:1:overallKein dokumentierter Setup-UnterschiedGleichstandGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 14.08.2026Import-ID: vals-hlab-2026-08-16-bae90566df2fAbgerufen am 16.08.2026
Humanity's Last ExamOverall
36,24 % ± 1,88
95-%-Konfidenzintervall: ±1,88
46,44 % ± 1,96Gewinner
95-%-Konfidenzintervall: ±1,96
final 2,500-question public setaccuracyMehr ist besserKohorte: hle-final-scale-public-temperature-0Kein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Versuche: pass@1
Gemini 3.1 Pro Preview: Snapshot: gemini-3.1-pro-preview-thinking-high, Versuche: pass@1
Alle 2.500 öffentlichen Fragen, Temperatur 0 und automatischer Antwort-Extraktor.
Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-02-9f109d68fc81 / curated-scale-ai-2026-08-02-606cf1619b66Abgerufen am 02.08.2026
LegalBenchOverall
86,044 %
87,398 %Gewinner
1accuracyMehr ist besserKohorte: vals-legal-bench:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-legal_bench-2026-08-16-d5b3b1b2b5c8Abgerufen am 16.08.2026
LiveCodeBench v6Overall
84,141 %
88,485 %Gewinner
1accuracyMehr ist besserKohorte: vals-lcb:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 13.08.2026Import-ID: vals-lcb-2026-08-16-17b9c147080dAbgerufen am 16.08.2026
MedCodeOverall
41,292 %
59,062 %Gewinner
1accuracyMehr ist besserKohorte: vals-medcode:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-medcode-2026-08-16-524f7f474eacAbgerufen am 16.08.2026
MedQAOverall
96,092 %
96,367 %Gewinner
1accuracyMehr ist besserKohorte: vals-medqa:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-16-4d228d35a54bAbgerufen am 16.08.2026
MedScribeOverall
77,549 %Gewinner
76,114 %
1accuracyMehr ist besserKohorte: vals-medscribe:1:overallKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-medscribe-2026-08-16-c385354a7e62Abgerufen am 16.08.2026
MMLU-ProOverall
87,482 %
90,987 %Gewinner
1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-mmlu_pro-2026-08-16-e14d5bb3a34cAbgerufen am 16.08.2026
MMMU-ProOverall
87,514 %
88,208 %Gewinner
1accuracyMehr ist besserKohorte: vals-mmmu:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmmu-2026-08-16-37c9a8c7e21fAbgerufen am 16.08.2026
MortgageTaxOverall
68,323 %
69,396 %Gewinner
1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-mortgage_tax-2026-08-16-e78c985dbb1cAbgerufen am 16.08.2026
MultiNRCOverall
58,29 % ± 2,98
95-%-Konfidenzintervall: ±2,98
64,74 % ± 2,88Höherer Messwert
95-%-Konfidenzintervall: ±2,88
French, Spanish, and Chinese releaseaccuracyMehr ist besserKohorte: scale-multinrc-native-languagesTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-xhigh, Reasoning: xhigh, Versuche: pass@1
Gemini 3.1 Pro Preview: Versuche: pass@1
Native, nicht aus dem Englischen übersetzte Reasoning-Aufgaben mit automatischer Bewertung.
Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-5ba6c48ecc82 / curated-scale-ai-2026-08-05-5a1557803da7Abgerufen am 05.08.2026
PRBench FinanceOverall
45,63 % ± 0,56Höherer Messwert
95-%-Konfidenzintervall: ±0,56
41,87 % ± 1,22
95-%-Konfidenzintervall: ±1,22
full finance setweighted rubric scoreMehr ist besserKohorte: scale-prbench-finance-fullTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Versuche: pass@1
Gemini 3.1 Pro Preview: Versuche: pass@1
600 Finanzaufgaben mit aufgabenspezifischen Rubriken und o4-mini als Juror.
Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-f6b08a569deb / curated-scale-ai-2026-08-05-c33e65ae0f0eAbgerufen am 05.08.2026
PRBench LegalOverall
44,35 % ± 0,28Höherer Messwert
95-%-Konfidenzintervall: ±0,28
44,02 % ± 1,12
95-%-Konfidenzintervall: ±1,12
full legal setweighted rubric scoreMehr ist besserKohorte: scale-prbench-legal-fullTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Versuche: pass@1
Gemini 3.1 Pro Preview: Versuche: pass@1
500 Rechtsaufgaben mit aufgabenspezifischen Rubriken und o4-mini als Juror.
Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-63e40da2f52b / curated-scale-ai-2026-08-05-ddea150189a5Abgerufen am 05.08.2026
ProgramBenchOverall
0 %Gleichstand
0 %Gleichstand
1accuracyMehr ist besserKohorte: vals-programbench:1:overallKein dokumentierter Setup-UnterschiedGleichstandGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 13.08.2026Import-ID: vals-programbench-2026-08-16-08d9727662ddAbgerufen am 16.08.2026
SAGEOverall
43,312 %
48,677 %Gewinner
1accuracyMehr ist besserKohorte: vals-sage:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-sage-2026-08-16-a416dd25affbAbgerufen am 16.08.2026
SWE-bench VerifiedOverall
78,2 %
78,8 %Gewinner
1accuracyMehr ist besserKohorte: vals-swebench:1:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-swebench-2026-08-16-c133071b8167Abgerufen am 16.08.2026
TaxEval v2Overall
73,958 %Gewinner
72,882 %
2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:overallKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 12.08.2026Import-ID: vals-tax_eval_v2-2026-08-16-5bbd495dac53Abgerufen am 16.08.2026
Terminal-Bench 2.0Overall
58,427 %
67,416 %Gewinner
2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:overallKein dokumentierter Setup-UnterschiedSieger: Gemini 3.1 Pro PreviewGPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-16-0d39f2e25723Abgerufen am 16.08.2026
Vibe Code Bench v1.1Overall
67,421 %Gewinner
32,034 %
1.1accuracyMehr ist besserKohorte: vals-vibe-code-bench:1.1:overallKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05, Harness: OpenHands
Gemini 3.1 Pro Preview: Harness: OpenHands
Vals AITyp: Unabhängige EvaluationMessstand: 13.08.2026Import-ID: vals-vibe-code-2026-08-16-a73c9770bcc4Abgerufen am 16.08.2026
VisualToolBenchOverall
29,17 % ± 0,13Höherer Messwert
95-%-Konfidenzintervall: ±0,13
28,97 % ± 0,91
95-%-Konfidenzintervall: ±0,91
1,204-task releaseaverage pass rateMehr ist besserKohorte: scale-visual-toolbench-aprTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Versuche: pass@1
Gemini 3.1 Pro Preview: Versuche: pass@1
1.204 Aufgaben, sechs Werkzeuge und höchstens 20 Werkzeugaufrufe pro Aufgabe.
Scale AITyp: Offizielles Benchmark-LeaderboardImport-ID: curated-scale-ai-2026-08-05-8dae0c29c04e / curated-scale-ai-2026-08-05-18cb821a3540Abgerufen am 05.08.2026
Arena Text, Style ControlOverall
1.476,571 Arena-Punkte
95-%-Konfidenzintervall: ±3,887Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
1.486,245 Arena-PunkteHöherer Messwert
95-%-Konfidenzintervall: ±3,337Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
style-control-v1style-controlled Bradley-Terry ratingMehr ist besserKohorte: lmarena-text-style-control:2026-08-12:overallTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Harness: Arena text, style control
Gemini 3.1 Pro Preview: Snapshot: gemini-3.1-pro-preview, Harness: Arena text, style control
GPT-5.4: Stilbereinigte Arena-Bewertung aus 60.819 anonymen Paarvergleichen.Gemini 3.1 Pro Preview: Stilbereinigte Arena-Bewertung aus 94.989 anonymen Paarvergleichen.
ArenaTyp: Offizielles Benchmark-LeaderboardMessstand: 12.08.2026Import-ID: lmarena-eeedf9209373a7f9b324bfb839e7b02fedacd1e5-1611ed64f3f1Abgerufen am 16.08.2026
Code MigrationCLI
23,788 %Höherer Messwert
10,833 %
1accuracyMehr ist besserKohorte: vals-code-migration:1:cliTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026
CorpFin v2Exact Pages
64,103 %Höherer Messwert
60,839 %
2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:exact_pagesTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026
CyberBenchPatch
81,356 %Gewinner
69,492 %
1accuracyMehr ist besserKohorte: vals-cyberbench:1:patchKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026
GPQA DiamondFew-Shot CoT
91,414 %
95,96 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_few_shot_cotTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026
LegalBenchConclusion Tasks
88,939 %
89,257 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-legal-bench:1:conclusion_tasksTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026
LiveCodeBench v6Easy
99,068 %Kein direkter Sieger
99,068 %Kein direkter Sieger
1accuracyMehr ist besserKohorte: vals-lcb:1:easyTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026
MedQAAsian
96,15 %
96,3 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-medqa:1:asianTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026
MMLU-ProBiology
92,887 %
95,258 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:biologyTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026
MortgageTaxNumerical Extraction
75,994 %
76,391 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:numerical_extractionTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026
ProgramBenchAlmost Resolved
7 %Höherer Messwert
1 %
1accuracyMehr ist besserKohorte: vals-programbench:1:almostTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026
SAGEAutomata
21,428 %
32,143 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-sage:1:automataTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026
SWE-bench Verified<15 min fix
88,144 %
88,66 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-swebench:1:<15 min fixTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026
TaxEval v2Correctness
64,922 %Höherer Messwert
60,749 %
2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:correctnessTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026
Terminal-Bench 2.0EasyReasoning: high
100 %Kein direkter Sieger
100 %Kein direkter Sieger
2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:easyTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026
Arena Text, Style ControlBusiness, management and finance
1.474,218 Arena-Punkte
95-%-Konfidenzintervall: ±6,56Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
1.476,932 Arena-PunkteKein klarer Vorsprung
95-%-Konfidenzintervall: ±5,678Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
style-control-v1style-controlled Bradley-Terry ratingMehr ist besserKohorte: lmarena-text-style-control:2026-08-12:industry_business_and_management_and_financial_operationsKein dokumentierter Setup-UnterschiedKein klarer VorsprungGPT-5.4: Snapshot: gpt-5.4, Harness: Arena text, style control
Gemini 3.1 Pro Preview: Snapshot: gemini-3.1-pro-preview, Harness: Arena text, style control
GPT-5.4: Stilbereinigte Arena-Bewertung aus 13.072 anonymen Paarvergleichen.Gemini 3.1 Pro Preview: Stilbereinigte Arena-Bewertung aus 18.759 anonymen Paarvergleichen.
ArenaTyp: Offizielles Benchmark-LeaderboardMessstand: 12.08.2026Import-ID: lmarena-eeedf9209373a7f9b324bfb839e7b02fedacd1e5-1611ed64f3f1Abgerufen am 16.08.2026
Code MigrationCOBOL
68,571 %Höherer Messwert
36,753 %
1accuracyMehr ist besserKohorte: vals-code-migration:1:cobolTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026
CorpFin v2Max Fitting Context
64,918 %
66,9 %Höherer Messwert
2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:max_fitting_contextTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026
CyberBenchPoC
64,407 %Gewinner
3,39 %
1accuracyMehr ist besserKohorte: vals-cyberbench:1:pocKein dokumentierter Setup-UnterschiedSieger: GPT-5.4GPT-5.4: Snapshot: gpt-5.4-2026-03-05
Gemini 3.1 Pro Preview: Keine weiteren Einstellungen ausgewiesen
Vals AITyp: Unabhängige EvaluationMessstand: 03.08.2026Import-ID: vals-cyber-2026-08-11-1f20498a3dc1Abgerufen am 11.08.2026
GPQA DiamondZero-Shot CoT
91,919 %
94,949 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-gpqa:1:diamond_zero_shot_cotTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-gpqa-2026-08-11-d3325290a404Abgerufen am 11.08.2026
LegalBenchInterpretation Tasks
83,921 %Höherer Messwert
83,823 %
1accuracyMehr ist besserKohorte: vals-legal-bench:1:interpretation_tasksTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026
LiveCodeBench v6Hard
67,714 %
76,571 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-lcb:1:hardTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026
MedQABlack
96,5 %
96,8 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-medqa:1:blackTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026
MMLU-ProBusiness
91,762 %
93,409 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:businessTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026
MortgageTaxSemantic Extraction
60,652 %
62,401 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-mortgage-tax:1:semantic_extractionTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mortgage_tax-2026-08-11-5ea6eef3e482Abgerufen am 11.08.2026
ProgramBenchFully Resolved
0 %Kein direkter Sieger
0 %Kein direkter Sieger
1accuracyMehr ist besserKohorte: vals-programbench:1:strictTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026
SAGECalculus
70,988 %
78,395 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-sage:1:calculusTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026
SWE-bench Verified>4 hours
0 %
33,333 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-swebench:1:>4 hoursTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 08.08.2026Import-ID: vals-swebench-2026-08-11-a6212cd857d8Abgerufen am 11.08.2026
TaxEval v2Stepwise Reasoning
82,993 %
85,016 %Höherer Messwert
2accuracyMehr ist besserKohorte: vals-tax-eval-v2:2:stepwise_reasoningTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-tax_eval_v2-2026-08-11-d05a40bf446fAbgerufen am 11.08.2026
Terminal-Bench 2.0HardReasoning: high
33,333 %
53,333 %Höherer Messwert
2.0accuracyMehr ist besserKohorte: vals-terminal-bench-2:2.0:hardTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: high, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 04.06.2026Import-ID: vals-terminal-bench-2-2026-08-11-d91717be20e6Abgerufen am 11.08.2026
Arena Text, Style ControlBusiness, management and finance
1.483,617 Arena-PunkteHöherer Messwert
95-%-Konfidenzintervall: ±6,683Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
1.476,932 Arena-Punkte
95-%-Konfidenzintervall: ±5,678Der Arena-Score misst menschliche Präferenzen und ist kein fester Fähigkeitstest. Konfidenzintervall und Modellkonfiguration gehören zum Ergebnis.
style-control-v1style-controlled Bradley-Terry ratingMehr ist besserKohorte: lmarena-text-style-control:2026-08-12:industry_business_and_management_and_financial_operationsTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-high, Reasoning: high, Harness: Arena text, style control
Gemini 3.1 Pro Preview: Snapshot: gemini-3.1-pro-preview, Harness: Arena text, style control
GPT-5.4: Stilbereinigte Arena-Bewertung aus 12.373 anonymen Paarvergleichen.Gemini 3.1 Pro Preview: Stilbereinigte Arena-Bewertung aus 18.759 anonymen Paarvergleichen.
ArenaTyp: Offizielles Benchmark-LeaderboardMessstand: 12.08.2026Import-ID: lmarena-eeedf9209373a7f9b324bfb839e7b02fedacd1e5-1611ed64f3f1Abgerufen am 16.08.2026
Code MigrationCode Quality
3,632 / 5Höherer Messwert
2,538 / 5
1mean reviewer code-quality ratingMehr ist besserKohorte: vals-code-migration:1:code_qualityTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-code-migration-2026-08-11-3a2d5ce718a3Abgerufen am 11.08.2026
CorpFin v2Shared Max Context
66,783 %Höherer Messwert
65,734 %
2accuracyMehr ist besserKohorte: vals-corp-fin-v2:2:shared_max_contextTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 06.08.2026Import-ID: vals-corp_fin_v2-2026-08-11-d9e58d191cd9Abgerufen am 11.08.2026
LegalBenchIssue Tasks
90,526 %
91,48 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-legal-bench:1:issue_tasksTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-legal_bench-2026-08-11-836e5e44618eAbgerufen am 11.08.2026
LiveCodeBench v6Medium
85,64 %
89,817 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-lcb:1:mediumTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-lcb-2026-08-11-0342bcc364e4Abgerufen am 11.08.2026
MedQAHispanic
95,7 %
95,95 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-medqa:1:hispanicTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 16.04.2026Import-ID: vals-medqa-2026-08-11-b50286439978Abgerufen am 11.08.2026
MMLU-ProChemistry
91,078 %
93,286 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-mmlu-pro:1:chemistryTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.535 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-mmlu_pro-2026-08-11-b8e53828d746Abgerufen am 11.08.2026
ProgramBenchRaw Pass Rate
68,596 %Höherer Messwert
39,468 %
1accuracyMehr ist besserKohorte: vals-programbench:1:partialTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 128.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 65.536 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-programbench-2026-08-11-b6f8959fbdfeAbgerufen am 11.08.2026
SAGELinear Algebra
68,826 %
74,205 %Höherer Messwert
1accuracyMehr ist besserKohorte: vals-sage:1:linear_algebraTestaufbau nicht identisch dokumentiertKein direkter SiegerGPT-5.4: Snapshot: gpt-5.4-2026-03-05, Reasoning: xhigh, Ausgabegrenze: 30.000 tokens
Gemini 3.1 Pro Preview: Reasoning: high, Temperatur: 1, Ausgabegrenze: 30.000 tokens
Vals AITyp: Unabhängige EvaluationMessstand: 09.08.2026Import-ID: vals-sage-2026-08-11-f1f79f6d8af3Abgerufen am 11.08.2026

Die Tabelle zeigt 64 diversifizierte Messreihen aus insgesamt 138 gemeinsamen Ergebnissen. Dadurch verdrängt ein Benchmark mit vielen Unteraufgaben nicht alle anderen Tests.

So liest du den Vergleich

Ein Benchmark-Sieg ist kein Gesamturteil

Entscheidend sind deine Aufgaben, dein Budget und die benötigte Kontextlänge. Ein Coding-Benchmark sagt wenig über Bildverständnis oder Agentenarbeit aus.

Preise beziehen sich auf die offiziellen API-Tarife pro 1 Mio. Token. Web-Abos und Cloud-Aufschläge können davon abweichen.

Jeder Messwert verlinkt seine Messstelle und zeigt den Abrufstand. Je nach Kennzeichnung handelt es sich um eine Anbieterangabe, ein offizielles Benchmark-Leaderboard oder eine unabhängige Evaluation. Strittige oder archivierte Ergebnisse werden nicht verwendet.