Daten

Jeder Test kommt als eine JSON-Datei und eine CSV-Datei, und die originalen Rohdateien liegen auch hier. Alles steht frei zum Download bereit.

Was in jeder Datei steht

Jede Antwort ist ein Datensatz. Das sind seine Felder.

id
Ein stabiler Name für die Antwort.
model_name
Der vollständige Name des Modells.
model_id
Die genaue Modell-ID, die gesendet wurde.
route
Wie das Modell aufgerufen wurde: OpenRouter oder Claude Code.
served_by
Wer die Antwort tatsächlich geliefert hat, wenn bekannt.
phase
Der Teil des Tests: Probelauf, Hauptlauf oder mit Begründung gefragt.
prompt_id
Welcher Prompt verwendet wurde.
run_index
Die Nummer der Frage für dieses Modell und diesen Prompt.
condition
Was in diesem Test variiert wurde, zum Beispiel die Gruppengröße.
ok and error
Ob die Frage funktioniert hat, und warum nicht, falls sie fehlschlug.
text
Die vollständige Antwort, genau so, wie sie zurückkam.
verdict
Wie unser Programm die Antwort gelesen hat: ein Etikett, ein Wert und Hinweise.
ts_start and ts_end
Wann die Frage gesendet wurde und wann sie fertig war, wenn bekannt.
tokens
Eingabe-, Ausgabe- und Denk-Tokens, wenn bekannt.
latency_s
Sekunden, die das Modell brauchte.
source
Die veröffentlichte Rohdatei und die Zeile darin, aus der diese Antwort stammt.
grey
Warum die Antwort in der Grauzone liegt (sie zögerte, änderte sich aber nicht), wenn sie dort liegt: eine Liste von Gründen.
readers
Wie ein zweiter Leser die Antwort eingeschätzt hat, wenn bekannt.
changed
Warum die Antwort als Meinungsänderung zählt, wenn sie es tut: eine Liste von Gründen.
grey_notes
Der Satz aus der Antwort, der eine Wortmarkierung ausgelöst hat, wenn es einen gibt.
turning
Markiert eine Antwort neben einem Wendepunkt: davor (das letzte NO) oder danach (das erste YES).
highlight
Die Zeile, die ein KI-Assistent beim Lesen als die aufschlussreichste einer Wendepunkt-Antwort gewählt hat.

Über die CSV-Dateien

Eine Textzelle, die mit =, +, - oder @ beginnt, bekommt ein Apostroph davor, damit Tabellenprogramme sie nicht als Formel ausführen. Die JSON-Dateien sind exakt.

Die Fingerabdruck-Liste neben jedem Satz Rohdateien gibt den SHA-256 der Originaldatei an, damit du eine Kopie mit unserer vergleichen kannst.