Lire un score

Les champs du score d’un labo, un par un, et ce qu’ils veulent dire.

Où trouver le score

lab score, lab baseline et lab run impriment le score au format JSON. Il est aussi enregistré dans un fichier score.json rangé avec les réponses cachées, hors du dossier du labo, à côté d’un module Lean qui contient tous les résultats acceptés.

Un exemple

Voici, à titre d’exemple, le score réel du passage de l’agent sur la graine 7, règles cachées (mis en forme sur moins de lignes).

Sortie
{
 "lab_id": "20261001-031725-8f1cad",
 "mode": "blackbox",
 "used": {"proposals": 90, "cell_updates": 888},
 "budget": {"proposals": 200, "cell_updates": 200000},
 "verdicts": {"certified": 90},
 "conservation": {"found": 20, "hidden": 20},
 "structures": {"found": 70, "hidden_within_bounds": 70, "beyond_bounds": 0,
                "bounds": {"width": 7, "period": 8}},
 "agent": {"name": "claude", "model": "sonnet", "exit": 0, "seconds": 221,
           "cost_usd": 0.428, "turns": 13, "audit": {"clean": true, "markers": []}}
}

Les champs

ChampCe qu’il veut dire
used, budgetpropositions et mises à jour de cellules utilisées, et leurs plafonds
verdictsnombre de propositions par verdict : certified, refuted, trivial, invalid, repeat
conservation.founddimensions de lois trouvées, comptées comme rang ajouté, hors lois triviales
conservation.hiddendimensions de lois de la réponse cachée
structures.foundespèces de structures trouvées qui sont dans la réponse cachée
structures.hidden_within_boundsespèces de la réponse cachée, exhaustive dans les bornes
structures.beyond_boundsespèces vérifiées trouvées hors de ces bornes
structures.boundsles bornes de la réponse : largeur et période maximales
agentnom, modèle, code de sortie, durée, coût, nombre de tours, audit

Comment le lire

  • Une espèce de structure est comptée une fois par fond, période minimale et vitesse.
  • Les bornes de largeur dépendent du monde : 7 pour les mondes à trois états, 6 pour les mondes à quatre états, avec une période d’au plus 8.
  • beyond_bounds compte des trouvailles réelles et vérifiées, mais la réponse cachée ne peut pas dire combien il en existe : ce champ n’a pas de dénominateur.
  • audit.clean est vrai quand aucun marqueur d’accès hors du labo n’a été trouvé dans la transcription. Ce n’est pas un bac à sable.
  • Un score se compare à la référence scriptée au même budget, pas dans l’absolu.