abelsr-ksms/kriterion-decisions-v0

Kriterion Decisions v0

Dataset de decisiones tipadas para Kriterion — un modelo de decisión multimodal que no genera lenguaje: devuelve choice / score con probabilidades calibradas y un gate de abstención.

Esquema: el cuerpo de POST /v1/systemone. Cada caso trae varias preguntas tipadas y cada respuesta es una distribución, nunca una etiqueta única.

⚠️ Este es un dataset PARCIAL y deliberadamente sesgado a la abstención. No es un benchmark. Léase la sección «Lo que NO tiene» antes de usarlo.

Lo que tiene

3 200 filas · 2 852 train / 348 validation (split por case_id, sin solapamiento).

segmento	filas	etiqueta de	qué es
S1 limpio in-distribución	1 200	teacher	conversión de LocalLLaMA/typed-decisions train
S3 degradación	2 000	programa	500 casos × 4 condiciones, emparejados con su gemelo limpio

Reparto de gate.status: act 1 200 · abstain 1 000 · review 1 000.

Condiciones de degradación de S3:

condición	status	reasons
empty_state	abstain	["empty_state"]
noise_only	abstain	["noise_only"]
context_truncated	review	["context_truncated"]
cardinality_exceeds	review	["cardinality_exceeds"]

Esquema

Campos anidados como JSON-string (igual que typed-decisions): gold tiene forma distinta por tipo de pregunta y Arrow no infiere un esquema limpio de dicts heterogéneos.

columna	tipo	qué es
id	str	<workflow>__<caso>__<condición>
state	json-str	la entrada
questions	json-str	preguntas tipadas + instructions + criteria
gold	json-str	distribuciones gold
gate	json-str	status · reasons · modalities_requested/used/ignored
prov	json-str	procedencia: segmento, gemelo limpio, factores, fuente de etiqueta
workflow · segment · status · degradation · label_source · case_id · base_case_id · n_questions	str/int	columnas planas de conveniencia

from datasets import load_dataset
import json

ds = load_dataset("<repo>", split="train", streaming=True)
for row in ds:
    state = json.loads(row["state"])
    gold  = json.loads(row["gold"])
    gate  = json.loads(row["gate"])
    break

Dos decisiones de diseño

1 · La abstención no se aprende de un teacher. La misma entrada produce confianza 0.99 en un modelo y 0.155 en otro — la confianza es una propiedad del modelo, no del caso. Por eso las 2 000 filas de S3 están etiquetadas con un programa sobre propiedades verificables de la entrada, y llevan label_source: "program". Sólo S1 lleva teacher.

2 · abstain ⇒ gold UNIFORME. Si la entrada no lleva información, la distribución honesta es uniforme. Así la abstención es aprendible desde la distribución, no sólo desde una cabeza aparte. En review se conserva el gold original: el déficit es parcial y no se sabe cuánto desplaza la respuesta — el aviso lo lleva gate.status. Esto es provisional y hay que medirlo.

Lo que NO tiene

• Ninguna modalidad no textual. Cero imagen, vídeo o audio. Todo es texto.
• S2 (ambigüedad genuina), S4 (pares modality-critical), S5 (conflicto multimodal), S6 (cobertura de primitivas × modalidades).
• noul no aparece. Está prohibido por defecto y se emula con choice de dos claves neutras (yes/no), marcado con emulated_from: "noul" en el gold.
• Nada de es/pt/zh. Sólo inglés, heredado de la fuente.

Procedencia

• S1 se deriva de LocalLLaMA/typed-decisions (Apache 2.0, split train). Su gold es la media de 3 muestras de un teacher de ~4 B, así que mide acuerdo con ese teacher, no corrección.
• El split test de typed-decisions NO se usa aquí, a propósito: es el único conjunto donde se puede comparar contra Jev, Kev y Laya a la vez, y se contamina en cuanto se entrena sobre él.
• Las 2 000 filas de S3 son generadas por nosotros, de forma determinista (semilla 20260929). Se versiona el generador, no el dataset.
• Construido con scripts/b1/build_dataset_v0.py.

Limitaciones

1. El gold de S1 es sintético — distribuciones de un teacher. Es un techo de imitación.
2. context_truncated recorta al 30 % por el medio, conservando principio y final, que es lo que hace un presupuesto de contexto real. No es un truncado limpio.
3. cardinality_exceeds infla criteria con distractores solapados, no degenerados. Se probó que los degenerados producen un artefacto que lleva a conclusiones falsas.
4. noise_only es literalmente ruido aleatorio. Sirve como control negativo, no como simulación de una entrada real degradada.
5. No hay división por idioma ni por modalidad porque no hay ni idiomas ni modalidades.