Evidencia de pruebas
Criterio CLO · Contratos y cumplimientoAnálisis estadístico de las pruebas
Cómo rinden Fidel y Constanza en 12 rondas de prueba, con el margen de cada resultado y cada falla con su origen. Se regenera desde la evidencia del repositorio con cada ronda.
Ronda completa más reciente: 12

En una mirada
La ronda más reciente, la 12, parcial, sobre 4 de las 43 entidades del material: 22 de 22 señales sembradas encontradas (margen del 95 %: 85,1–100 %) y 0 de más; 569 de 569 datos extraídos bien (100 %, margen del 95 %: 99,3–100 %); y 1 de 1 entidades de control sin ninguna señal.
Sumando las rondas 1–12, 265 de 265 señales encontradas, 0 de más y 7024 de 7043 datos bien. Las rondas repiten el mismo material: no son muestras independientes, y el margen se calcula sobre los casos de cada una.
Qué se probó y cómo
En cada entidad corren el setup y el procesamiento de Fidel y Constanza —los comandos que procesan los documentos y escriben las fichas—, con un tope de tokens fijado antes de empezar, sobre un material que trae su clave aparte, que nadie ve. Los demás comandos calculan sobre esas fichas con el motor, que se prueba con cada cambio del repositorio. Las señales se comparan por su nombre y su clave; la extracción, campo por campo, contra lo que traen los documentos escritos. Las entidades de control no tienen ningún defecto sembrado: cualquier señal en ellas es una falla.
Cobertura: de las señales sembradas, cuántas encontró. Precisión: de las que levantó, cuántas eran correctas. Margen del 95 %: intervalo de confianza de Wilson sobre los casos.
- Rondas
- 12; la más reciente, la 12, es parcial
- Material
- Banca · Honduras, Entidad pública · Honduras, Retail · Honduras
- Entidades de control
- Control · Honduras
- Corridas de una entidad
- 51
- Señales sembradas
- 265
- Datos calificados
- 7043
Resultados acumulados · rondas 1–12
| Métrica | Casos | Resultado | Margen del 95 % |
|---|---|---|---|
| Señales · cobertura | 265 de 265 | 100 % | 98,5–100 % |
| Señales · precisión | 265 de 265 | 100 % | 98,5–100 % |
| Extracción · datos correctos | 7024 de 7043 | 99,7 % | 99,5–99,9 % |
| Control · sin ninguna señal | 16 de 16 | 100 % | 80,6–100 % |
Evolución por ronda
Una ronda que no corre todas las entidades es parcial: la primera, pequeña, antes de la completa, o una de verificación, que repite las corridas que un defecto corregido dejó pendientes.
| Ronda | Entidades | Señales · cobertura | Señales · precisión | Extracción | Control sin señales | Tokens | Defectos |
|---|---|---|---|---|---|---|---|
| 1 | 3 | 100 % | 100 % | 98,5 % | 2 de 2 | 19,1 M | 5 |
| 2 | 6 | 100 % | 100 % | 99,1 % | 2 de 2 | 43,7 M | 4 |
| 3 | 2 | 100 % | 100 % | 99,6 % | 1 de 1 | 11 M | 0 |
| 4 | 7 | 100 % | 100 % | 99,9 % | 3 de 3 | 21,6 M | 1 |
| 5 | 4 | 100 % | 100 % | 99,8 % | 2 de 2 | 12,1 M | 1 |
| 6 | 3 | 100 % | 100 % | 100 % | 1 de 1 | 9,3 M | 1 |
| 7 | 7 | 100 % | 100 % | 99,7 % | 0 de 0 | 13,5 M | 2 |
| 8 | 4 | 100 % | 100 % | 100 % | 1 de 1 | 11,5 M | 0 |
| 9 | 4 | 100 % | 100 % | 100 % | 1 de 1 | 11,9 M | 0 |
| 10 | 3 | 100 % | 100 % | 100 % | 1 de 1 | 9,9 M | 0 |
| 11 | 4 | 100 % | 100 % | 100 % | 1 de 1 | 12,6 M | 0 |
| 12 | 4 | 100 % | 100 % | 100 % | 1 de 1 | 11,8 M | 0 |
La ronda más reciente · ronda 12
| Métrica | Casos | Resultado | Margen del 95 % |
|---|---|---|---|
| Señales · cobertura | 22 de 22 | 100 % | 85,1–100 % |
| Señales · precisión | 22 de 22 | 100 % | 85,1–100 % |
| Extracción · datos correctos | 569 de 569 | 100 % | 99,3–100 % |
| Control · sin ninguna señal | 1 de 1 | 100 % | 20,6–100 % |
Por industria y país · ronda 12
| Material | Agentes | Señales | De más | Extracción | Tokens |
|---|---|---|---|---|---|
| Banca · Honduras | Constanza, Fidel | 10 de 10 | 0 | 132 de 132 | 3 M |
| Entidad pública · Honduras | Fidel | 2 de 2 | 0 | 152 de 152 | 1,9 M |
| Retail · Honduras | Constanza, Fidel | 10 de 10 | 0 | 153 de 153 | 3,3 M |
| Control · Honduras | Constanza, Fidel | 0 de 0 | 0 | 132 de 132 | 3,5 M |
Lo que falló, uno por uno · rondas 1–12
19 fallas en 51 corridas, cada una con el defecto que la explica: su origen dice si falló el agente o la prueba. Las cifras son las de la calificación original: 4 de esas fallas vinieron de la prueba —el arnés o la clave—, no del agente, y con la prueba corregida se califican como correctas.
| Ronda | Material | Qué | Dónde | Defecto | Origen |
|---|---|---|---|---|---|
| 1 | Control · Colombia | Dato calificado como mal | contratos/CTR-501 · obligations | CLO-4 | Instrucciones del agente |
| 1 | Control · Colombia | Dato calificado como mal | contratos/CTR-502 · obligations | CLO-4 | Instrucciones del agente |
| 1 | Control · Colombia | Dato calificado como mal | contratos/CTR-503 · obligations | CLO-4 | Instrucciones del agente |
| 1 | Control · Colombia | Dato calificado como mal | contratos/CTR-504 · obligations | CLO-4 | Instrucciones del agente |
| 1 | Control · Colombia | Dato calificado como mal | contratos/CTR-505 · obligations | CLO-4 | Instrucciones del agente |
| 1 | Control · Colombia | Dato calificado como mal | cumplimiento · new_rules | CLO-5 | Arnés de pruebas |
| 2 | Banca · Colombia | Dato calificado como mal | contratos/CTR-101 · obligations | CLO-9 | Arnés de pruebas |
| 2 | Control · Colombia | Dato calificado como mal | cumplimiento · declared.status | CLO-6 | Instrucciones del agente |
| 2 | Control · Colombia | Dato calificado como mal | cumplimiento · declared.date | CLO-6 | Instrucciones del agente |
| 2 | Control · Colombia | Dato calificado como mal | cumplimiento · declared.source | CLO-6 | Instrucciones del agente |
| 2 | Control · Colombia | Dato calificado como mal | cumplimiento · new_rules | CLO-6 | Instrucciones del agente |
| 2 | Minería · Ecuador | Dato calificado como mal | contratos/CTR-405 · signed_on | CLO-8 | Instrucciones del agente |
| 2 | Minería · Ecuador | Dato calificado como mal | contratos/CTR-405 · signatories | CLO-7 | Clave de calificación |
| 3 | Control · Colombia | Dato calificado como mal | contratos/CTR-501 · obligations | CLO-9 | Arnés de pruebas |
| 4 | Control · Perú | Dato calificado como mal | contratos/CTR-902 · obligations | CLO-10 | Instrucciones del agente |
| 5 | Control · México | Dato calificado como mal | contratos/CTR-1502 · obligations | CLO-11 | Instrucciones del agente |
| 7 | Entidad pública · Brasil | Dato calificado como mal | contratos/CTR-2402 · public.system | CLO-14 | Instrucciones del agente |
| 7 | Entidad pública · Brasil | Dato calificado como mal | contratos/CTR-2402 · public.source | CLO-14 | Instrucciones del agente |
| 7 | Entidad pública · Colombia | Dato calificado como mal | contratos/CTR-1902 · end | — | — |
Defectos
14 defectos registrados, cada uno con su origen, su corrección y la corrida que la verificó: 14 verificados y 0 por verificar. 6 vinieron del material, la clave o el arnés de pruebas, no de los agentes.
| Origen | Defectos |
|---|---|
| Instrucciones del agente | 6 |
| Arnés de pruebas | 4 |
| Código | 2 |
| Clave de calificación | 2 |
| Agente | Defectos |
|---|---|
| Fidel | 8 |
| Constanza | 5 |
| Ninguno | 1 |
Consumo y próximo paso
Las 12 rondas usaron 190,4 millones de tokens: 187,9 millones en las corridas calificadas y 2,4 en las que se repitieron después de corregir un defecto. En promedio, 3,7 millones por entidad.
El material es sintético. Si una versión es estable o de laboratorio lo dice esta evidencia, no su número: estable, con el piso del margen del 95 % en 95 % o más en señales y en datos sobre la corrida más reciente de cada entidad, y ninguna señal en los controles (decisión 0020).
De dónde sale cada cifra
El análisis lo genera scripts/analisis_familias.py desde tests/evidencias/familias/clo/ y la verificación del repositorio comprueba en cada cambio que diga lo que dice la evidencia. Esta página lo publica sin recalcular nada.