← Criterio · Familia EA

Evidencia de pruebas

Criterio EA · DirecciónAnálisis estadístico de las pruebas

Cómo rinde Ofelia en 2 rondas de prueba, con el margen de cada resultado y cada falla con su origen. Se regenera desde la evidencia del repositorio con cada ronda.

Ronda completa más reciente: 2

José Ñáñez
José ÑáñezTechnology Advisor · Board Member
Publicado 27 de octubre de 2026Actualizado 30 de octubre de 20265 min de lectura

En una mirada

La ronda completa más reciente, la 2, sobre las 4 entidades del material: 85 de 85 señales sembradas encontradas (margen del 95 %: 95,6–100 %) y 0 de más; 146 de 146 datos extraídos bien (100 %, margen del 95 %: 97,4–100 %); y 2 de 2 entidades de control sin ninguna señal.

Sumando las rondas 1–2, 188 de 188 señales encontradas, 1 de más y 376 de 381 datos bien. Las rondas repiten el mismo material: no son muestras independientes, y el margen se calcula sobre los casos de cada una.

Qué se probó y cómo

En cada entidad corren el setup y el procesamiento de Ofelia —los comandos que procesan los documentos y escriben las fichas—, con un tope de tokens fijado antes de empezar, sobre un material que trae su clave aparte, que nadie ve. Los demás comandos calculan sobre esas fichas con el motor, que se prueba con cada cambio del repositorio. Las señales se comparan por su nombre y su clave; la extracción, campo por campo, contra lo que traen los documentos escritos. Las entidades de control no tienen ningún defecto sembrado: cualquier señal en ellas es una falla.

Cobertura: de las señales sembradas, cuántas encontró. Precisión: de las que levantó, cuántas eran correctas. Margen del 95 %: intervalo de confianza de Wilson sobre los casos.

Rondas
2; la completa más reciente es la 2
Material
Banca · Colombia, Cooperativas · Ecuador
Entidades de control
Control · Colombia, Control · Ecuador
Corridas de una entidad
13
Señales sembradas
188
Datos calificados
381

Resultados acumulados · rondas 1–2

MétricaCasosResultadoMargen del 95 %
Señales · cobertura188 de 188100 %97,9–100 %
Señales · precisión188 de 18999,5 %97–100 %
Extracción · datos correctos376 de 38198,7 %96,9–99,5 %
Control · sin ninguna señal5 de 683,3 %43,6–97 %

Evolución por ronda

Evolución por ronda
RondaEntidadesSeñales · coberturaSeñales · precisiónExtracciónControl sin señalesTokensDefectos
17100 %94,7 %97,8 %3 de 411,3 M8
26100 %100 %99,2 %2 de 29,9 M1

La ronda completa más reciente · ronda 2

MétricaCasosResultadoMargen del 95 %
Señales · cobertura85 de 85100 %95,6–100 %
Señales · precisión85 de 85100 %95,6–100 %
Extracción · datos correctos146 de 146100 %97,4–100 %
Control · sin ninguna señal2 de 2100 %34,2–100 %

Por industria y país · ronda 2

MaterialAgentesSeñalesDe másExtracciónTokens
Banca · ColombiaOfelia50 de 50050 de 511,6 M
Banca · ColombiaOfelia50 de 50051 de 511,6 M
Cooperativas · EcuadorOfelia35 de 35044 de 451,6 M
Cooperativas · EcuadorOfelia35 de 35045 de 451,9 M
Control · ColombiaOfelia0 de 0025 de 251,9 M
Control · EcuadorOfelia0 de 0025 de 251,2 M

Lo que falló, uno por uno · rondas 1–2

6 fallas en 13 corridas, cada una con el defecto que la explica: su origen dice si falló el agente o la prueba. Las cifras son las de la calificación original: 2 de esas fallas vinieron de la prueba —el arnés o la clave—, no del agente, y con la prueba corregida se califican como correctas.

RondaMaterialQuéDóndeDefectoOrigen
1Control · ColombiaSeñal de más["commitment_overdue", "compromiso:junta-directiva:2026-09-24:C-1"]——
1Control · ColombiaDato calificado como malreuniones/junta-directiva-2026-09-24 · commitmentsEA-7Instrucciones del agente
1Control · ColombiaDato calificado como malreuniones/junta-directiva-2026-09-24 · decisionsEA-8Instrucciones del agente
1Cooperativas · EcuadorDato calificado como malreuniones/consejo-de-administracion-2026-09-24 · agreementsEA-6Instrucciones del agente
2Banca · ColombiaDato calificado como malreuniones/comite-de-presidencia-2026-10-05 · decisionsEA-9Material de prueba
2Cooperativas · EcuadorDato calificado como malreuniones/comite-de-gerencia-2026-10-05 · decisionsEA-9Material de prueba

Defectos

9 defectos registrados, cada uno con su origen, su corrección y la corrida que la verificó: 9 verificados y 0 por verificar. 3 vinieron del material, la clave o el arnés de pruebas, no de los agentes.

Defectos
OrigenDefectos
Instrucciones del agente4
Código2
Clave de calificación1
Arnés de pruebas1
Material de prueba1
AgenteDefectos
Ofelia9

Consumo y próximo paso

Las 2 rondas usaron 22,3 millones de tokens: 21,1 millones en las corridas calificadas y 1,2 en las que se repitieron después de corregir un defecto. En promedio, 1,6 millones por entidad.

El material es sintético. Si una versión es estable o de laboratorio lo dice esta evidencia, no su número: estable, con el piso del margen del 95 % en 95 % o más en señales y en datos sobre la corrida más reciente de cada entidad, y ninguna señal en los controles (decisión 0020).

De dónde sale cada cifra

El análisis lo genera scripts/analisis_familias.py desde tests/evidencias/familias/ea/ y la verificación del repositorio comprueba en cada cambio que diga lo que dice la evidencia. Esta página lo publica sin recalcular nada.

← Volver a la evidencia de la familia