Insumo
Expediente
Los documentos del caso: contratos, minutas, correos y soportes.
← Volver a Gobierno
IA / GOBIERNO
EL MODELO PROPONE
LA REGLA DECIDE
LA CORRIDA QUEDA ESCRITA
El motor determinista que cuestiona al probabilístico
Un sistema que responde distinto cada vez no se puede validar. Una regla que el negocio escribió, versionó y probó, sí.
EL MISMO PEDIDO, VARIAS VECES
El pedido: ¿se desembolsa este crédito?
En el expediente falta la garantía inscrita.
Sin motor determinista
La propuesta de la IA se vuelve el resultado.
3 respuestas distintas
4 errores · últimas 6 corridas
Insumo
Expediente del crédito
Extracción
Monto, ingresos, garantía
Análisis · IA generativa
Propone: Desembolsar
Vacío
Resultado · Corrida 6
Desembolsar
Contradice la política
Con motor determinista
La misma IA propone. La regla decide.
1 respuesta
0 errores · últimas 6 corridas
Insumo
Expediente del crédito
Extracción
Monto, ingresos, garantía
Análisis · IA generativa
Propone: Desembolsar
Reglas · Motor determinista
¿Garantía inscrita? No
Corrigió la propuesta de la IA
Resultado · Corrida 6
No desembolsar
Regla: garantía no inscrita
Ilustración: las corridas y los conteos son simulados. La variación medida está en la cita.
A temperatura cero, la configuración que se supone determinista, el mismo pedido corrido 1,000 veces produjo 80 respuestas distintas.
La IA propone. El control decide. Y el control es determinista.
José ÑáñezTechnology Advisor · Board Member
Publicado 29 de septiembre de 2026Actualizado 1 de octubre de 20266 min de lectura
LO QUE EL MODELO NO PUEDE DAR
La variabilidad no es un defecto. Es una propiedad.
Un modelo de lenguaje (LLM, por sus siglas en inglés) no responde igual dos veces, ni siquiera cuando se le pide que lo haga. La medición de Thinking Machines Lab que abre esta pieza tiene una causa concreta: está en cómo el servidor agrupa las peticiones, no en el azar del muestreo.
En decisiones con consecuencia el efecto es visible. Landon y colegas (Journal of General Internal Medicine, 2025) hicieron la misma pregunta clínica cinco veces a seis modelos: algunos cambiaron la recomendación en dos de las cinco corridas. Atil y colegas (2025), sobre cinco modelos y ocho tareas en configuración "determinista", encontraron variaciones de exactitud de hasta 15 puntos entre corridas.
Un mejor prompt reduce el problema; no lo elimina. Para un regulado eso significa que la consistencia del modelo no puede ser el control. El control tiene que estar fuera del modelo.
2 de 5
corridas en que algunos modelos cambiaron una recomendación clínica
Landon et al., J Gen Intern Med, 2025 · 6 modelos, 4 casos, 5 repeticiones
15 puntos
de variación de exactitud entre corridas "deterministas"
Atil et al., 2025 · 5 modelos, 8 tareas, 10 corridas
LO QUE PIDE EL REGULADOR
Nadie prohíbe la tecnología. Todos exigen evidencia.
En seguros en Estados Unidos, la referencia es el boletín modelo de la NAIC sobre uso de sistemas de inteligencia artificial por aseguradoras (diciembre de 2023), adoptado por 25 estados y el Distrito de Columbia al 31 de agosto de 2026. No prohíbe ningún modelo. Exige un programa escrito de gobierno de IA, controles para que los sistemas no produzcan resultados inexactos, arbitrarios, caprichosos o injustamente discriminatorios, documentación de datos, validación y mitigación, y responsabilidad plena por lo que hagan los proveedores.
Nueva York fue más lejos en la circular 7 de 2024 del Departamento de Servicios Financieros: la aseguradora no debe usar un sistema de IA en suscripción o tarificación hasta haber determinado que no discrimina; las pruebas se hacen antes de producción y con una cadencia regular después; y la notificación de una decisión adversa debe decir si intervino IA. En marzo de 2026 la NAIC puso en piloto, con doce estados, una herramienta de evaluación para usar en exámenes de conducta de mercado.
En América Latina la referencia más directa está en Perú. El Reglamento de Gestión de Riesgos de Modelo de la Superintendencia de Banca, Seguros y AFP (Resolución SBS N° 00053-2023, enero de 2023) exige que los modelos que las entidades usan para gestionar riesgos se validen antes de aprobar su uso, por funcionarios independientes de quienes los desarrollaron; y en los modelos construidos con técnicas de inteligencia artificial pide, como mínimo, pruebas que permitan evaluar su interpretabilidad.
La regla es de gobierno y de evidencia, no de tecnología. Lo que todavía nadie sabe hacer bien es validar un sistema que responde distinto a la misma pregunta.
El examinador no puede auditar un modelo. Sí puede auditar una regla que disparó, con la entrada citada.
LA ARQUITECTURA
Dos motores, y una frontera clara entre los dos
El modelo hace lo que solo él puede hacer: leer documentos y lenguaje, y proponer. La regla hace lo que el examinador necesita: decidir siempre igual y dejar rastro.
Lo que el motor produjo se copia. No se reescribe.
Extracción
Modelo
Lee los documentos y saca los datos que la regla necesita, con la cita de dónde salió cada uno. Un dato que no está en ningún documento se reporta como ausente, no se rellena.
Análisis
Modelo
Resume, interpreta y propone. Su propuesta es un insumo para la regla, no la decisión.
Reglas
Regla
Aplica la aritmética y los umbrales que el negocio definió por escrito, y decide. Misma entrada, misma salida, siempre.
Resultado
Regla
Entrega la decisión con su razón (qué regla disparó y con qué dato) y deja escrita la corrida: cuándo, sobre qué, qué encontró, cuánto tardó, qué no pudo leer.
Lo que recibe el examinador
01
La regla que disparó, versionada.
02
El dato citado, con su fuente y su fecha.
03
El registro de la corrida.
04
La cobertura declarada: qué revisa el sistema y qué no.
DÓNDE APLICA
La misma regla, en tres industrias
En los tres casos la pregunta es la misma: ¿existe el documento que el proceso exige, dice lo que debe decir, y coincide con los demás? Esa pregunta no necesita probabilidad.
Seguros
Siniestro pagado sin peritaje registrado; póliza emitida sin la verificación que la política exige; decisión adversa sin la revisión humana que la ley del estado pide.
Banca
Cliente activo sin origen de fondos documentado; crédito desembolsado sin garantía inscrita; excepción aprobada sin la autoridad que la política asigna.
Gestión de proyectos
Hito declarado cumplido sin acta de recibo; presupuesto ejecutado por encima de lo aprobado; proveedor facturando lo que no se ha aceptado.
LOS LÍMITES
Lo que el motor determinista no arregla
El motor solo puede juzgar lo que puede calcular, y sus insumos los produce el modelo. Si el modelo lee mal un monto, la regla calcula bien sobre un dato falso. Tres cosas contienen ese riesgo: la cita por dato, que permite verificar la lectura en segundos; el contraste cruzado entre documentos que no pueden ser ciertos a la vez; y medir la variabilidad misma, leyendo N veces y reportando el acuerdo, que es la cifra que hoy nadie le entrega al regulador.
Las reglas tienen alcance finito: lo que no está escrito como regla no se ve. Eso no es un defecto si el sistema declara su cobertura. Es un defecto cuando la cobertura se presenta como total.
Y el motor no reemplaza al responsable. Decide sobre lo que se le dio; la persona sigue respondiendo por lo que se hace con la decisión.
LA TESIS
Un regulado no puede exigirle consistencia a un modelo. Puede exigir que toda decisión material pase por reglas que el negocio escribió, versionó y probó, y que cada corrida quede escrita.
Eso convierte un requisito imposible en uno cumplible, y produce la evidencia que el boletín pide: la regla, la cita, la corrida y la cobertura.
José Ñáñez
FUENTES
Regulación y mediciones, tal como se publicaron.
NAIC — Implementación del boletín modelo sobre sistemas de IA (estado al 31 de agosto de 2026)Mapa de adopción: 25 estados y el Distrito de Columbia; cuatro estados más con regulación propia de IA en seguros.→DFS de Nueva York — Insurance Circular Letter No. 7 (11 de julio de 2024)Uso de sistemas de IA y datos externos del consumidor en suscripción y tarificación.→SBS del Perú — Reglamento de Gestión de Riesgos de Modelo, Resolución SBS N° 00053-2023 (6 de enero de 2023)Validación inicial previa a la aprobación de uso, validadores independientes de quienes desarrollan el modelo y pruebas de interpretabilidad para modelos con técnicas de inteligencia artificial.→NAIC — AI Systems Evaluation Tool, resumen del piloto (2026)Piloto de marzo a septiembre de 2026 con doce estados.→Thinking Machines Lab — Defeating Nondeterminism in LLM Inference (septiembre de 2025)1,000 respuestas a temperatura cero; 80 distintas.→Landon et al. — Variation in LLM Recommendations in Challenging Inpatient Management Scenarios (J Gen Intern Med, 2025)Seis modelos, cuatro casos, cinco preguntas idénticas por caso.→Atil et al. — Non-Determinism of "Deterministic" LLM Settings (2025)Cinco modelos, ocho tareas, diez corridas por tarea.→