Verificar los resultados de la IA en el análisis forense digital: lo que un tribunal necesita ver

Toda conversación sobre la IA en el análisis forense digital acaba llegando a la misma pregunta, que suele formularse como un desafío: ¿cómo sabemos que no se está inventando cosas?

Es la pregunta correcta, y las respuestas habituales son malas. Los proveedores responden con porcentajes de precisión, que son infalsables ante un tribunal, porque nadie puede reproducir el banco de pruebas. O responden con palabras tranquilizadoras sobre la calidad del modelo, lo que es una afirmación sobre un componente y no sobre el proceso por el que pasaron las pruebas.

La respuesta mejor es incómoda y mucho más sólida: suponga que a veces se equivocará, y diseñe de forma que equivocarse sea barato de detectar.

Lo que un tribunal pregunta realmente

Un tribunal no evalúa un modelo. Lo que pregunta es si una afirmación fáctica concreta de un informe puede sostenerse.

Esa pregunta tiene una forma que es anterior a la IA en décadas. ¿De dónde procede esto? ¿Quién lo examinó? ¿Puede mostrármelo? ¿Puede la defensa examinar el mismo material? ¿Se cambió algo? La introducción de un modelo de lenguaje en el flujo de trabajo no cambia la pregunta, solo cambia lo fácil o difícil que resulta responderla.

Así que el requisito de diseño no es que el modelo acierte. Es que cada afirmación que produzca se resuelva en un registro concreto que una persona pueda abrir, leer y, si es necesario, presentar ante un juez.

Si una afirmación no puede remontarse a un registro, no debería estar en el informe, la haya producido un modelo o un humano cansado a las once de la noche.

La cita de la fuente es una propiedad estructural, no una función

Hay una gran diferencia entre un sistema que normalmente menciona sus fuentes y uno que no puede producir resultados sin ellas.

En el primero, la cita es un comportamiento. Se consigue pidiéndolo por favor, se degrada en los casos inusuales y falla justo donde más falta hace: la respuesta larga y complicada que sintetiza varios hilos, que es la que un analista menos puede comprobar de memoria.

En el segundo, primero se produce la recuperación y la identidad de los registros recuperados viaja con la respuesta a lo largo de todo el proceso. La cita no es algo que escribió el modelo. Es un registro de qué filas se leyeron.

Esa distinción es lo que debe sondear un evaluador. La pregunta útil no es «¿cita fuentes?». Es «¿qué pasa si no encuentra ninguna?», y la única respuesta aceptable es que no se produce ninguna afirmación.

La verificación tiene que ser barata, o no se hará

Aquí está la parte que se subestima, y es un problema de factores humanos más que técnico.

Cualquier proceso que obligue al analista a dedicar una tarde a confirmar un hallazgo producirá, con la carga de casos, menos hallazgos confirmados. No porque los analistas sean descuidados, sino porque el tiempo es limitado y la confirmación compite con los otros doce precintos que esperan. Un paso de verificación caro acaba racionándose, y una verificación racionada es peor que no tener automatización en absoluto, porque tiene la apariencia de rigor sin la sustancia.

Así que la medida que importa es el coste de una comprobación. Si llegar al registro de origen cuesta un clic y muestra la fila original en su contexto original, la verificación deja de ser una decisión que el analista tenga que tomar. Se convierte en la opción por defecto, porque saltársela no ahorra nada.

Este es el argumento para construir la trazabilidad en el modelo de registros, en lugar de reconstruirla en el momento de mostrarla. Una cita que sigue resolviéndose después de que se haya revisado el mapeo que la produjo es una cita en la que un analista puede confiar meses después, cuando el caso llega a los tribunales y nadie recuerda los detalles.

Qué preguntar a un proveedor

Si está evaluando cualquier herramienta con un asistente de IA, cuatro preguntas separan a las serias del resto.

¿Puede hacer clic en cualquier afirmación y llegar al registro de origen? No un documento, no una página: el registro. Pídales que lo hagan en directo, con una afirmación que usted elija, en un hilo que usted escoja.

¿Qué se registra? Cada acción que realizó el asistente y cada resultado que recibió debería escribirse en un lugar que usted controle y pueda leer. Si el registro está en manos del proveedor, es un producto distinto, con un perfil de riesgo distinto.

¿Adónde van los datos? Si la respuesta implica a un proveedor de inferencia de terceros, es una decisión que su servicio tiene que tomar de forma deliberada, en lugar de descubrirla en una revisión de seguridad después del despliegue.

¿Qué hace cuando no sabe? Haga una pregunta que los datos no puedan responder y observe. Un sistema que produce un párrafo seguro de sí mismo, bien escrito y completamente infundado le ha dicho todo lo que necesita saber sobre cómo se comportará en un caso real a las dos de la madrugada.

La postura honesta

Los peritos forenses independientes han sido coherentes en este punto: el resultado de la IA tiene que verificarse frente a los datos originales antes de poder fiarse de él. Esa no es una limitación que haya que eliminar con ingeniería, sino la relación correcta entre un sistema automatizado y un proceso probatorio.

El valor de llevar un modelo al trabajo forense no está en que sustituya el juicio del analista. Está en que hace posible ejercer ese juicio a un volumen en el que, de otro modo, deja de ejercerse en silencio. Un analista que antes podía leer el cinco por ciento de un dispositivo y ahora lee la parte relevante de todo, con cada conclusión comprobable con un clic, hace un mejor trabajo forense, no un trabajo forense más automatizado.

Es la única afirmación que merece la pena hacer, y es a la que preferimos que se nos exija responder.