Trujillo propone que cada uso de IA deje rastro en los archivos

Daniel A. Jorge Trujillo defendió este lunes en las jornadas Archiv-IA la necesidad de que los documentos y expedientes administrativos incorporen información específica sobre cualquier intervención realizada mediante inteligencia artificial. La propuesta de OBINAR plantea registrar el sistema utilizado, la fecha de actuación, el proceso afectado, el nivel de riesgo y la existencia o no de supervisión humana.

El ponente presentó las líneas de trabajo y resultados del Observatorio de Inteligencia Artificial en Archivos (OBINAR), centrados en una propuesta de metadatos que permita reflejar cuándo y cómo ha actuado un sistema de IA sobre un documento o expediente. Su planteamiento parte de una premisa clara: cada vez será “más raro” encontrar documentación administrativa que no haya sido tratada de alguna forma mediante inteligencia artificial.

Trujillo defendió que esa intervención debe quedar registrada en la descripción documental. No basta con saber que un expediente existe, quién lo produjo o en qué procedimiento se generó. Si una herramienta ha intervenido en su creación, clasificación, anonimización, traducción o eliminación, el archivo debe poder explicarlo.

La propuesta de OBINAR se articula en torno a un metadato general de inteligencia artificial y una serie de subcampos asociados. Entre ellos figuran el sistema utilizado, su versión, el modelo aplicado, la técnica empleada, el tipo de producto —generativo, predictivo o perceptivo—, el proceso tratado, la fecha de intervención, el nivel de riesgo, la existencia o no de supervisión humana, el responsable del tratamiento y la posible política interna vinculada al uso de esa tecnología.

Trujillo puso varios ejemplos para aterrizar la idea. Un sistema de IA puede funcionar como anonimizador de documentos, traductor o apoyo para elaborar informes. También puede intervenir más tarde en la clasificación archivística o en la descripción de una unidad documental. Si esas actuaciones se producen en momentos distintos, cada una debería quedar reflejada de forma individualizada.

La clave, explicó, está en la repetición del bloque de metadatos cada vez que haya una nueva intervención. Un mismo documento puede haber sido generado con ayuda de IA, clasificado posteriormente por otro sistema, completado con nuevos datos y valorado más adelante para su conservación o eliminación. En ese caso, no habría una única huella tecnológica, sino varias actuaciones que deben quedar asociadas a su fecha y contexto.

El nivel de riesgo fue otro de los puntos centrales de la exposición. OBINAR plantea que el esquema recoja si el uso de IA entra en categorías como riesgo inaceptable, alto, limitado o mínimo, siguiendo la lógica del marco europeo. Trujillo insistió además en la importancia de la supervisión humana, incluso cuando no sea estrictamente obligatoria. 

“Supervisad todo lo que podáis”, recomendó, al considerar que la tecnología todavía no permite dejar determinados resultados sin control posterior.

La propuesta también contempla que las administraciones puedan enlazar cada sistema de IA con una ficha o página corporativa donde se explique qué herramienta se utiliza, con qué finalidad y bajo qué condiciones. Trujillo apuntó que algunas instituciones ya están publicando los algoritmos que emplean y vaticinó que esa práctica terminará extendiéndose por obligación normativa.

El trabajo de OBINAR, según detalló, busca encajar en el marco actual de gestión documental y servir de base para futuras actualizaciones del esquema de metadatos. La idea de fondo es sencilla, aunque técnicamente compleja: si la inteligencia artificial empieza a formar parte de la vida administrativa de los documentos, los archivos no pueden limitarse a conservar el resultado. También deben conservar la huella del proceso.