Blockchain, siguiente paso para agentes de IA
Esta herramienta de bloques permitiría explicar y auditar a la inteligencia artificial para evitar malos usos o mejorarlos.
La adopción de agentes de inteligencia artificial dentro de las organizaciones requiere la capacidad de explicar y auditar esta tecnología, un problema que podría resolverse a través del uso de la herramienta del blockchain.
De acuerdo con Scott Zoldi, director de Análisis de FICO, los agentes de inteligencia artificial han demostrado que pueden realizar una gran cantidad de tareas para hacer más eficiente y productiva la operación de las empresas. Sin embargo, deben contar con mecanismos de rendición de cuentas.
En el marco de FICO World 2026, explicó que una inteligencia artificial responsable debe regirse por cuatro pilares, siendo el primero la robustez, es decir, comprender los datos sobre los que se edifica, así como seguir los procesos y estándares adecuados.
El segundo es que no sea injusta con ningún grupo de personas, seguido de la capacidad de explicar su funcionamiento y, finalmente, que sea auditable.
La capacidad de explicar las decisiones del modelo sigue siendo un desafío considerable”, detalló el director de análisis de FICO en entrevista .
Para Zoldi, es clave para el uso responsable de los agentes el poder explicar cómo éstos tomaron una decisión antes de cederles el control total de las operaciones.
Por lo anterior, gran parte de su investigación gira en torno a nuevos algoritmos para explicar modelos de inteligencia artificial. Actualmente, ya se sabe cómo abordar este aspecto en el aprendizaje automático tradicional, pero en la IA generativa, en la que se basan los agentes, aún está en una fase incipiente.
Vinculación a blockchain
Ante este escenario, el experto de FICO consideró que el siguiente paso para los agentes de inteligencia artificial es vincularlos con una blockchain, también conocida como cadena de bloques, para permitir que sean auditables y entendibles.
Esto implica que cualquier acción realizada por un conjunto de agentes debe vincularse a una cadena de bloques, la cual contendría toda la información necesaria para permitirnos auditar el proceso mediante el cual se tomó una determinada decisión”, detalló.
Zoldi eligió blockchain porque es inmutable y, por lo tanto, podría evitar que se cambie información sobre los datos utilizados, las herramientas empleadas, el tiempo invertido y el estado interno de los agentes.
Para esto se necesitarían dos cadenas de bloques. Una enfocada en describir el agente, es decir, su estructura y su proceso de monitorización; mientras que la otra se enfocaría en las tareas que ejecutó y si estuvieron involucrados otros agentes.
Añadió que las empresas tendrían que desarrollar cadenas de bloques privadas para aplicarlas en sus agentes y tener un mayor control.