Radiografía de los agentes de inteligencia artificial: ¿hasta dónde llega su autonomía?
A medida que los agentes de inteligencia artificial adquieren autonomía, la intervención humana se vuelve crucial en diferentes entornos
17/07/2025 – 12:48hs
Los agentes de inteligencia artificial (IA) se consideran la nueva frontera de la automatización. Estos agentes combinan modelos de lenguaje con «herramientas» que les permiten recordar interacciones previas y acceder a recursos externos para percibir, interpretar e interactuar con el entorno.
Esta integración sienta las bases para sistemas más complejos capaces de desglosar los procesos en pasos concretos y ejecutar flujos de trabajo completos de forma autónoma y dinámica. Su impacto es evidente en áreas que abarcan desde el desarrollo de software y la educación hasta las finanzas, los bienes de consumo, la atención al cliente, la energía y la atención médica, entre otras.
Componentes clave de un agente de inteligencia artificial
- Agente base o modelo de lenguaje: Actúa como el motor central de razonamiento del sistema, orquestando el razonamiento lógico, la planificación, la comprensión contextual y la interacción personalizada.
- Módulo de memoria: Permite almacenar y recuperar información, manteniendo el contexto y la continuidad a lo largo del tiempo, garantizando respuestas personalizadas y consistentes.
- Herramientas: Proporciona acceso a recursos externos como bases de datos y API, lo que permite al agente realizar tareas específicas e interactuar con el mundo exterior.
- Capa de orquestación: Presente en algunas arquitecturas, define un ciclo de procesamiento en el que el agente recibe información, razona internamente y decide su siguiente acción hasta alcanzar su objetivo.
La autonomía de los sistemas agénticos no es un concepto binario, sino que puede ordenarse por escala. Se propone una clasificación de cinco niveles, inspirada en el estándar de vehículos autónomos, adaptada al contexto de los agentes basados en inteligencia artificial generativa:
- Primer nivel de automatización: automatización sin IA: sistemas tradicionales que dependen completamente de la activación humana (p. ej., chatbots con respuestas predefinidas).
- Segundo nivel de automatización: automatización con IA generativa: incluye IA generativa, pero requiere la intervención activa del usuario mediante lenguaje natural (p. ej., utilizando ChatGPT para generar informes con los datos proporcionados).
- Tercer nivel de automatización: flujo de trabajo agéntico con baja autonomía: agentes personalizados realizan tareas de forma autónoma dentro de parámetros predefinidos (p. ej., GPT especializado en redacción legal con supervisión humana).
- Cuarto nivel de automatización: flujo de trabajo agéntico moderadamente autónomo (flujos de trabajo impulsados por IA generativa): agentes básicos que gestionan las tareas a través de rutas predefinidas (por ejemplo, un sistema que clasifica documentos, genera informes, consulta API y envía resultados automáticamente).
- Quinto nivel de automatización: flujo de trabajo agéntico altamente autónomo (agentes impulsados por IA generativa en sentido estricto): Pueden gestionar flujos de trabajo completos de forma autónoma, adaptativa y dinámica (por ejemplo, un agente de IA que organiza viajes complejos).
A medida que los agentes de inteligencia artificial adquieren autonomía, la intervención humana se vuelve crucial. En la fase de diseño de flujos de trabajo altamente autónomos basados en agentes, es esencial definir objetivos y límites claros para guiar el proceso de toma de decisiones del agente.
Además, se deben identificar puntos críticos en los flujos de trabajo donde los expertos puedan supervisar y validar los resultados del sistema para garantizar su coherencia con los objetivos y principios éticos de la organización.
‘Charly’ Lizarralde
Esto da lugar al concepto de Agente Aumentado por Humano, donde la intervención humana se integra en puntos específicos del flujo de trabajo para proporcionar retroalimentación, validar, refinar, reemplazar o anular las acciones del sistema.
Este componente humano es esencial para establecer criterios que limiten las capacidades del agente, mitiguen riesgos como alucinaciones y sesgos, imiten la comunicación humana y mejoren la memoria y el aprendizaje a largo plazo del sistema.
(*) Cofundador y director general ejecutivo de 7Puentes.