Un asistente que redacta una respuesta y un agente que puede ejecutar acciones presentan riesgos distintos. Cuando conecta la IA a ventas, agenda o sistemas internos, necesita decidir qué puede consultar, qué puede proponer y qué puede modificar. Esa decisión debe quedar implementada en las herramientas, además de describirse en las instrucciones.
Clasifique las acciones por su impacto
Consultar un catálogo público suele exigir menos controles que cambiar un precio, cancelar una reserva o enviar una propuesta. Prepare un inventario de acciones y evalúe quién resulta afectado si se ejecutan mal. Considere también la posibilidad de revertirlas y el tiempo necesario para descubrir un error.
Empiece con consulta y preparación de borradores. Después habilite acciones acotadas, con validaciones y límites, cuando las pruebas demuestren que el flujo es confiable para su caso. No es necesario conceder acceso administrativo para conseguir una automatización útil.
Una instrucción no reemplaza un permiso
Pedir al modelo que no acceda a cierta información no impide técnicamente ese acceso. La herramienta que consulta datos debe comprobar la identidad, el rol y el alcance permitido. Si el agente trabaja para varias áreas, cada operación debe conservar el contexto de autorización correspondiente.
Trate los correos, archivos y páginas que lee como información externa. Pueden contener instrucciones ajenas al proceso. Un texto recibido no debería poder modificar permisos, habilitar nuevos destinos o saltarse la aprobación definida por su organización.
Haga que la aprobación sea concreta
Una persona debe aprobar el resultado exacto: destinatario, contenido, importe si corresponde y acción que se ejecutará. Si el agente modifica esos datos después, necesita una nueva revisión. Un botón genérico de aprobación antes de conocer el resultado aporta poco control.
Ejemplo ilustrativo: el agente prepara una respuesta y una actualización de estado; el supervisor revisa ambas; el sistema comprueba que la solicitud no cambió; finalmente ejecuta la operación una sola vez y registra el resultado. Si hubo un cambio concurrente, devuelve el caso a revisión.
Diseñe límites y una salida manual
Defina límites de volumen y costo, registre fallos y permita detener las acciones sin perder las tareas pendientes. Una integración que reintenta necesita reconocer operaciones ya completadas. También debe poder distinguir un error de conexión de una respuesta de rechazo del sistema de destino.
El perfil de riesgos de IA generativa del NIST es una referencia para evaluar el uso de estos sistemas. Nuestra recomendación de diseño es medir acciones correctas y excepciones resueltas, no solo respuestas fluidas. La autonomía debe crecer junto con la evidencia y la capacidad de supervisión del equipo.
Del artículo a la práctica
Antes de comenzar
- Acciones clasificadas por impacto y reversibilidad.
- Permisos aplicados por las herramientas.
- Aprobación del contenido y la acción exactos.
- Operaciones repetidas y cambios concurrentes contemplados.
- Límites, registros y detención del flujo disponibles.
Fuentes y referencias
Consultadas el 15 de septiembre de 2026. Los ejemplos de implementación son ilustrativos; las recomendaciones de JG deben ajustarse al alcance de cada organización.