Cuánta autonomía dar a la máquina
La autonomía debe concederse por grados. Cada grado da más capacidad y abre nuevos tipos de errores.
David Pereira Paz · Primera edición, octubre de 2026
En el debate público sobre agentes se mezclan situaciones muy distintas. A un consejo le basta con distinguir cuatro grados de autonomía según el daño que pueden causar y el control que requieren.
| Grado | Qué hace | Cómo falla | Qué control exige |
|---|---|---|---|
| 1. Modelo solo | Redacta, resume, clasifica y explica con lo que sabe y con lo que se le da. | Se inventa cosas con total aplomo. No puede comprobar nada. | Decidir qué información se le puede dar y quién ve lo que produce. |
| 2. Modelo con acceso a herramientas | Consulta datos actualizados, calcula, lee y escribe en los sistemas de la empresa. | Sus errores llegan a sistemas reales, y una acción equivocada parece igual de correcta que una buena. | Permisos acotados para cada herramienta y un registro legible de todo lo que hace. |
| 3. Agente | Divide un objetivo en pasos, los ejecuta y corrige sus propios errores. | Se aparta del objetivo real y el gasto se dispara. Persigue lo que se le escribió, no lo que se quería decir. | Aprobación humana para las acciones importantes, límite de gasto y un entorno aislado. |
| 4. Varios agentes | Gestionan procesos completos pasándose el trabajo entre ellos. | El resultado es erróneo sin que ningún paso lo parezca. Consume unas quince veces más. | Una persona concreta que responda de cada proceso. La responsabilidad no se reparte entre agentes. |
La regla
El grado de autonomía debe ir en proporción a lo que cuesta un error, no a la ambición del proyecto. Hoy la mayor parte del valor está en los grados 1 y 2. A partir del grado 3, el control deja de ser un trámite y se convierte en lo que protege la cuenta de resultados.
Dónde es fiable hoy
La IA generativa rinde bien con lenguaje y documentos: redactar, resumir, traducir, clasificar, extraer datos de un documento, explicar un producto de software, responder a partir de la documentación de la empresa o proponer alternativas para que alguien elija. En todos estos casos hay una persona capaz de revisar el resultado, y un error se puede corregir.
Cuatro limitaciones y a quién corresponde cada una
Una lista de preocupaciones se convierte en un plan cuando cada una tiene dueño.
| Limitación | En qué consiste | A quién le toca |
|---|---|---|
| Del propio modelo | No distingue lo verdadero de lo falso. Inventa con soltura, arrastra sesgos y no sabe cuándo no sabe. | A quien diseña cómo se comprueban sus respuestas. |
| De funcionamiento | El coste o el tiempo de respuesta pueden hacer inviable un uso. Y cuesta saber si la calidad se mantiene una vez en marcha. | A ingeniería y a quien mide. |
| De dependencia | La empresa no controla el motor. Los modelos se retiran o cambian de comportamiento o coste sin previo aviso. | A quien toma las decisiones de diseño. |
| Legal y ética | Datos personales que salen de la empresa, propiedad intelectual dudosa, decisiones que afectan a personas y obligación de explicarlas. | A una función de gobierno estable y con responsables claros. |
Además, hay cosas que ninguna versión futura va a resolver, porque no son defectos técnicos. Un modelo no puede decidir qué problema merece atención, no puede responder de un resultado y no puede tomar decisiones morales: para merecer confianza hay que poder obrar mal y elegir no hacerlo.
Conviene usarla donde el resultado sea fácil de comprobar y el error fácil de corregir.
Este criterio basta para ordenar casi cualquier propuesta. Cuando comprobar es costoso o el error no tiene vuelta atrás, la empresa está asumiendo el coste de un programa de verificación, y eso hay que decidirlo sabiendo lo que cuesta en presupuesto y en dedicación de los equipos.