‹ Cultura 3.14 · Qué nos preguntamos
Pregunta · Operaciones
¿Dónde debe intervenir una persona para aportar criterio sin convertirse en un cuello de botella?
La intervención humana aporta conocimiento y autoridad, pero un diseño impreciso puede convertirla en una cola de revisiones sin contexto.
Por qué importa
«Human in the loop» suele utilizarse como garantía genérica de control. En la práctica puede significar cosas muy distintas: completar un dato, validar una inferencia, elegir entre compromisos, autorizar una acción, resolver una excepción o detener el sistema.
Cuando esas funciones no se distinguen, la persona recibe demasiados casos, revisa sin saber por qué, reconstruye el contexto desde varias aplicaciones o confirma mecánicamente propuestas que ya no puede evaluar con atención.
El resultado es una automatización que parece prudente, pero desplaza el trabajo y concentra el riesgo en una cola humana.
Qué sabemos hasta ahora
La intervención puede diseñarse a partir de cuatro dimensiones:
- impacto: qué consecuencias tiene una decisión incorrecta;
- incertidumbre: qué parte del contexto o de la inferencia continúa abierta;
- reversibilidad: si la acción puede deshacerse con seguridad;
- autoridad: quién está legitimado para aceptar sus consecuencias.
La persona debería recibir un paquete de decisión, no un volcado técnico: estado actual, información utilizada, motivo del escalado, opción propuesta, alternativas permitidas, consecuencias y forma de corregir el contexto.
También conviene observar la intervención como parte del sistema:
- tiempo de espera;
- porcentaje de propuestas corregidas;
- frecuencia de cada motivo de derivación;
- carga por persona o función;
- decisiones confirmadas sin modificación;
- casos que vuelven a escalar;
- excepciones recurrentes que deberían producir una regla o un rediseño.
La persona debe poder aportar más que una respuesta binaria. En muchos casos necesita limitar el ámbito, pedir información, modificar la propuesta, dejar el caso abierto o detener el recorrido.
Qué continúa abierto
Sigue abierto cómo adaptar dinámicamente los umbrales de intervención sin que el sistema aprenda simplemente a imitar aprobaciones históricas.
También cómo medir la fatiga de revisión antes de que aparezca como error; cómo repartir autoridad cuando varias áreas comparten las consecuencias; y cómo evitar que una reducción de escalados oculte casos que el sistema ha dejado de reconocer como inciertos.
La pregunta más difícil quizá sea organizativa: qué decisiones quiere conservar realmente una persona y cuáles mantiene hoy únicamente porque el sistema todavía no sabe prepararlas bien.