Miguel Marengo Canales

blog/bitácora Silodisa AI

bitácora semanal · entrega 8 · «No estoy de acuerdo»

300 letras para decirle a la IA que se equivocó

Cada agente de Silodisa AI firma lo que hace y tiene un dueño. Un botón, «No estoy de acuerdo», manda una línea de hasta 300 letras a ese dueño, que solo puede contestar «explicado» o «hay que mejorar al agente».

un desacuerdo, de punta a punta firma del agenteno estoy de acuerdo una líneahasta 300 letras dueño del agentebandeja de Hoy explicado mejorar al agente Verificador · 30 d la IA recomienda · la gente decide
El camino de un «No estoy de acuerdo»De la firma del agente a la bandeja de su dueño, dos respuestas posibles y la cuenta del Verificador.
en 30 segundos
  • Todo lo que viene de un agente lleva su firma: qué agente es, quién es su dueño y un botón: No estoy de acuerdo.
  • Al apretarlo se escribe una sola línea, de hasta 300 letras, que le llega al dueño del agente en su bandeja de Hoy.
  • El dueño solo puede contestar «explicado» o «hay que mejorar al agente», y el Verificador cuenta todo en 30 días. El agente no cambia solo.
300letras, una sola línea obligatoria
12 de 13agentes con dueño; el Vigilante, a los administradores
2respuestas posibles del dueño
30 díasde cuenta del Verificador por agente

En la bodega trabajan trece agentes de IA. Califican el día, miden camiones, sugieren puertas, proponen dónde guardar cada tarima y arman planes de reacomodo. Hacen muchas cosas bien. Y a veces se equivocan.

La pregunta que más me importaba no era cómo hacer que se equivoquen menos. Era otra: cuando un agente se equivoca, ¿quién se entera?

En la mayoría de los sistemas, nadie. El supervisor ve una sugerencia que no tiene sentido, la ignora y sigue con su turno. El sistema no sabe que la ignoraron ni por qué. Mañana sugiere lo mismo.

Un botón en cada firma

Todo lo que viene de un agente lleva su firma: una tarjeta, una alarma, una sugerencia, un plan, una orden. La firma dice tres cosas: qué agente es y qué hace («Cronos · evalúa»), quién es su dueño y un botón: No estoy de acuerdo.

una firma, tres partes Cronos · evalúa 1 un número del tablero 2 Dueño: Responsable del Almacén No estoy de acuerdo 3 1 qué agente y qué hace · 2 quién responde 3 dónde decir que no
La firma de cada agenteVa en toda tarjeta, alarma, sugerencia, plan y orden que viene de un agente. Ilustrativo: la tarjeta.

El dueño no es una persona escrita en el código: es un puesto. De los trece agentes, siete son del Responsable del Almacén y cinco del Director General. El decimotercero, el Vigilante, es interno y no tiene dueño; si alguien no está de acuerdo con él, el comentario les llega a los administradores. Nadie se queda sin a quién reclamarle.

Una línea, no un formulario

Al apretar el botón se abre una ventana con una sola línea obligatoria, de hasta 300 letras, con su cuenta. Arriba dice a quién le va a llegar. Nada más.

Lo hicimos así a propósito. Un formulario de cinco campos no lo llena nadie a media maniobra. Una línea sí: «esa puerta está en mantenimiento desde ayer», «ese producto sube la semana que entra por una campaña», «el camión ya estaba en el andén».

Lo demás se guarda solo: el agente, su dueño en ese momento, la pantalla, el número o la sugerencia que se veía y su valor, quién y cuándo. Todo va a la bitácora que ya teníamos; no hizo falta una tabla nueva.

lo que se guarda: una fila agente Portero dueño Responsable del Almacén pantalla Sugerencia de puerta valor la puerta sugerida la línea «esa puerta está en mantenimiento» quién · cuándo los de la sesión en la bitácora de siempre · sin tablas nuevas
Una línea la escribe la persona; lo demás, la appIlustrativo: los valores. Los campos son los que guarda la app con cada desacuerdo.

Dos respuestas, y solo dos

El comentario le llega al dueño del agente en su bandeja de Hoy: «Comentarios sobre tus agentes». Ahí ve qué agente, cuándo, qué se veía en pantalla y la línea que escribió la persona.

El dueño contesta con otra línea y elige una de dos:

  1. Explicado. El agente tenía razón, y el dueño dice por qué. Quien comentó aprende algo.
  2. Hay que mejorar al agente. El agente se equivocó, y queda escrito.

No hay tercera opción ni «lo veo después». Cada comentario se contesta una vez; la primera respuesta es la que cuenta. Solo el dueño de ese agente (o un administrador) puede contestar. Y el nombre de quien comentó solo lo ven el administrador y el gestor: decir «no estoy de acuerdo» no debería costarle a nadie.

Un agente sin a quién reclamarle es un agente que nadie corrige.

El agente no cambia solo

«Hay que mejorar al agente» no reescribe ninguna regla. Lo que hace es dejar evidencia. Con esa evidencia, el dueño puede proponer un ajuste: qué regla cambiaría y por qué. El agente cambia solo cuando su dueño lo aprueba.

Esto importa porque los agentes que recomiendan ya comparan lo que sugirieron con lo que pasó. Al 27 de septiembre, la puerta que sugirió el Portero coincidió con la que se usó en 43 de 565 camiones, y el pasillo del Acomodador, en 0 de 72 tarimas: quedaron en otro pasillo. Son números todavía en rojo, y solos no dicen si el agente está mal o si el piso tenía una razón. La línea de 300 letras es la que lo dice.

El Verificador lleva la cuenta

El Verificador, el agente que revisa si lo que se ordenó de verdad se hizo, también cuenta esto. Por cada agente, en los últimos 30 días: cuántos desacuerdos recibió, cuántos se explicaron, cuántos pidieron mejorarlo y cuántos siguen sin respuesta. Esas columnas están en Configurar → Agentes, a la vista de todos.

Verificador · últimos 30 días agente 1 5 agente 2 3 agente 3 2 explicado mejorar sin respuesta sin respuesta también es una columna
Lo que cuenta el VerificadorIlustrativo: los agentes y las cantidades. Las tres columnas son las de Configurar → Agentes.

Hay una segunda razón para contar. En los agentes que proponen, medimos el «sello de goma»: si sus propuestas se confirman en menos de 8 segundos de mediana y sin correcciones, el agente se pone en rojo con la leyenda «Se confirma sin mirar». Un «No estoy de acuerdo» cuenta como corrección. Es la prueba de que alguien sí está leyendo.

Lo que no sabemos

  • Cuántos desacuerdos va a recibir cada agente en un mes normal. La prueba de la app corre 45 revisiones con desacuerdos y respuestas de ejemplo; el conteo real de 30 días lo cuento cuando lo tengamos.
  • Si 300 letras es la medida correcta. Es un número fijo en el código; si se queda corto, se cambia.
  • Si los dueños van a contestar a tiempo. Por eso «sin respuesta» es una columna, no un detalle.

Lo que sigue

La IA recomienda; la gente decide. Pero eso solo es cierto si la gente tiene dónde decir que no, y si alguien tiene que contestar. BIEN y a Tiempo empieza por saber cuándo algo salió mal.

¿En tu operación, a quién le reclamas cuando el sistema se equivoca? Escríbeme.

Miguel Marengo Canales · Silodisa

bitácoralogísticaagentesgobernanza de IA

Comentarios

comentarios · contesto cada uno. Si no estás de acuerdo, mejor: dilo con números.

  • cargando…