Antes de que un prototipo de IA se convierta en software de producción

1. Defina el flujo completo.

Supongamos que un sistema lee documentos de proveedores y prepara registros para una herramienta operativa. El modelo extrae nombre del proveedor, número de referencia y fecha solicitada. Una persona comprueba el registro propuesto antes de escribirlo en el destino.

La salida útil es un registro aprobado y trazable. Especifique tipos de documentos admitidos, campos obligatorios, transformaciones permitidas y responsabilidades de revisión. Mantenga el documento original disponible para quien revisa. La información ausente debe seguir mostrándose como ausente.

Empiece con un flujo predecible cuando los pasos sean conocidos. La guía de Anthropic sobre la creación de agentes distingue flujos predefinidos de sistemas que eligen sus propios pasos y recomienda añadir complejidad solo cuando ayude a la tarea.

2. Pruebe casos representativos.

Prepare ejemplos con resultados esperados, incluidos casos difíciles y entradas fallidas. Separe los casos usados para desarrollar el sistema de los usados para comprobar un cambio. Los cambios de modelo, instrucciones, analizador e integración pueden afectar al resultado.

Evalúe los campos extraídos y el estado resultante del flujo. Una respuesta bien formada puede contener el proveedor incorrecto o dejar un registro en el lugar equivocado. La guía de evaluación de Anthropic analiza por qué importan las tareas claras, una calificación adecuada y la inspección del comportamiento del sistema.

Elija umbrales de aceptación según las consecuencias de cada error. Registre por separado los registros incorrectos aceptados y los casos enviados a revisión. Mida también esfuerzo de revisión, tiempo de respuesta y coste por elemento completado; una sola precisión media no explica el flujo completo.

3. Controle acceso y acciones.

Aplique los controles de acceso en la aplicación y las herramientas. Dé al paso de extracción solo los documentos que necesita. Permita que la operación de escritura acepte registros validados y aprobados con la autorización adecuada.

El texto de un documento es un dato de entrada, incluso cuando contiene instrucciones. No debe poder conceder permisos, elegir un destino ajeno ni autorizar una escritura. Incluya instrucciones engañosas e intentos de acceder a otros registros en las pruebas.

4. Planifique los fallos parciales.

Un tiempo de espera agotado no indica si hubo una escritura remota. Use un identificador estable de operación cuando el destino lo admita, o concilie con el destino antes de reintentar. Si no puede establecerse el resultado, muéstrelo como no resuelto y proporcione una vía de revisión.

Defina reintentos limitados, colas de fallos o estados de revisión según el flujo. Registre lo necesario para diagnosticar una operación sin copiar contenido sensible de documentos en los registros habituales. Acordamos quién atiende excepciones y cómo se conservan documentos originales, resultados y registros.

5. Elija una primera versión acotada.

Empiece con un tipo de documento definido y un grupo manejable de usuarios. Compare los registros propuestos con el proceso actual antes de habilitar escrituras y mantenga la aprobación humana mientras recopila evidencia de errores reales y esfuerzo de revisión.

Acordamos cuándo pausar el flujo, cómo volver al procesamiento manual y quién es responsable de los cambios. Una automatización más amplia debe basarse en evidencia de que el flujo cumple sus requisitos, incluidos los fallos, no solo en una demostración exitosa.