Salidas estructuradas o texto libre: una decisión que parece menor

Una de las primeras decisiones que hay que tomar al integrar un modelo de lenguaje en un proceso es qué forma tendrá su respuesta. Texto libre es lo natural cuando piensas en un asistente conversacional. Estructura, normalmente JSON, es lo que necesitas en cuanto el resultado va a entrar en otro sistema. Y casi siempre va a entrar en otro sistema.

Por qué la estructura cambia el proyecto

Un texto libre obliga a alguien a leerlo. Un JSON puede ir directo a un CRM, a un correo, a una decisión automatizada o a un panel. Esa diferencia decide si tu inversión en IA tiene multiplicador o si depende para siempre de un humano que copie y pegue.

En los proyectos donde trabajamos, la inmensa mayoría de los flujos productivos terminan exigiendo salida estructurada. No por preferencia técnica, sino porque la operación lo necesita.

Cuándo elegir una u otra

• Texto libre tiene sentido cuando el destinatario es una persona y la respuesta es matizada: borradores, resúmenes ejecutivos, ayudas de redacción.
• Estructura tiene sentido cuando la respuesta tiene que entrar en otro sistema, dispararse contra un proceso o validarse automáticamente.
• Mixto, con un texto razonado para mostrar y un bloque estructurado para procesar, suele ser la opción que mejor envejece.

Lo que solemos ver fallar

El primer error es no validar. Si esperas un campo de tipo número y el modelo te devuelve una cadena con un símbolo, todo el flujo se rompe. La validación con esquema es barata, rápida de implementar y previene la mayoría de los incidentes que vemos en producción.

El segundo error es pedir estructuras enormes. Cuanto más anidado el JSON, más oportunidades de fallo. Cuando puedas, simplifica y reparte la salida en varias llamadas pequeñas. Es más barato de operar y más fácil de depurar.

Esta decisión, que en el papel ocupa una línea, suele determinar más que muchas otras la estabilidad final del sistema.