Las respuestas estructuradas utilizan las capacidades de llamada de herramientas (tool calling) de los modelos de lenguaje para estructurar sus respuestas en un formato deseado (ver por ejemplo, la librería Instructor). La generación estructurada garantiza respuestas JSON 100% válidas (entre otras cosas) y lo hace restringiendo al modelo de lenguaje a muestrear sólo de un conjunto predefinido de sub-palabras (tokens) permitidas mientras enmascara todas las demás para generar una respuesta (ver por ejemplo, la librería Outlines). Las respuestas estructuradas y la generación estructurada son los métodos ideales para extraer información estructurada de datos no estructurados. En esta charla, explicaré ambos métodos, discutiré sus respectivas ventajas y limitaciones, y mostraré por qué usar ambos enfoques obtiene mejores resultados que cualquiera de los métodos de forma independiente. Para ilustrar estos conceptos, presentamos aplicaciones del mundo real en:
• Extracción de datos
• Clasificación de texto
• Generación de grafos de conocimiento
Una demostración en vivo mostrará estas capacidades en acción.