Llenar el vacío del LLM: del lenguaje natural a los resultados estructurados con Pydantic
Description
A estas alturas, la mayoría de nosotros, los desarrolladores, hemos experimentado el poder de los modelos de lenguaje grandes. Son increíblemente rápidos y pueden resolver casi cualquier tipo de problema. La mayoría de las empresas y las personas están ansiosas por aprovechar esta tecnología y han elaborado planes ambiciosos para adoptar la IA generativa. Sin embargo, la mayoría de estos planes pasan por alto un problema silencioso: los LLM no pueden producir resultados estructurados de manera confiable. Los investigadores saben desde hace mucho tiempo que los LLM no pueden producir resultados estructurados de manera confiable. Pero las recompensas de lograr tal hazaña son significativas. No más análisis JSON ni errores de clave. Más bien, una función confiable y determinista en la que podamos confiar. Un bloque de construcción modular para cualquier tubería. El paquete de instructor de Jason Liu tiene como objetivo resolver el problema de los resultados estructurados. Instructor es un parche de OpenAI que aprovecha las llamadas a funciones y Pydantic para aplicar una salida predefinida de los LLM. Es liviano, maneja reintentos y mantiene la conocida interfaz OpenAI. Esta charla explica qué es Instructor, sus beneficios y cómo comenzar a usarlo de inmediato para extraer datos estructurados de los LLM. La charla mostrará un ejemplo del mundo real de la creación de un robot de reclutamiento que captura datos de candidatos, programa entrevistas y se integra perfectamente con Google Calendar y una base de datos PostgreSQL. El esquema de la charla es el siguiente: 1. Introducir el problema de extraer datos estructurados de los LLM. 2. Comparta una breve historia sobre Jason Liu y el Instructor, inspirada en el espíritu de código abierto para resolver problemas, defendido por Sebastián Ramírez (Tiangolo). 3. Demuestre cómo construir el robot de reclutamiento paso a paso. 4. Ejecute una demostración interactiva del bot. 5. Entregue un mensaje de cierre.