Descripción
Va más allá de las discusiones académicas, adentrándose profundamente en la capa de aplicaciones de los modelos de base. Este libro práctico ofrece explicaciones claras y ricas en ejemplos sobre cómo funcionan los LLM, cómo puedes interactuar con ellos y cómo integrarlos en tus propias aplicaciones. Descubre qué hace que los LLM sean tan diferentes del software y el ML tradicionales, aprende las mejores prácticas para trabajar con ellos fuera del laboratorio y evita los errores comunes con consejos experimentados. En LLMs in Production, aprenderás a: - Comprender los fundamentos de los LLM y la tecnología que los sustenta
- Evaluar cuándo usar un LLM predefinido y cuándo construir el tuyo propio
- Escalar eficientemente una plataforma de ML para manejar las necesidades de los LLM
- Entrenar modelos de base LLM y ajustar un LLM existente
- Implementar LLM en la nube y dispositivos perimetrales utilizando arquitecturas complejas como PEFT y LoRA
- Crear aplicaciones aprovechando las fortalezas de los LLM mientras se mitigan sus debilidades LLMs in Production ofrece información vital para la implementación de MLOps, permitiéndote guiar fácil y fluidamente un modelo a su uso en producción. En su interior, encontrarás información práctica sobre todo, desde la adquisición de un conjunto de datos de entrenamiento adecuado para LLM, la construcción de una plataforma y la compensación de su inmenso tamaño. Además, consejos y trucos para la ingeniería de prompts, el reentrenamiento y las pruebas de carga, la gestión de costos y la garantía de la seguridad. Prólogo de Joe Reis. La compra del libro impreso incluye un libro electrónico gratuito en formato PDF y ePub de Manning Publications. Sobre la tecnología La mayoría del software empresarial se desarrolla y mejora de forma iterativa, y puede cambiar significativamente incluso después de su implementación. Por el contrario, debido a que los LLM son costosos de crear y difíciles de modificar, requieren una planificación inicial meticulosa, estándares de datos exigentes y una implementación técnica cuidadosamente ejecutada. La integración de los LLM en productos de producción afecta todos los aspectos de tu plan de operaciones, incluido el ciclo de vida de la aplicación, el pipeline de datos, el costo computacional, la seguridad y más. Si lo haces mal, puedes tener un costoso fracaso en tus manos. Sobre el libro LLMs in Production te enseña cómo desarrollar un plan de LLMOps que pueda llevar una aplicación de IA sin problemas desde el diseño hasta la entrega. Aprenderás técnicas para preparar un conjunto de datos para LLM, trucos de entrenamiento rentables como LORA y RLHF, y puntos de referencia de la industria para la evaluación de modelos. En el camino, pondrás en práctica tus nuevas habilidades en tres emocionantes proyectos de ejemplo: crear y entrenar un LLM personalizado, construir una extensión de codificación de IA para VSCode y desplegar un modelo pequeño en una Raspberry Pi. Contenido - Equilibrio entre costo y rendimiento
- Reentrenamiento y pruebas de carga
- Optimización de modelos para hardware básico
- Despliegue en un clúster de Kubernetes Sobre el lector Para científicos de datos e ingenieros de ML que conocen Python y los conceptos básicos del despliegue en la nube. Sobre el autor Christopher Brousseau y Matt Sharp son ingenieros experimentados que han liderado numerosas implementaciones exitosas de LLM a gran escala. Tabla de Contenidos 1 IA generativa: por qué los grandes modelos de lenguaje han captado la atención
2 Grandes modelos de lenguaje: una inmersión profunda en el modelado de lenguaje
3 Operaciones de grandes modelos de lenguaje: construcción de una plataforma para LLM
4 Ingeniería de datos para grandes modelos de lenguaje: preparación para el éxito
5 Entrenamiento de grandes modelos de lenguaje: cómo generar el generador
6 Servicios de grandes modelos de lenguaje: una guía práctica
7 Ingeniería de prompts: cómo convertirse en un susurrador de LLM
8 Aplicaciones y agentes: construcción de una experiencia interactiva
9 Creación de un proyecto LLM: reimplementando Llama 3
10 Creación de un proyecto de copiloto de codificación: integración de un servicio LLM en VS Code con RAG
11 Despliegue de un LLM en una Raspberry Pi: ¿hasta dónde puedes llegar?
12 Producción, un paisaje en constante cambio: esto apenas comienza
A Historia de la lingüística
B Aprendizaje por refuerzo con retroalimentación humana
C Espacios latentes multimodales
Autor: Christopher Brousseau, Matt Sharp
Editorial: Manning Publications
Publicado: 11/02/2025
Páginas: 456
Tipo de encuadernación: Tapa blanda
Peso: 1.68 libras
Tamaño: 9.14 pulgadas (alto) x 7.40 pulgadas (ancho) x 0.93 pulgadas (profundidad)
ISBN13: 9781633437203
ISBN10: 1633437205
Categorías BISAC:
- Informática | Inteligencia Artificial | Sistemas Expertos
- Informática | Lenguajes | Python
- Informática | Inteligencia Artificial | Procesamiento del Lenguaje Natural
- Evaluar cuándo usar un LLM predefinido y cuándo construir el tuyo propio
- Escalar eficientemente una plataforma de ML para manejar las necesidades de los LLM
- Entrenar modelos de base LLM y ajustar un LLM existente
- Implementar LLM en la nube y dispositivos perimetrales utilizando arquitecturas complejas como PEFT y LoRA
- Crear aplicaciones aprovechando las fortalezas de los LLM mientras se mitigan sus debilidades LLMs in Production ofrece información vital para la implementación de MLOps, permitiéndote guiar fácil y fluidamente un modelo a su uso en producción. En su interior, encontrarás información práctica sobre todo, desde la adquisición de un conjunto de datos de entrenamiento adecuado para LLM, la construcción de una plataforma y la compensación de su inmenso tamaño. Además, consejos y trucos para la ingeniería de prompts, el reentrenamiento y las pruebas de carga, la gestión de costos y la garantía de la seguridad. Prólogo de Joe Reis. La compra del libro impreso incluye un libro electrónico gratuito en formato PDF y ePub de Manning Publications. Sobre la tecnología La mayoría del software empresarial se desarrolla y mejora de forma iterativa, y puede cambiar significativamente incluso después de su implementación. Por el contrario, debido a que los LLM son costosos de crear y difíciles de modificar, requieren una planificación inicial meticulosa, estándares de datos exigentes y una implementación técnica cuidadosamente ejecutada. La integración de los LLM en productos de producción afecta todos los aspectos de tu plan de operaciones, incluido el ciclo de vida de la aplicación, el pipeline de datos, el costo computacional, la seguridad y más. Si lo haces mal, puedes tener un costoso fracaso en tus manos. Sobre el libro LLMs in Production te enseña cómo desarrollar un plan de LLMOps que pueda llevar una aplicación de IA sin problemas desde el diseño hasta la entrega. Aprenderás técnicas para preparar un conjunto de datos para LLM, trucos de entrenamiento rentables como LORA y RLHF, y puntos de referencia de la industria para la evaluación de modelos. En el camino, pondrás en práctica tus nuevas habilidades en tres emocionantes proyectos de ejemplo: crear y entrenar un LLM personalizado, construir una extensión de codificación de IA para VSCode y desplegar un modelo pequeño en una Raspberry Pi. Contenido - Equilibrio entre costo y rendimiento
- Reentrenamiento y pruebas de carga
- Optimización de modelos para hardware básico
- Despliegue en un clúster de Kubernetes Sobre el lector Para científicos de datos e ingenieros de ML que conocen Python y los conceptos básicos del despliegue en la nube. Sobre el autor Christopher Brousseau y Matt Sharp son ingenieros experimentados que han liderado numerosas implementaciones exitosas de LLM a gran escala. Tabla de Contenidos 1 IA generativa: por qué los grandes modelos de lenguaje han captado la atención
2 Grandes modelos de lenguaje: una inmersión profunda en el modelado de lenguaje
3 Operaciones de grandes modelos de lenguaje: construcción de una plataforma para LLM
4 Ingeniería de datos para grandes modelos de lenguaje: preparación para el éxito
5 Entrenamiento de grandes modelos de lenguaje: cómo generar el generador
6 Servicios de grandes modelos de lenguaje: una guía práctica
7 Ingeniería de prompts: cómo convertirse en un susurrador de LLM
8 Aplicaciones y agentes: construcción de una experiencia interactiva
9 Creación de un proyecto LLM: reimplementando Llama 3
10 Creación de un proyecto de copiloto de codificación: integración de un servicio LLM en VS Code con RAG
11 Despliegue de un LLM en una Raspberry Pi: ¿hasta dónde puedes llegar?
12 Producción, un paisaje en constante cambio: esto apenas comienza
A Historia de la lingüística
B Aprendizaje por refuerzo con retroalimentación humana
C Espacios latentes multimodales
Autor: Christopher Brousseau, Matt Sharp
Editorial: Manning Publications
Publicado: 11/02/2025
Páginas: 456
Tipo de encuadernación: Tapa blanda
Peso: 1.68 libras
Tamaño: 9.14 pulgadas (alto) x 7.40 pulgadas (ancho) x 0.93 pulgadas (profundidad)
ISBN13: 9781633437203
ISBN10: 1633437205
Categorías BISAC:
- Informática | Inteligencia Artificial | Sistemas Expertos
- Informática | Lenguajes | Python
- Informática | Inteligencia Artificial | Procesamiento del Lenguaje Natural
Sobre el autor
Christopher Brousseau es un MLE de personal en JPMorganChase con experiencia en lingüística y localización. Se especializa en PNL lingüísticamente informada, especialmente con un enfoque internacional, y ha liderado exitosas iniciativas de productos de ML y datos tanto en startups como en empresas Fortune 500.