构建私有化大模型应用系统:部署、推理与知识库搭建
内容简介:本书从基础理论到代码实现, 系统阐述了构建私有化大语言模型(LLM)应用系统的完整流程, 重点关注部署环境、模型推理、知识库搭建与应用集成等核心工程环节。本书分为3部分, 共10章。首先, 深入讲解模型格式、推理引擎、多GPU部署与嵌入生成技术;随后, 围绕RAG系统构建、向量数据库、API接口封装、前端交互设计与私有化安全机制展开介绍;最后, 通过项目案例, 演示模型部署与知识库搭建的全流程。读者可通过本书系统掌握LLaMA、Qwen、Baichuan等主流模型的部署方式, 理解VLLM、TGI等推理引擎的性能调优手段, 并掌握向量化表示、FAISS/Milvus索引构建及RAG问答系统的完整流程。本书还特别强调私有部署中的安全合规、权限控制与攻击防御机制, 并提供法律问答与企业助手两个实战案例, 具备较强的可复用性与工程价值。
登录后可荐购