← 返回

构建私有化大模型应用系统:部署、推理与知识库搭建

著者温智凯著
ISBN9787302700876
分类号TP391 自动化技术、计算机技术
学科工学
版次第1版
出版社清华大学出版社
丛书名
出版年2025
价格¥99.00
页码284页
类型 📄 纸质书
核心评分10.0/10
读者对象
主题词自然语言处理
内容简介:本书从基础理论到代码实现, 系统阐述了构建私有化大语言模型(LLM)应用系统的完整流程, 重点关注部署环境、模型推理、知识库搭建与应用集成等核心工程环节。本书分为3部分, 共10章。首先, 深入讲解模型格式、推理引擎、多GPU部署与嵌入生成技术;随后, 围绕RAG系统构建、向量数据库、API接口封装、前端交互设计与私有化安全机制展开介绍;最后, 通过项目案例, 演示模型部署与知识库搭建的全流程。读者可通过本书系统掌握LLaMA、Qwen、Baichuan等主流模型的部署方式, 理解VLLM、TGI等推理引擎的性能调优手段, 并掌握向量化表示、FAISS/Milvus索引构建及RAG问答系统的完整流程。本书还特别强调私有部署中的安全合规、权限控制与攻击防御机制, 并提供法律问答与企业助手两个实战案例, 具备较强的可复用性与工程价值。
登录后可荐购