大模型训练与推理加速实战:基于CUDA计算平台
内容简介:本书讲解CUDA在深度学习与高性能计算中的应用与优化。首先,介绍CUDA架构、开发环境、性能分析与优化基础。然后,探讨CUDA在深度学习中的应用,重点优化卷积操作与大规模数据处理。接着,介绍高性能计算,讲解CUDA在大规模线性代数与科学仿真中的应用。另外,还阐述模型压缩与加速技术,包括量化、蒸馏与剪枝。对于推理优化,聚焦加速技术与端侧推理,并探讨利用NCCL加速分布式训练与多GPU协同。
登录后可荐购