国产信创落地:华为昇腾NPU vLLM-Ascend‌大模型私有化部署全实战(Ascend‌版)

课程详情

课程详情

课程标题:国产信创落地:华为昇腾NPU vLLM-Ascend‌大模型私有化部署全实战(Ascend‌版)

课程核心介绍:

  • 全面掌握华为昇腾NPU vLLM-Ascend大模型的私有化部署技术
  • 通过DeepSeek、GLM、Qwen等全系列模型资源,在昇腾NPU平台上实现模型部署
  • 学习如何高效扩展模型,实现高性能计算和稳定运行

适合人群:

  • AI领域专业教师
  • AI领域维护工程师
  • 关注国家信息产业发展的企业技术人员
  • AI算法应用开发者
  • 准备转行AI领域的专业人士
  • 高级工程师

学习收获:

  • 掌握华为昇腾NPU vLLM-Ascend大模型的私有化部署技术
  • 了解模型在昇腾NPU平台上的运行机制
  • 学会如何优化模型性能,提高计算效率
  • 具备独立部署和优化AI模型的能力

课程亮点:

  • 全程实战,从理论到实践,全面掌握大模型部署技术
  • 结合昇腾NPU平台,深入学习模型优化和性能提升
  • 由资深讲师团队授课,确保学习效果
  • 提供丰富的学习资源,助力学员快速成长

课程目录

01 国产化的信创之路
  01 国产信创落地第一课:兼容性vLLM-Ascend技术全景与核.mp4
  02 快速上手:vLLM-Ascend能为AI推理业务带来的核心增.mp4
  03 底层逻辑梳理:vLLM-Ascend技术选型思路与架构设计.mp4
  04 硬件适配第一步:华为昇腾910B官方驱动精准下载指南.mp4
  05 零报错实操:vLLM-Ascend 9.0驱动安装全流程与问.mp4
  06 容器化部署规划:vLLM-Ascend Docker版本选型.mp4
02 核心环境与集群部署阶段
  01 可视化高效运维:GPUStack2.x界面安装与国内镜像加速.mp4
  02 分布式能力入门:vLLM-Ascend集群部署基础流程.mp4
  03 集群能力扩展:vLLM-Ascend节点添加与集群状态校验.mp4
  04 容器环境适配:vLLM-Ascend Docker驱动兼容安.mp4
  05 自定义能力拓展:vLLM-Ascend自定义后端推理链路配置.mp4
  06 大模型资源获取:DeepSeek-V4、GLM-5.1、Mi.mp4
  07 模型导入全方案:vLLM-Ascend本地模型导入+国内外在.mp4
03 国产环境下大模型的部署,避免踩坑一次成功
  01 生产级部署实战:DeepSeek-V4在vLLM-Ascen.mp4
  02 效果验证环节:部署完成后的对话测试与基准性能跑分.mp4
  03 国产大模型适配:GLM-5.1在vLLM-Ascend上部署.mp4
  04 多版本对比落地:GLM-5系列模型部署差异与性能横向对比.mp4
  05 效果校验进阶:vLLM GLM-5.1推理效果专项测试.mp4
  06 推理效率升级:vLLM-Ascend量化模型与重排模型部署框.mp4
  07 向量检索优化:Qwen-Embedding与BGE模型在昇腾.mp4
  08 RAG能力增强:vLLM-Ascend重排模型下载与生产级部.mp4
  09 离线私有化方案:Minimax大模型在vLLM-Ascend.mp4
  10 生态兼容配置:vLLM-Ascend API接口标准化兼容改.mp4
04 课程资料下载
  01 下载指导.mp4