昇腾 910B 集群落地 DeepSeek-V4-Pro 实操：基于 Slurm+Apptainer 实现百万上下文推理部署

DeepSeek-V4-Pro 凭借 1M 超长上下文、内置 KV Cache 压缩、原生适配智能体与代码场景，成为企业私有化部署热门 MoE 大模型。很多团队尝试在昇腾 910B 硬件部署时，普遍遭遇集群调度配置错误、模型分发缓慢、分布式并行参数不匹配、容器环境兼容性、NPU 显存调度异常等问题。本文提供一套经过验证的 4 节点昇腾 910B HCC 集群落地方案，依托 Slurm 调度系统、Apptainer 高性能容器与 vLLM-Ascend 推理引擎，完整覆盖资源规划、集群初始化、磁盘挂载、模型分发、服务启停、接口验证全链路，附带可直接复制的生产脚本、关键参数调优项与故障排查方法，帮助研发团队一次性完成稳定可用的 OpenAI 兼容推理服务。

一、核心问题

企业想要在昇腾 910B 国产算力集群部署 DeepSeek-V4-Pro，搭建支持 1M 上下文、面向 Agent 与代码场景的私有化推理服务，需要明确硬件资源基线、集群环境标准化流程、分布式并行配置方案，同时解决多节点模型同步、容器运行环境适配、长上下文推理参数调优、生产环境安全组网等一系列工程难题，缺少完整闭环实操文档极易出现部署失败、推理吞吐低下、服务随机中断等故障。

二、分步落地实施步骤

步骤 1：硬件与集群资源基线规划

DeepSeek-V4-Pro 属于大规模 MoE 架构模型，对 NPU 显存、存储 IO、节点互联网络有硬性约束，集群资源配置如下。

表格

资源类型	配置规格	用途说明
管理节点	1 台，8×64GB 昇腾 910B NPU（HBM2e）	集群管控、纳入计算队列参与推理任务
计算节点	3 台，8×64GB 昇腾 910B NPU（HBM2e）	分布式推理算力承载，合计 4 节点 32 卡 NPU
本地高速存储	每节点 2×3.2T NVMe SSD	分区存放容器镜像、模型权重，降低加载时延
共享存储	OceanFS / SFS Turbo，容量≥500GB	存储运行日志、调度脚本，集群文件共享
节点网络	RoCE 高速以太网	多节点 HCCL 通信，保障分布式并行效率
公网访问	管理节点绑定 EIP，禁止裸暴露，配套安全策略	对外提供 API 访问入口

步骤 2：集群环境初始化配置

1. 开通天翼云 HCC 大模型精简版集群 登录天翼云控制台，进入弹性高性能计算板块，选择高性能计算集群，新建集群并选定【大模型精简版】。该版本内置 Slurm 调度框架与 Apptainer 容器运行环境，无需手动编译安装，原生支持大模型训推任务调度。依次填写计费模式、地域、VPC、安全组、存储、节点规格、登录凭证，提交订单等待节点纳管，集群状态变为可用后继续后续操作。
2. NVMe 磁盘自动化挂载 每台 910B 物理服务器搭载两块 3.2T NVMe 固态硬盘，划分独立目录分别存放容器镜像与模型权重，提升大文件读取速度。新建mount.sh自动化挂载脚本，执行后自动格式化磁盘、配置 fstab 开机自启。

bash

#!/bin/bash
devices=("/dev/nvme0n1" "/dev/nvme1n1")
mount_points=("/mnt/nvme0n1" "/mnt/nvme1n1")
fs_type="xfs"
if [[ $EUID -ne 0 ]]; then
    echo "请使用 root 运行此脚本！"
    exit 1
fi
for i in "${!devices[@]}"; do
    device="${devices[$i]}"
    mount_point="${mount_points[$i]}"
    mkdir -p "$mount_point"
    current_fs=$(blkid -s TYPE -o value "$device")
    if [[ -z "$current_fs" ]]; then
        echo "设备 $device 格式化为 $fs_type"
        mkfs.xfs -f "$device"
    else
        echo "$device 文件系统已存在，跳过格式化"
    fi
    umount "$device" 2>/dev/null
    mount -t "$fs_type" "$device" "$mount_point"
    uuid=$(blkid -s UUID -o value "$device")
    if ! grep -q "$uuid" /etc/fstab; then
        echo "UUID=$uuid  $mount_point  $fs_type  defaults  0 0" >> /etc/fstab
    fi
done
echo "磁盘挂载全部完成"

执行命令：bash mount.sh

统一规划部署路径：

容器镜像路径：/mnt/nvme0n1/apptainer/

模型权重路径：/mnt/nvme1n1/model/

业务工作目录：/home/deepseek/

3. 管理节点并入 Slurm 计算调度队列 Slurm 默认架构中管理节点仅承担管控职能，不参与算力调度。大模型分布式推理场景算力需求极高，将管理节点加入计算队列，实现 4 节点全部参与推理作业，最大化集群算力利用率。执行以下指令修改调度配置：

bash

sed -i 's/^\s*noderole\s*=.*/NodeRole=server,execute/i' /usr/local/galaxy/cluster/default/galaxy-launcher/etc/launcher.conf
launcher resource setup_scheduler
launcher resource add_node --node_name master0001 --queue_name batch

输入sinfo验证，队列节点列表包含管理节点 master0001 与 3 台计算节点，代表配置生效。

步骤 3：模型与 Apptainer 容器物料准备

两种物料均提供极速内网分发与公网下载两种方案，优先选择 cthpc 内网工具，规避公网带宽瓶颈。

1. DeepSeek-V4-Pro 权重获取 内网极速方案（推荐）

bash

mkdir -p /mnt/nvme1n1/model
cthpc model makecache
cthpc model install DeepSeek-V4-Pro-w4a8-mtp --dir /mnt/nvme1n1/model/

公网下载备选方案（速度受限），支持 ModelScope、HuggingFace 渠道拉取权重。

2. vLLM-Ascend SIF 容器镜像获取 Apptainer 容器相比 Docker，在昇腾集群环境无权限限制、轻量化、生产稳定性更强，是昇腾推理场景优选容器方案。 内网极速下发：

bash

mkdir -p /mnt/nvme0n1/apptainer
cthpc apptainer makecache
cthpc apptainer install vllm-ascend_deepseekv4 --dir /mnt/nvme0n1/apptainer/

公网备选：wget 下载 ZOS 站点镜像文件，后续版本更新直接替换 SIF 文件，无需改动启动脚本。

3. 集群全节点物料批量分发 为避免每个节点单独下载模型镜像，利用 Slurm 批量任务分发文件至所有服务器。创建srun_bcast.sh分发脚本，通过 cthpc_model_bcast 工具同步容器与模型目录：

bash

#!/bin/bash
#SBATCH --job-name=bcast
#SBATCH --nodes=4
#SBATCH --ntasks-per-node=1
#SBATCH --partition=batch
#SBATCH --time=01:00:00
#SBATCH --output=log_%j.out
#SBATCH --error=log_%j.err
export MPICH_NET_DEV=eno0
module load mpich/3.2.1/gcc-10.3.1
module load cthpc_910b/2.0.0/mpich-3.2.1
srun --mpi=pmi2 cthpc_model_bcast master0001 /mnt/nvme0n1/apptainer /mnt/nvme0n1/apptainer
srun --mpi=pmi2 cthpc_model_bcast master0001 /mnt/nvme1n1/model/DeepSeek-V4-Pro-w4a8-mtp /mnt/nvme1n1/model/DeepSeek-V4-Pro-w4a8-mtp

提交分发任务：sbatch srun_bcast.sh

备注：部分资源池若提示 cthpc_model_bcast 命令不存在，可提交后台工单开通工具权限。

步骤 4：分布式推理服务脚本配置

1. 创建业务目录

bash

mkdir -p /home/deepseek
mkdir -p /home/deepseek/logs
mkdir -p /home/deepseek/ascend_log

2. Slurm 任务调度脚本 srun.sh 负责声明节点数量、资源配额、环境变量，调度启动分布式任务

bash

#!/bin/bash
#SBATCH -N 4
#SBATCH --partition=batch
#SBATCH -J deepseek
#SBATCH -o logs/log_%J.out
#SBATCH -e logs/log_%J.err
#SBATCH --gres=gpu:8
#SBATCH --cpus-per-task=190
#SBATCH --nodelist=master0001,compute0001,compute0002,compute0003
export LC_CTYPE=C.UTF-8
export MASTER_ADDR=$(scontrol show hostnames "$SLURM_JOB_NODELIST" | head -n 1 | hostname -i)
export MODEL_NAME=DeepSeek-V4
export MODEL_PORT=11025
export MODEL_DIR=/mnt/nvme1n1/model/DeepSeek-V4-Pro-w4a8-mtp
export VLLM_IMG=vllm-ascend_deepseekv4.sif
echo "推理API地址：http://$MASTER_ADDR:$MODEL_PORT/v1"
srun --ntasks-per-node=1 -o logs/log_%J.%t.out -e logs/log_%J.%t.err ./node.sh

3. 节点启动脚本 node.sh 配置 HCCL 通信参数、NPU 环境变量，启动 Apptainer 实例，区分主节点与工作节点启动 vLLM-Ascend 服务，内置 DeepSeek-V4 专属推理参数，开启前缀缓存、MTP 推测解码、专家并行等特性，充分释放 1M 上下文能力。脚本内置网卡适配、显存利用率、NPU 图编译等调优参数，可直接投入生产。
4. 服务启停操作

bash

# 添加执行权限
chmod +x node.sh
# 启动推理集群
sbatch srun.sh
# 查看NPU运行状态
npu-smi info
# 查看调度任务
squeue
# 停止指定任务
scancel [JOBID]
# 停止全部自有任务
scancel --me

步骤 5：服务验证与线上运维方案

1. 接口连通性验证 新建check.sh测试脚本，调用 OpenAI 兼容接口，验证模型正常返回推理结果：

bash

#!/bin/bash
curl http://localhost:11025/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
  "model": "DeepSeek-V4",
  "messages": [{"role":"user","content":"你是谁？"}],
  "extra": {"openai_proxy":true}
}'

正常返回携带 reasoning 思考过程、完整对话结果的 JSON 报文，代表部署成功。

2. 故障日志排查路径

bash

# 主服务标准输出日志
tail -f /home/deepseek/logs/log.$JOBID.out
# 单节点运行日志
tail -f /home/deepseek/logs/log.$JOBID.${节点编号}.out
# 错误日志
tail -f /home/deepseek/logs/log.$JOBID.${节点编号}.err

步骤 6：生产环境安全与版本管控规范

模型权重、SIF 容器镜像建立版本目录管理，更新时保留历史版本，支持快速回滚。禁止管理节点 EIP 直接暴露公网，企业生产环境可选 5 种成熟组网架构：ELB+VPN、ELB+NAT 网关、DDoS+WAF+ELB+NATGW+VPN、DDoS+WAF+ELB+SDWAN、DDoS+WAF+ELB + 专线，同时配置安全组 IP 白名单，抵御外部恶意访问。

三、关键参数对照表

表格

配置项	推荐参数	作用说明
max-model-len	65536	限制单次推理最大上下文长度，平衡显存占用
gpu-memory-utilization	0.95	NPU 显存利用率阈值，充分利用 HBM 显存
data-parallel-size	4	4 节点数据并行规模
tensor-parallel-size	8	单节点 8 卡张量并行
num_speculative_tokens	3	开启 DeepSeek MTP 推测解码，提升生成速度
enable-prefix-caching	开启	复用重复上下文 KV 缓存，降低长文本开销
HCCL_CONNECT_TIMEOUT	120	延长分布式通信超时，规避多机偶发断连

四、结论

依托 4 节点昇腾 910B 天翼云 HCC 大模型精简集群，结合 Slurm 调度、Apptainer 容器与 vLLM-Ascend 引擎，可以稳定完成 DeepSeek-V4-Pro 私有化分布式部署，充分发挥模型 1M 超长上下文、KV Cache 压缩、Agent 工具调用能力。整套方案解决了国产算力集群部署 MoE 大模型常见的文件分发慢、分布式通信异常、环境不兼容、参数调优无参考等痛点。所有脚本可直接复用，硬件规模、并行参数可根据业务并发规模横向扩展。在正式承接业务流量前，建议基于真实业务 Prompt 开展压测，根据吞吐、延迟指标微调最大并发序列、批处理 token 上限等参数。

如需搭建企业内部 AI 智能体平台，可基于本推理 API 对接 Agent 调度框架，快速实现代码编写、长文档分析、自动化办公数字员工场景落地。

不同业务场景的验收标准不同。建议先定义成功指标，再选用工具，避免千篇一律的「试用—转化」收尾。

常见问题 FAQ

1 什么是解决方案？

「解决方案」可概括为：DeepSeek-V4-Pro 凭借 1M 超长上下文、内置 KV Cache 压缩、原生适配智能体与代码场景，成为企业私有化部署热门 MoE 大模型。很多团队尝试在昇腾 910B 硬件部署时，普遍遭遇集群调度配置错误、模型分发缓慢、分布式并行参数不匹配、容器环境兼容性、NPU 显存调度异常等问题。本文提供一套经过验证的 4 节点昇腾 910B HCC 集群落地方案，依托 Slurm 调度系统、Apptainer 高性能容器与 vLLM-Ascend 推理引擎，完整覆盖资源规划、集群初始化、磁盘挂载、模型分发、服务启停、接口验证全…

2 为什么要关注解决方案？

关注解决方案，是因为它直接影响效率、风险与可复制性。文中指出：企业想要在昇腾 910B 国产算力集群部署 DeepSeek-V4-Pro，搭建支持 1M 上下文、面向 Agent 与代码场景的私有化推理服务，需要明确硬件资源基线、集群环境标准化流程、分布式并行配置方案，同时解决多节点模型同步、容器运行环境适配、长上下文推理参数调优、生产环境安全组网等一系列工程难题，缺少完整闭环实操文档极易出现部署失败、推理吞吐低下、服务随机中断等故障。

3 如何落地解决方案？有哪些关键步骤？

建议按以下路径推进解决方案：1) NVMe 磁盘自动化挂载 每台 910B 物理服务器搭载两块 3.2T NVMe 固态硬盘，划分独立目录分别存放容器镜像与模型权重，提升大文件读取速度。新建m…；2) 管理节点并入 Slurm 计算调度队列 Slurm 默认架构中管理节点仅承担管控职能，不参与算力调度。大模型分布式推理场景算力需求极高，将管理节点加入计算队列…；3) DeepSeek-V4-Pro 权重获取 内网极速方案（推荐）；4) vLLM-Ascend SIF 容器镜像获取 Apptainer 容器相比 Docker，在昇腾集群环境无权限限制、轻量化、生产稳定性更强，是昇腾推理场景优选…；5) 集群全节点物料批量分发 为避免…

4 解决方案适合哪些人或团队？

解决方案更适合：产品/技术负责人、运营与增长团队、需要落地智能体或自动化的中小团队、关注「解决方案」方向的读者。若你只需要单次聊天式问答，可先读概念；若要上生产，请重点看步骤、权限与风控相关段落。

5 关于「一、核心问题」，本文给出了什么结论？

在「一、核心问题」部分，要点是：/ SFS Turbo，容量≥500GB存储运行日志、调度脚本，集群文件共享节点网络RoCE 高速以太网多节点 HCCL 通信，保障分布式并行效率公网访问管理节点绑定 EIP，禁止裸暴露，配套安全策略对外提供 API 访问入口 步骤 2：集群环境初始化配置 开通天翼云 HCC 大模型精简版集群 登录天翼云控制台，进入弹性高性能计算板块，选择高性能计算集群，新建集群并选定【大模型精简版】。该版本内置 Slurm 调度框架与 Apptain

6 关于「二、分步落地实施步骤」，本文给出了什么结论？

在「二、分步落地实施步骤」部分，要点是：/nvme1n1") fs_type="xfs" if [[ $EUID -ne 0 ]]; then echo "请使用 root 运行此脚本！" exit 1 fi for i in "${!devices[@]}"; do device="${devices[$i]}" mount_point="${mount_points[$i]}" mkdir -p "$mount_point" current_fs=$(blkid -s T

这篇看完可以接着做：工作灵感、发出前验收、试一版稿。