Atlas350单卡租用｜鲲鹏服务器搭载1张Atlas350，Atlas350 POC测试方案

面向国产大模型 POC 验证、模型迁移测试、推理业务原型验证，提供双路鲲鹏 ARM 服务器 + 单张 Atlas350（昇腾 950PR）加速卡整机租用服务，支持按月、按季度、按年度灵活商务模式。企业无需采购昂贵硬件，快速完成昇腾 950PR 生态适配、大模型推理、轻量化微调、推荐系统业务 POC 验证，降低国产化 AI 落地前期投入风险。

一、整机硬件配置（2 颗鲲鹏 CPU + 1 卡 Atlas350 加速卡）

整套裸金属整机为物理独占，无资源争抢，适合企业做 POC 测试验证。

CPU：鲲鹏 920 ×2 颗（ARM 架构，48 核，2.6GHz），原生适配 CANN 软件栈，负责数据集预处理、业务逻辑、模型前后处理，充分释放 Atlas350 加速卡算力

系统内存：512GB DDR4，满足大模型数据集加载、KV‑Cache 缓存、业务服务内存开销

系统盘：480GB SSD×2 RAID1，保障系统可靠性

数据盘：3.84TB NVMe SSD，存放模型权重、测试数据集、业务日志

NPU 加速卡：Atlas350 加速卡 ×1，搭载 Ascend 950PR 芯片

HBM 显存：112GB HiBL 高带宽显存，带宽 1.4TB/s

算力：MXFP4 1561 TFLOPS（1.56PFLOPS），MXFP8 804 TFLOPS

接口：PCIe5.0，支持灵衢互联接口（可后期扩展多卡）

功耗：600W

网络：万兆网卡，公网带宽按需选配；如需集群扩展可升级 200G 网卡

供电散热：整机满配散热，可稳定承载 Atlas350 600W 高功耗 7×24 小时运行

部署环境：A 级专业 IDC 机房，7×24 小时机房运维值守

交付模式：裸金属整机独占，可交付干净 openEuler 裸机；也可预部署 CANN 驱动、Ascend‑Transformers、vLLM‑Ascend，开箱直接开展 POC 测试。租期支持月付、季度、年度租用，商务灵活可调。

二、Atlas350（Ascend 950PR）芯片性能分析与市场定位

1、芯片性能解析

昇腾 950PR（Prefill & Recommendation），是昇腾 950 系列两大芯片之一，主打 Prefill 预填充、高并发推理、推荐业务场景，和主打 Decode 训练的 950DT 做场景分工。

1.架构采用 SIMD+SIMT 混合编程范式，小算子访存颗粒度优化至 128 字节，访存效率对比前代提升 4 倍，专门优化大模型输入阶段 Prefill 计算、电商搜索推荐离散计算场景。

2.国内原生支持 MXFP4 低精度格式，FP4 算力 1.56PFLOPS，低精度推理性能大幅领先上一代昇腾推理卡；112GB 超大 HBM 显存，单卡就可以加载 70B 级别量化大模型，无需多卡拆分显存。

3.支持 MXFP8、HiF8、INT8 多精度，兼顾轻量化 LoRA 微调、多模态生成任务；板载灵衢互联接口，后期业务扩容可直接增加多张 Atlas350 组成小型超节点集群。

注意：950PR 定位推理优先，不适合大规模全参数预训练；适合推理、POC 验证、轻量化微调、行业推荐业务。大规模全参训练优先选择 950DT、910C 芯片

2、Atlas350 加速卡市场定位

Atlas350 是新一代国产旗舰推理加速 PCIe 标卡，面向政企、AI 企业、科研机构国产化落地，解决企业两大痛点：

1.硬件采购成本高，Atlas350 单卡采购价格高昂，项目前期不知道业务适配效果，直接采购硬件风险巨大；

2.昇腾 950 系列属于新一代芯片，企业缺少测试环境，需要先完成 POC、模型迁移、性能压测，再决定大规模硬件采购。

定位总结：

项目前期 POC 验证首选算力硬件；

大模型线上推理集群主力加速卡；

互联网搜索、短视频、电商广告推荐业务专用算力；

多模态大模型生成推理；

国产信创项目，替代海外推理加速卡的主力选型。

三、单卡 Atlas350 算力典型应用场景（POC 测试场景）

1.大模型推理 POC 验证

7B‑70B 大模型量化推理验证，企业把 GPU 模型迁移到昇腾生态，验证 vLLM 推理服务、长上下文 Prefill 性能、接口时延、并发 QPS，做国产化可行性评估。112GB 超大显存，单卡就可以承载 70B 模型 FP4 量化推理，适合企业私有知识库、企业大模型助手原型测试。

2.LoRA 轻量化微调 POC 测试

7B‑13B 垂类模型 LoRA 微调，行业知识库对齐、领域模型适配。不适合 34B 以上全参数训练，适合做算法可行性验证，完成算法验证后，再扩容多卡整机。

3.互联网搜索 & 推荐系统 POC

电商广告、短视频内容推荐业务，950PR 针对 Prefill 和离散算子深度优化，适合推荐模型推理压测，验证国产算力下业务时延、QPS 指标，完成信创替换评估。

4.多模态业务原型验证

文生图、文生视频、图文大模型推理 POC，验证多模态模型在国产昇腾硬件上的生成速度、业务效果。

5.科研院校、政企信创项目原型测试

信创项目前期技术验证，科研实验，做算子适配、框架迁移、算法原型开发；项目周期不确定，按月租用，项目结束即可释放算力，避免固定资产占用。

6.应用迁移适配测试

原有 CUDA 业务向 CANN 迁移，验证算子兼容性、业务性能差距，输出迁移评估报告。

不适合场景：大规模全参数预训练、70B 以上全参数 SFT 微调，这类业务优先选择 950DT、910C 整机。

四、1 卡 Atlas350 整机租用落地方案

很多 AI 企业、科研机构在国产化项目前期，遇到硬件采购周期长、单卡硬件成本高、CANN 环境部署门槛高，直接采购硬件风险大。单卡 Atlas350 整机租赁，是项目 POC 阶段最优落地方案。

方案配置：双路鲲鹏 920 服务器 + 1 张 Atlas350 加速卡（物理裸金属整机独占）

1.硬件资源全部独占，不会和其他客户共享 NPU 算力，保障 POC 测试数据准确，性能压测结果真实有效。

2.系统交付二选一：

方案 A：预部署环境，预装 openEuler、CANN 驱动、vLLM‑Ascend、Transformers‑Ascend，拿到机器直接跑模型，快速开展 POC；

方案 B：干净裸金属服务器，操作系统客户自行部署，完全自主可控。

3.租期灵活：支持按月租用、季度租用、年度租用，根据项目周期灵活调整，项目结束随时释放资源，无需承担硬件折旧。

4.增值配套技术服务（POC 非常关键）

CANN 驱动版本选型部署调试；

大模型迁移指导，GPU 模型迁移到 Atlas350 适配排坑；

vLLM 推理服务部署、QPS、时延压测辅助；

7×24 机房硬件运维，硬件故障快速响应。

5.扩容能力：POC 验证完成，业务上线阶段，可以升级为多卡 Atlas350 整机集群，无缝衔接生产环境。

五、目标客户群体

1.AI 大模型创业公司：垂类大模型国产化 POC 验证、模型迁移测试，评估昇腾 950PR 业务适配能力。

2.政企信创项目：需要完成国产算力可行性验证，项目前期做原型测试，不希望直接采购硬件。

3.互联网企业：搜索、广告推荐业务，做国产算力替换 POC 压测。

4.高校、科研院所：科研实验、算子开发、算法原型验证，短期算力需求。

5.AI 服务商：多模态、知识库大模型原型开发，做客户演示 POC 环境。

搭载 Atlas350（昇腾 950PR）的双路鲲鹏服务器，是新一代国产推理旗舰算力。112GB 超大 HBM 显存，MXFP4 超高推理算力，非常适合企业做国产化大模型 POC 验证、模型迁移、轻量化微调、推荐业务原型开发。

采用整机租用模式，支持月 / 季 / 年灵活商务，企业省去高昂硬件采购成本与漫长供货周期，快速完成技术验证；POC 验证通过之后，还可以无缝扩容至多卡生产集群。

【Atlas 350服务器租用，1卡950PR服务器租用 13693103363 或 13521310298 】