至强 6 自带 AMX 矩阵加速,CPU 侧推理与预处理有额外收益。
自定义配置
先自己选配,生成你的配置清单
GPU 型号、CPU 平台(AMD / Intel)、整机形态、卡数、内存、存储与网络逐项可调,选完直接生成配置清单提交询盘。
选择 GPU 型号
RTX 4090 生态成熟,RTX 5090 32GB 大显存面向新一代模型;拿不准就交给我们推荐。
选择整机形态
系统会根据 GPU 型号自动限制可选卡数。
选择 CPU 平台
单卡机型配桌面旗舰(AMD / Intel),2 卡及以上配双路服务器平台(EPYC / 至强 6,×2 颗);切换形态时系统自动匹配。
选择卡数
4U 四卡机架型 + RTX 4090 24GB 的可交付卡数组合。
基础硬件配置
选择内存、存储和网络,形成整机初步配置。
内存
存储
网络
主要用途
说明:4 卡及以上整机需要根据主板 PCIe 拓扑、Riser、供电、散热与机箱风道进行项目评估;GPU 行情波动较大,价格以询价确认为准。
标准配置方案
8 卡训练整机(4090/5090 · Intel 至强 6) · 标准清单
部件型号与规格来自近期实际交付配置;数量与个别部件可按任务调整,以询价确认为准。
| 序号 | 类别 | 型号与规格 | 数量 | 说明 |
|---|---|---|---|---|
| 01 | GPU | RTX 4090 / RTX 5090 | 8 | 型号按模型与预算确认,可混配专业卡 |
| 02 | CPU | Intel 至强 6 可扩展(双路 ×2) | 2 | 高核数,带 AMX 矩阵加速 |
| 03 | 内存 | 512GB ECC | 1 | 8 卡训练整机 |
| 04 | 存储 | 2TB NVMe + 16TB 企业级 | 1 | 训练数据与 checkpoint,可项目定制 |
| 05 | 网络 | 双口 25GE,多机可配 InfiniBand | 1 | 集群扩展预留 |
| 06 | 机型 | 4U 八卡机架型 | 1 | 供电散热按机房评估 |
清单为标准配置基线:GPU 行情与国产卡货期波动较大,价格与货期以询价当日确认为准;交付含环境预装与整机测试。
选型说明
这份清单为什么这么配
多机训练统一镜像与环境交付,网络预留集群扩展。
部署前核对机房供电与散热条件。
同组清单
GPU 算力整机 · 其他配置
4090 单卡推理整机(AMD 平台)
模型验证、单业务推理与轻量渲染,先跑通再定规模。
4090 4 卡整机(AMD 平台)
多模型并发推理、中小模型训练与批量渲染。
8 卡训练整机(4090/5090 · AMD EPYC)
大模型微调、批量训练与高并发推理。
5090 4 卡旗舰整机(AMD 平台)
新一代大显存推理与渲染,更大参数量模型。
4090 单卡推理整机(Intel 平台)
模型验证、单业务推理与轻量渲染,先跑通再定规模。
4090 4 卡整机(Intel 平台)
多模型并发推理、中小模型训练与批量渲染。
5090 4 卡旗舰整机(Intel 平台)
新一代大显存推理与渲染,更大参数量模型。
确认清单,或按任务微调
提交数量、交付时间与用途,我们按当日行情回报价与货期;需要先跑样例的任务,可以安排验证后再锁配置。