显存档位#

几个值得注意的点：

• 16 GB 是甜点档：4060 Ti 16G 和 5060 Ti 16G 用中端核心配了大显存，带宽不高但容量够，是本地跑量化模型的最低成本入场券。
• RTX 3060 12G 是个异类：它是 30 系里最便宜的 12G 卡，发布多年后仍活跃在二手和租赁市场，原因无他：同价位买不到更大的显存。
• 3090 尚未过时：发布六年的老旗舰靠着 24G 显存和一项后继无人特性，至今仍是多卡方案的常客，下面讲。
• 32 GB 只有 5090：消费级显存的上限长期停在 24 GB，5090 才把上限抬到 32 GB——这也是它一度被抢到缺货的原因之一。

当代旗舰长这样——Founders Edition 的双流式散热设计，也是目前消费级唯一摸到 32G 显存的卡：

代际差异#

30、40、50 三系的代差主要体现在两个地方：

Tensor Core 代数：30 系是第三代，40 系第四代并加入 FP8 支持，50 系第五代加入 FP4。每代新精度都让峰值算力上一个台阶，但新精度要等软件栈跟上才兑现——5090 发布初期就吃过 PyTorch 尚未适配新计算架构的亏，实测一度跑不过 4090。

显存技术：中高端卡在 40 系及以前用 GDDR6X，入门款其实是普通 GDDR6，50 系主力换 GDDR7；旗舰还把位宽从 384-bit 扩到 512-bit，带宽从 1008 GB/s 提到 1792 GB/s，涨幅约 78%，远高于同期稠密算力的涨幅——至于新精度口径的算力数字，那是另一套故事，下一篇细讲。后面会看到，对 LLM 推理来说带宽恰恰是最值钱的指标。

把消费级和数据中心两条线的代际放在一起看，节奏其实是对齐的——同一套架构同时喂养两条产品线，只是下放时砍掉了不同的东西：

注意时间线上消费级在 40 系的那个断点：NVLink 从此消失。这不是技术原因，而是产品线划界。

功能阉割#

消费卡便宜是有代价的，NVIDIA 在 GeForce 上做的阉割非常精准：

• 互联：3090 是最后一张保留 NVLink 的 GeForce，速度能到 112.5 GB/s，A100 的零头。40 系起物理上去掉了 NVLink 金手指；GPU 间点对点访问（P2P）也在驱动层面被禁用。
• ECC：GeForce 不提供端到端显存 ECC 保护，长时间大负荷运行的位翻转风险自负。
• 许可：GeForce 驱动 EULA 明确限制数据中心部署，早期版本里唯一被豁免的场景是区块链挖矿——条款的意图昭然若揭。

这三条单拎出来都不致命，但合起来划清了消费级和数据中心的分界线：个人随便用，机房别想。

不过这个局面近期发生了转变：NVLink 被某种替代方案绕开了，虽然性能不如 NVLink，但也能实现类似 P2P 的效果。这里的操作在后面的文章会讲，此处先留个悬念。

产品线沿革#

RTX PRO 6000 与 5090 同属 GB202 芯片，但更接近满血：CUDA 核心 24064 对 21760，对应 188 对 170 个 SM；显存从 32G 翻到 96G，带宽同为 1792 GB/s。它有三个版本，区别在功耗和散热形态：

上市价 8565 美元，受显存涨价影响，2026 年官方价已涨到 16000 美元。

多卡互联上，工作站线的待遇其实和消费级一样：A6000 是最后一张保留 NVLink 的工作站卡，两卡桥接 112.5 GB/s；从 Ada 起 NVLink 被一并砍掉，RTX PRO 6000 多卡只能走 PCIe。想要真正的 NVLink 域，还是得买数据中心线。

溢价来源#

同芯片、贵了好几倍的差价买的是什么：

• 显存：48G/96G 靠 PCB 双面贴颗粒实现，这是消费卡 PCB 上根本没有的容量。这个”双面颗粒”的思路后来也被民间学去了，第三篇的魔改显存会讲到。
• ECC：支持端到端显存 ECC 校验与上报，长任务不出错比跑得快重要。
• 驱动与认证：ISV 认证驱动、企业支持、质保含工作站使用场景。
• 形态：服务器版是被动散热双槽卡，可以密集插进机箱靠风道散热——消费卡的开放式风扇做不到这一点。

对纯 AI 负载而言，工作站卡的性价比经常被消费卡吊打；它真正的价值在”既要又要”的场景：需要官方大显存、需要 ECC、需要保修和合规部署三者同时成立的时候。

外观上和 5090 的 Founders Edition 几乎一个模子——它们本来就是同一颗 GB202 芯片，贵出来的部分在显存、ECC 和服务条款里，看不见。

训练旗舰#

推理与边缘#

训练旗舰之外还有一条低功耗线，主打推理和边缘部署：

企业特性#

数据中心卡的溢价不止在硬件，还在一整套企业特性：ECC 显存、MIG、vGPU 虚拟化授权、机密计算。MIG 能把一张 A100/H100 切成最多 7 个互相隔离的实例，是云厂商分租算力的前提。整机形态上，DGX 是 NVIDIA 自有品牌整机，HGX 是给 OEM 的基板方案。这些特性单看都不起眼，但没有它们就没法把卡卖给云厂商和企业机房。

特供型号#

阉割方式#

三代特供正好演示了三种阉割思路：

• 砍互联：A800/H800，卡间带宽受限，多卡训练效率打折。
• 砍算力：H20，峰值算力不足 H100 的两成，但显存、带宽、NVLink 全部保留。
• 砍显存/AI 算力：5090D 系列。

H20 是最值得细品的一张：管制规则卡的是算力密度，NVIDIA 就把算力砍到底、把带宽和互联原样留下——恰好凑成一张推理特化卡：LLM 推理吃带宽不吃算力，原因下篇讲。所以 H20 在中国市场一度供不应求，禁令几收几放，堪称出口管制和产品定义博弈的活教材。

DGX Spark#

NVIDIA 官方出的桌面盒子：GB10 超级芯片，CPU 和 GPU 共享 128 GB LPDDR5x 统一内存，整机三千多美元。128G 容量可以装下很多中端模型，但带宽只有约 273 GB/s——前面说过带宽决定推理速度，所以它的定位是能跑大模型的开发机，不是跑得快的那种。两台之间可以用 ConnectX-7 直连组成小集群。

实物尺寸相当小——右边那个小方块就是全部算力，形态上更像一台 Mac mini 而不是工作站。

既然像 Mac，就免不了和 Mac Studio 比，而结果基本是完败：同价位的 M4 Max 给到 128G 统一内存和 546 GB/s 带宽，容量一样、带宽翻倍；要更大显存还有 M3 Ultra 的 512G、819 GB/s。Spark 真正的卖点只剩下 CUDA 本身——它是给”开发目标在 NVIDIA 生态”的人准备的开发机；如果只想要一台能跑大模型的桌面盒子，Mac Studio 是更划算的那个。

涡轮与服务器版#

消费卡官方只有开放式风扇形态，插不了多卡机箱，于是市场上存在一条灰色供应链：OEM 流出的涡轮版 4090/5090、以及第三方换涡轮散热的改装卡。单槽或双槽涡轮往外直排热量，是往 4U 机箱里塞 8 张消费卡的前提。这些卡没有官方保修，多卡互联的限制也一样不少——但确实存在，而且构成了后面偏方篇的物理基础。