NVIDIA 之三：AI 时代的黎明（2022-2023）

一句话：NVIDIA 三部曲第三部（Acquired 第 13 季第 3 集，录制发布于 2023-09-06——本页全部数字与判断以该时点为准，不含其后进展）。距 Part I & II 仅 18 个月，节目却必须重开一集：Ben 检索过逐字稿，2022 年 4 月那两集一次都没说过 "generative"，"事情变化就有这么快"。本集论题：2021 年那张靠自动驾驶、机器人、Omniverse 拼出的 $1T TAM slide 基本没兑现，兑现的是 slide 上根本不存在的市场——LLM 训练；David 在 Part II 结尾"无心且无知"的反问（万一数字世界长出一个 NVIDIA 可以驱动的新基础层呢？）成了真。Ben："2022 年 11 月，AI 无疑迎来了它的 Netscape 时刻；时间会证明，甚至可能是 iPhone 时刻。"David："Jensen 坚定相信是后者。"

公司一页史（本集时间线）

创始人画像

Jensen Huang（60 岁）

判断者：称 AlexNet 是 AI 的 big bang、ChatGPT 是 AI 的 iPhone 时刻（坚定相信这个定性）、生成式 AI 是 "new computing era"。布道核心 "the data center is the computer"——Ben 转述其口吻："hey dummies……听我说，整个数据中心必须是一台计算机。"Q2 电话会上的新万亿叙事：全球数据中心躺着 $1T 硬资产、每年新增 CapEx $250B。他断言未来每个应用都会有一个 GPT 前端——Ben 解读：不是"替代按钮点击"，而是人人都能成为程序员，编程语言是英语。战略自述（对 Ben Thompson）："We build our systems full stack, but we go to market in a disaggregated way."（全栈构建，解耦销售。）经营哲学："You build a great company by doing things that other people can't do. You don't build a company by fighting other people to do things that everyone can do."（靠做别人做不了的事建立伟大公司，而不是争抢人人都能做的事。）

管理与作息：传闻 40 个直接下属，办公室基本是一间空会议室；不与资深高管谈职业抱负——"他们是各自领域的世界最强，这是他们的毕生事业"；"I start my day at 5:00 AM seven days a week. You do too."（我一周七天早上 5 点开工，你也一样。）Ben 判断他"还有 30 年"，公司没有接班人梯队——"公司是 Jensen 思想、意志、驱动力与未来信念的延伸"。被问靠什么放松，他千分之千认真地回答：

"I relax all the time. I enjoy relaxing at work because work is relaxing for me. Solving problems is relaxing for me. Achieving something is relaxing for me." （我一直在放松。工作对我就是放松，解决问题就是放松，达成目标就是放松。）

不买体育俱乐部、不买超级游艇——就算买了也不谈论，而且会在游艇上办公（Ben 补刀：也不买社交媒体平台和报纸）。发布会是 "the Jensen show"，一人从头讲到尾（对比 Apple 是 Tim Cook 开场后交棒一队高管）；每次都要炫 H100 之重："oh, I can't lift it."（70 磅）；招牌话术 "the more you buy, the more you save"（买得越多，省得越多），配套能源论证：这些机器耗电巨大，但替代方案耗电更多。

Ben 给 "iPhone 时刻" 补了第二层解读：iPhone 的本质是一家靠软件差异化的硬件公司，随后扩张进服务——NVIDIA 自比 Apple 相当贴切（垂直整合软硬件栈、开发者最有动力瞄准出货量最大的平台），且客户是最不价格敏感的 B2B 买家；唯一差别："Apple 的市值从来落后于它已被证明的用户价值，NVIDIA 现在恰恰是估值跑在证明之前。"

AI 群像（本集人物素材集中于此）

• Geoff Hinton：传奇计算机科学教授、AlexNet 的 faculty advisor；George Boole 与 Mary Boole 的玄孙。Ben："This guy was born to be a computer science researcher."（这人生来就是做计算机科学研究的。）
• Ilya Sutskever：AlexNet 第三人；随公司进 Google Brain 参与重做 YouTube 算法；2015 年是 Rosewood 晚宴上唯一动心的人，出走共创 OpenAI 任首席科学家——Wired 记者 Cade Metz 引其原话："I felt there were risks involved, but I also felt it would be a very interesting thing to try."（有风险，但会是非常有意思的尝试。）2023 春 GTC 贡献侦探小说论证（见 Playbook 第 5 条）。
• Andrej Karpathy：2015 年博文 The Unreasonable Effectiveness of Neural Networks（Ben 转述的标题，实际博文讲的是 Recurrent Neural Networks，照录）；轨迹 OpenAI → 领导 Tesla AI → 已回 OpenAI。2015/16 年 NVIDIA 官方频道一段 1 分 45 秒视频里，他比 Transformer 早两年描绘："把大量数据喂给网络，它自己琢磨出句子里词与词相接的模式……基本上可以训练出一个聊天机器人……最终我们会像人与人交谈那样与计算机对话。"David 惊呼："Wow. This is 2015?"
• Elon Musk 与 Sam Altman：2015 年看出双寡头是大问题的两个攒局者（Altman 时任 Y Combinator 总裁）。Ben 评 OpenAI 出身："与 NVIDIA 们草根打拼的起点完全不同——这是庙堂之上的权力与存量资本说：不行，我们必须把一个东西硬生生意志成真。"Musk 2018 年出走成为 OpenAI 转向的重大催化剂；Sam 主导转营利与 Microsoft 交易——David 的两面评价：怀疑派会说"好吧 Sam，你把非营利组织变成了今天值 $30B 的实体"，但了解这段历史后，"这是他们唯一的路"。
• Google Brain 三创始人（Greg Corrado / Jeff Dean / Andrew Ng）与 Yann LeCun：前者把 AlexNet 变成 Google 的巨额利润；后者被 Facebook 延揽，撑起双寡头另一极。
• Ian Buck：2006 年与 Jensen 共同发起 CUDA，现任数据中心业务负责人，为本集受访。
• 主持人自己也是素材：Part II 结尾 David 无心插柳的神预言——"What if maybe, just maybe, the Internet, software, and the digital world are going to keep growing, and there will be a new foundational layer that Nvidia can power?"——"我不敢相信我说过这话，那完全是无心且无知的。"

核心认知（Playbook）

每条按 故事 → 认知 → 效果 展开。

1. 加速计算是撬动 Moore's Law 的阿基米德杠杆

• 故事：AlexNet 用在 Best Buy 就能买到的两块 $1000 GTX 580，干成了从前超算实验室级别的活，算法用 CUDA 写成。
• 认知：CPU 一次执行一条指令，GPU 一次成百上千条；只要问题可并行，就能把摩尔定律的增益撬升数百、数千、如今数万倍——David："a giant Archimedes lever."
• 效果：为图形打造的并行处理器天然适配一切线性代数负载；AI、crypto 都是同一技术的新疆域，NVIDIA 起初并未预见这种外溢。

2. 冯·诺依曼瓶颈是理解 GPU 革命的钥匙，且约束已迁移到内存

• 故事：Ben 拿出"最好的教授架势"现场开讲：算一个 2+3=5 要 load/load/add/store 四条指令，3/4 的时钟周期耗在内存读写；1GHz 的 CPU 每秒也只能跑这个小程序 2.5 亿次。
• 认知：加内存没用、提时钟只线性加速，瓶颈还随时间恶化；破局 = 抛弃冯·诺依曼——并行执行加海量核心。并行化之后新约束是内存：模型动辄几百 GB 必须整体驻留，H100 片上才约 80GB，且受 EUV 光刻 reticle 尺寸所限、芯片物理上无法更大。
• 效果：必须把多芯片、多服务器、多机架联成"一台计算机"——"海量内存、离处理器极近、全部并行、最快传输"，一句话解释了 NVIDIA 数据中心战略的一切。

3. Transformer 的本质突破 = 用并行换上下文

• 故事：RNN/LSTM 顺序依赖、上下文极短，"像一个注意力极短的人"（英译西第一个词就翻车：The United States = Estados Unidos）；attention 让模型输出每个词时回看全部输入并加权，代价 O(N²)——输入翻倍、成本翻四倍。
• 认知：这些比较可以完全并行；GPU 核心够多时，千词输入与十词耗时相当——首次能并行训练序列模型，此前这种规模根本训不了。
• 效果：解锁 LLM；平方级成本曲线意味着模型每大一档，GPU 需求爆炸式增长。

4. 知识内嵌于数据：无监督预训练与 scaling 的涌现

• 故事：GPT-1（1.2 亿参数）证明能从无标注语料学出语言结构——像小孩认识世界，父母只偶尔纠正"不对，那是红色"；此后 GPT-2 15 亿、GPT-3 1750 亿、GPT-4 未官宣传闻约 1.7 万亿。Ben："It's scaling like Nvidia's market cap."
• 认知：低于百亿（甚至千亿）参数的模型基本只会幻觉；不改结构、只加数据加参数多训练，输出"魔法般地变好"——"没有任何研究员预期它们能把世界推理得这么好，它就是在探索更大模型的过程中自己发生了"。
• 效果：海量数据训练 ⇒ 海量 NVIDIA GPU；先无监督预训练、再 supervised fine-tuning 成为标准范式。

5. 预测即理解（Ilya 的认识论）

• 故事：2023 春 GTC，Jensen 故意抛出稻草人——"LLM 只是概率预测下一个词，并无真正知识"。Ilya 的回应：想想侦探小说结尾，侦探把所有人聚到一间屋里说，"凶手的名字是——空格"。
• 认知：预测这个词越准，ipso facto，对整本小说乃至全部人类知识与智能的理解就必然越深；如今的 GPT-3、GPT-4、Llama、Bard 都猜得出凶手。
• 效果：Ben 标注："Put a pin in that, understanding versus predicting, the hot topic du jour."——为 scaling 路线提供了认识论辩护。

6. 算力成本是新护城河：OpenAI 转营利的唯一逻辑

• 故事：Transformer 后路线图人人可见（OpenAI 没把头埋进沙里），但训练成本对非营利组织、乃至除 Google 外几乎所有人都难以承受；2019-03-11 OpenAI 转 capped-profit——官方说法："我们所知的任何现存法律结构都无法取得恰当平衡。"
• 认知：领先与否暂时由资本开支能力决定——谁买得起算力，谁才有资格留在牌桌上。
• 效果：Microsoft 三轮注资换独家云加独家商用许可；而 OpenAI 据所知全部跑在 NVIDIA 基础设施上，只是经 Microsoft 购买——格局怎么变，NVIDIA 都是收入受益方。

7. Mellanox 收购是研究驱动的先见之明

• 故事：2019 年 3 月以 $7B 现金拿下"没人看懂"的 Mellanox；五个月后发布 Megatron（83 亿参数、512 块 GPU、9 天）——内部研究让他们提前确信模型将跨服务器、跨机架运行，机器间带宽是命门。Ben："这个时间线我录制前两小时才发现。"
• 认知：InfiniBand 远快于 ethernet，但"ethernet 是最低公分母"的行业共识让厂商纷纷退出，Mellanox 成了唯一存活的 InfiniBand 供应商；机架间 3200 Gbit/s 的意义：把三英尺外机箱里的内存当"近似片上内存"用。
• 效果：David："史上最佳收购之一"——别人看不懂，正因为别人没做那个研究。

8. 数据中心即计算机：全栈构建，解耦销售

• 故事：2022-09 发布 Grace CPU（NVIDIA 造 CPU 曾被视为"异端"）。Ben："这是一场持续 30 年的芭蕾的终局"——当年显卡屈居 Intel 主板的 PCIe 插槽之下，如今"我们的 GPU、我们的 CPU、中间是我们的 NVLink、对外是我们的 InfiniBand。Welcome to the show."
• 认知：芯片对芯片的对比根本不是竞技场，战场是多 GPU、多机架如何作为一个系统协同（硬件＋网络＋软件）——NVIDIA 改变了竞争向量。三支柱：Mellanox 网络栈、Grace CPU（现成 ARM 架构加自家调校，不搞 Apple M3 式从零逞英雄）、Hopper 专用架构；梦想形态是客户自有自营一台 DGX SuperPOD，现实是组件可拆卖、可上云。
• 效果：市场上没有同类产品；他们实际在卖 mainframe——"跟当年 IBM 卖你一面 1 亿美元的数据中心墙没什么两样"。

9. 架构分叉是 CoWoS 产能垄断策略

• 故事：数据中心走 Hopper——用 TSMC 最前沿的 CoWoS（chip-on-wafer-on-substrate）2.5D 封装堆叠 HBM；游戏线拆到不用 CoWoS 的 Lovelace。
• 认知：CoWoS 仅占 TSMC 总产能 10%-15%，新增产能要新建 fab、耗时数年；分叉让 NVIDIA 独占大量 CoWoS 产能专供 H100——"缺芯"的真相是封装产能瓶颈。
• 效果：H100 内存容量远超市面其他 GPU；竞对即便芯片设计追上，也拿不到封装产能。

10. 训练即压缩

• 故事：Ben 的类比——3GB 的多层 Photoshop 文件（PSD）没法发给客户，要压成 JPEG；JPEG 在多数场景更有用，但永远无法从 JPEG 还原回 PSD。
• 认知：LLM 把整个互联网文本压进小得多的模型权重；训练一次、推理无限，推理算力相对极廉价；代价是重训极贵——"最好第一次就做对"。
• 效果：训练侧的天量资本开支高度集中，恰是 NVIDIA 的收入所在；模型让所有人免于每次重造 PSD。

11. DGX Cloud：借道对手的云，夺回客户关系

• 故事：CFO Colette Kress 披露数据中心收入约一半来自 CSP、集中在 5-8 家公司——NVIDIA 拥有 CUDA 开发者关系，客户关系却被云厂中介。DGX Cloud 把虚拟化 DGX 放进 Azure/Oracle/Google 机房，但客户直接与 NVIDIA 签约、登录 NVIDIA 网站使用，$37K/月起。
• 认知：把中介收入转为直接销售关系，长期价值超过账面利润；账不难算——等效 A100 DGX 自建约 $12 万，月租 $3.7 万意味着 NVIDIA 与云伙伴约 3 个月收回 CapEx。
• 效果：David："Nvidia launched their own cloud service through other clouds. This is unbelievable."（借别人的云发布自己的云。）可以想见未来会有更多全资自营数据中心。

12. CUDA 不是护城河修辞，而是"让最多人跑上我们硬件"的使能层

• 故事：2006 年起每块出货卡都能跑 CUDA；开发者曲线：4 年积累首批 10 万，2016 年 100 万（transcript 原话 "13 years in"，与年份略有出入，照录），约 2018 年 200 万，2022 年 300 万，2023 年 5 月 400 万注册开发者。
• 认知：内部人不说"CUDA 是我们的 moat"，而是：要让人们在我们硬件上跑，就必须让它尽可能容易——为此养 1000-2000 名全职软件工程师做编译器、runtime、调试器、CUDA C++ 和行业库，且软件基本不赚钱（de minimis）。"That is how you build a developer ecosystem."
• 效果：Ben 按历年团队人数取积分，估算 CUDA 累计投入约 10,000 人年——"Good luck."；现存 5 亿块 CUDA-capable GPU 是开发者可瞄准的装机基数；客户已有的 AI 代码"原样搬进这台崭新超算就能跑"。

13. TAM 叙事从"万业百分比"改为"数据中心替换周期"

• 故事：2021 年是 $100T×1% 的拍法——Ben："这是我能想到的最自上而下的市场估算法。"2023 年 Jensen 换了切法：存量硬资产 $1T、年 CapEx $250B，NVIDIA 拥有"最内聚、最完备、最连贯的平台"去定义这些数据中心的未来形态。
• 认知：Ben 的 "what do I have to believe" 框架——只需相信一件事：AI 负载正在创造真实用户价值。证据：OpenAI 传闻年化收入 $1B+（Ben 听到的最可信估计是 $3B，或为明年预测）；ChatGPT 是本轮 boom 的 Netscape Navigator；Fortune 500 上季度真金白银开了 $10B 的支票。唯一未知项：GPT 式体验是否长期持续——"That is the thing you have to believe."
• 效果：从挥手比划变成可数、可验证的采购预算池；"炒作正在变成收入"。

14. 只做别人做不了的事；时机成熟才出手；窗口期内全力出货

• 故事：Intel 曾用"整合进主板→商品化→自己做"的 playbook 围剿 NVIDIA，数据中心时代又靠 PCI Express 控制互连，NVIDIA"住在里面，恨透了每一分钟"——受访者神喻："Intel was the country club and Nvidia is the fight club."（Intel 是乡村俱乐部，NVIDIA 是搏击俱乐部。）NVIDIA 隐忍十年不做 CPU，直到有真实差异化理由才推 Grace。
• 认知：低毛利机会不碰；同时，供给短缺不是护城河而是要抓紧兑现的窗口——数据中心架构决策 5-10 年一换，现在锁定就是锁定十年，所以趁领先"能出多少货就出多少货"（David 补：宁愿用毛利换吞吐）。
• 效果：Covid 后重回 6 个月出货周期、多数年份一年两届 GTC——"Imagine Apple doing two WWDCs a year."；逐层"去插槽化"路径清晰：插进别人的服务器 → 自己做服务器 → 整排整墙 → 也许下一步自己运营整栋建筑，"我们不需要插进任何东西"。

护城河分析（7 Powers 框架）

7 Powers 是 Hamilton Helmer 的战略框架（《7 Powers: The Foundations of Business Strategy》，2016）。本集没有正式的 Grading（打分）环节——主持人明确说本集目标是"更持久的大图景"而非季度点评，Bull & Bear 取代了它的位置，如实注明。

竞争格局总论（Ben）：NVIDIA 有直接竞对（AMD），但那不是最有趣的竞争形态，disintermediation（去中介化）才是——AMD 既无 TSMC 2.5D 封装的预留产能、也无 CUDA 开发者生态；真正的竞争向量是 Amazon 自研 Trainium/Inferentia、Microsoft 传闻联手 AMD 造芯、Google TPU、Facebook 借 PyTorch 的开发者立足点向下延伸，外加 Intel 等数据中心硬件商成了直接竞对。核心问题："Will Nvidia be able to stay ahead in ways that matter?"（在大客户在意的维度上，能否甩开一群"嫌你毛利太肥、于是照抄你"的追赶者？）配套的云格局讨论：Cloud 1.0 的数据锁定（Snowball、甚至真的用半挂卡车拉硬盘入云）意味着"在哪训练取决于数据在哪"，但 Ben 五年来第一次对云厂护城河歪头存疑——客户要的是"全栈 NVIDIA 体验"，不是云厂用最便宜 COGS 拼出的类似体验；Crusoe、CoreWeave、Lambda Labs 这些拿了数十亿美元的 GPU 专用云的存在本身，说明聪明钱认为存在"云级别的机会"。收敛判断：Cloud 1.0 的座次将强烈决定 AI 云时代的座次——客户要 NVIDIA，云厂就有一切动机满足。

毛利率与"护城河-城堡相对论"：当前 70%+ 有暂时性成分——企业乃至政府（UK、某些中东国家）"空白支票，我只要拿到 NVIDIA 硬件"的抢购会过去；但 Ben 判断 65%+ 的水位不会大幅侵蚀。David 的依据：训练 GPT 级模型只有一个选项（"There's one option."——你只能在 NVIDIA 上做）；推理侧更开放，但 NVIDIA 仍是最好，且不是单因素最好——"They're the best because of all of those."（硬件、数据中心方案、CUDA，缺一不可。）长期的清醒剂是 Ben 的城堡比喻："Every moat only works if the castle is sufficiently small."——当终点奖品是万亿级市场，这条护城河大概率不够宽，意味着长期毛利下行、竞争加剧；NVIDIA 自己完全明白，所以"现在必须油门踩到底甩开竞争"。

Bear Case（6 条）

1. 全生态围剿：科技生态里所有人都有动机"切走 NVIDIA 的一块饼"且资源无限——参照 Meta 砸几百亿做 metaverse、Apple 传闻 $15B 做头显、Amazon 几百亿做设备（Echo 根本没回本）；市场若真到千亿美元/年，某个时点"胆小鬼博弈"结束、有人 all in。对冲（David）："Never underestimate the inability of big tech to execute on stuff that it thinks it can."（永远不要低估大科技公司在自以为能做的事上执行不力的程度，尤其是重大战略转向。）
2. PyTorch 聚合反制：开发者大量聚集在 PyTorch → 依 Ben Thompson 的 aggregation theory，聚合客户者可攫取毛利、去中介化；已从 Meta 移入基金会、众公司共建；CSP 的话术将是"你为 PyTorch 开发？在我家芯片上也跑得很好"。（Ben：PyTorch vs NVIDIA 是绝对的伪等价，但方向真实；且需在底层重写大量软件、出货大量硬件。）
3. 市场没有市值反映的那么大 / 信心危机：未来 12-18 个月大概率出现"GPT 也许没那么有用"式觉醒、mini 泡沫破裂，传导至 CIO/CEO——"It's not an if, it's a when."对冲一：顶级研究者几乎异口同声："对，现在确实炒作过头。但放在十年尺度上，你还什么都没见到呢。"对冲二：炒作正在变成收入——买算力的人相信某种东西，对 NVIDIA 而言信仰是真金白银。
4. 生成式 AI 是否名副其实：David 个人仍用不上 ChatGPT（幻觉、进不了工作流；一个月前还在为此"拍桌子"），但承认 Acquired 是"超专业化的独角兽小生意"，不具代表性。反例充分：GitHub Copilot 从零基础到精英工程师每层都有杠杆（Ben 是坚定信徒）；Runway（CEO Chris Valenzuela，通译 Cristóbal Valenzuela）的技术用于电影 Everything Everywhere All at Once，"只是冰山一角"；有人用 ChatGPT 写 OKR。Ben 的框架：AI 的价值 = 无数利基之和——你只是恰好不在最早的几个利基里。另有"时机过于完美"之疑：VC 刚讲完 crypto 是未来、利率升到 5%、转头就讲 AI（David："come on guys. It's too perfect."）——但最近一季证明 Fortune 500 在真采购。
5. 训练→推理迁移：流行叙事是模型终将"够好、训完"，负载转向差异化更弱的 inference。Ben 不全信：Transformer 不是终点，研究中已有超越它的东西；但另一层 bear 真实——本轮训练是"厨房水槽式蛮力"，收入全归做"水槽"的 NVIDIA，而 Google 的 Chinchilla、Llama 2 已用更少参数逼近 GPT-4 质量（见仁见智），更聪明的模型可能不需要那么多算力；何况多数 AI 负载本就不像 LLM（diffusion 与图像生成整个门类算力密集度低得多）——"LLMs are the current maxima in human history of jobs to be done that require a ton of compute."（LLM 只是"史上最耗算力任务"的当前极大值。）David 部分认同：训练不会消失，但 inference 占比会变大，而那里的生态确实差异化更弱。
6. 中国：合法且真实的 bear——上一财年占营收 25%，可预见的未来无法有意义地触达；中国在竞速发展自主生态与竞争者，市场将封闭——"会从那里出来什么？"（开放性风险。）

（第 7 条"高倍数崩塌"被两人翻转成了 bull：暴涨后的骤停对多数公司致命——股权激励、士气、客户认知；但 NVIDIA 历史上多次在多年恶劣情绪后靠爆炸性创新"从灰烬中重生"，是最有"体质"（disposition）扛过下一次信心危机的公司。）

Bull Case（5 条）

1. Jensen 对加速计算的判断正确：当前仅约 5%-10% 的工作负载被加速，未来到 50%+，并行计算总量暴增且大头归 NVIDIA。David 的 nuance：不是传统计算消失（SharePoint 服务器照跑），而是 AI 算力叠加到一切之上。Ben 的工程视角：并行代码极难写（race condition、semaphore 是 CS 课上最难调试的东西），大量负载只是因开发难而没被加速——若 NVIDIA 用全栈让迁移足够容易，"潜伏的可加速计算"（latent accelerated addressable computing）会被成批释放。
2. Jensen 对生成式 AI 的判断正确：ChatGPT 传闻年化收入 $1B+（最可信估计 $3B）；Google Bard 虽不直接变现，却把备稿期的 Ben 留在了 Google 搜索里。"Bear 版本是一切都必须对 NVIDIA 顺利；bull 版本是种种迹象表明一切正在顺利。"
3. NVIDIA 就是快：无论技术怎么演化，很难相信它不会找到卡位方式——纯文化因素。
4. 数据中心替换市场：存量 $1T、年支出 $250B；NVIDIA 数据中心年化 $40B（单季 $10.3B），约占当前数据中心年支出 15%-18%（Ben 先口误算 20%，David 纠正剔除游戏），占比与分母都有想象空间。交叉验证看供应商的资本开支：TSMC 最近财报说 AI 硬件仅占收入 6%，但预期未来五年每年增长 50%，并真金白银建新厂扩封装——"TSMC 押错的代价极其昂贵"，供应商用钱投票比叙事可信。
5. NVIDIA 不是 Intel、不是 Cisco——是 Microsoft，甚至是老 IBM：市场流行"我们看过这部电影——硬件周期股"，但 Cisco 没有开发者，Intel 也从来没有（"Microsoft had developers and Intel had Microsoft"）；NVIDIA 有开发者——他们造了非 von Neumann 计算机、配套全新语言/编译器/计算模型："That's CUDA and it fricking works."；自我认知："We are a foundational computer science company. We're not just slinging hardware here."（基础计算机科学公司，不是倒卖硬件的。）David 更进一步：是 old school IBM——IBM 统治 B2B 大型机计算周期、后被 PC（今天的说法即 Edge）颠覆；若 Jensen 说的成立，我们正回到"集中式数据中心 = 现代大型机"的周期，且这次计算市场量级是当年的无数倍。Ben："这是你帮我完成的最大认知修正。"（补充共识：大量 inference 会下沉到 Edge，但训练短期内绝不会。）

九级思想实验："与 NVIDIA 正面竞争需要什么"（完整收录）

Ben 的收尾推演，每一步都以"即使你做到了"衔接：

1. 设计出同样好的 GPU 芯片——AMD、Google、Amazon 勉强算在做；
2. 建立 NVLink 级的 chip-to-chip 网络能力——极少有人有；
3. 与 Foxconn 等组装商建立关系，把芯片装成 DGX 级服务器；
4. 建立 server-to-server、rack-to-rack 网络能力，达到市场最强的 Mellanox InfiniBand 水平——而 Mellanox 已被 NVIDIA 全资拥有，基本没人有；
5. 说服客户买你的东西——必须更好或更便宜或兼而有之，而且（David 补）必须好 10 倍，因为"买 NVIDIA 不会被解雇"；
6. 与 TSMC 签下最先进的 2.5D CoWoS 封装产能——产能已经没了，祝你好运；
7. 做出与 CUDA 一样好或更好的软件——约 10,000 人年，花的不只是数十亿美元，还有时间本身；
8. 说服开发者弃 CUDA 用你；
9. 而 NVIDIA 不会原地不动——你必须以创纪录速度完成以上全部，还要追平它在此期间新开发的能力。

结论：正面竞争近乎不可能；能掀翻 NVIDIA 的只有两种——它看不见的未知侧翼进攻（unknown flank attack），或者未来根本不是加速计算与 AI，而后者看起来极不可能。终章：Marc Andreessen 2015-2016 年在 Acquired 访谈里就说过，A16Z 看到所有 deep learning 创业公司都构建在 NVIDIA 之上——事后看，与其投所有 AI 创业公司，不如把每支基金的每一美元按市价买入 NVIDIA。David："Mark is right once again. Strength-leads-to-strength."

细节富矿

• Rosewood 晚宴：2015 年 Musk 与 Altman 在 Sand Hill Road 的 Rosewood Hotel 宴请双寡头旗下几乎全部顶级研究员劝其出走。现场（David 转述）："要什么条件你们才肯走？几乎所有人的回答是：没有条件，你们挖不动，我们在这儿开心得像蛤蜊。"Ben 补刀："There's a money spigot pointed at our face."（有个钱龙头正对着我们的脸喷——而且更重要的是能与所有最强同行共事。）Cade Metz 的记录：没人确信这些头脑能被挖去新创公司，哪怕背后站着 Musk 和 Altman，"但有一位关键人物至少对跳船持开放态度"——Ilya。
• Microsoft 三轮注资：2019 年 $1B（换独家云供应商地位）→ 2021 年 $2B → 2023-01 $10B（GPT 整合进全线产品）；2020-09 另获底层模型独家商用许可。对 NVIDIA 的意义：OpenAI 的算力全部经 Azure 采购，而 Azure 跑的是 NVIDIA。
• DGX 捆绑经济学：8 颗 $40,000 的 H100 = $320,000，整机 DGX H100 卖 $500,000 起——差价约 $180,000，那颗 ARM CPU"几乎不花成本"。David 的定场梗："You say solution, I hear gross margin."（你说"解决方案"，我听到的是"毛利率"。）Ben："这就是捆绑经济学——捆绑更多价值，就配得上更高利润"；但眼下根本不靠 solution 拿毛利，纯粹供不应求——"客户递上空白支票，金额 NVIDIA 随便填"。
• 云上租价现实：8×A100 的 DGX 服务器牌价约 $30/小时（Azure/AWS）；AWS P5.48xlarge（8×H100）约 $100/小时——"我说'你能租到'其实不是真能租到，那只是标价。"DGX GH200 SuperPOD（256 机架的"AI 墙"、首个 turnkey AI 数据中心、可训万亿参数级模型）的定价是——"call us."（Ben："Of course it is."；David 估计数亿美元量级。）
• H100 硬件履历：约 2500 亿晶体管、35,000 个零部件、70 磅重；18,500 个 CUDA core、640 个 Tensor Core（专攻矩阵乘法）、80 个 streaming multiprocessor；比仅早 2.5 年的 A100 综合快 30 倍、AI 训练快 9 倍；需要机器人组装、AI 参与芯片设计。Ben："They have completely reinvented the notion of what a computer is."（他们彻底重新发明了"计算机"这个概念。）
• Megatron-Mellanox 时间线彩蛋：宣布收购（2019-03）在 Megatron 发布（2019-08）之前 5 个月——内部研究先行于公开证据；Ben 录制前两小时才发现。
• 减记变祝福：2022 年 crypto 崩盘时把 TSMC 预订产能减记成"财务大污点"，如今"天哪，他们庆幸死了当初订了那些产能"。
• "失望之年"悖论：Jensen 2023-03 对 Stratechery 说 "last year was unquestionably a disappointing year"——而那正是 ChatGPT 发布之年。市值过山车为证：2022-04 全球第 8（约 $660B）→ 跌破 $300B → 数月内重回 $1T+。
• 命名学：Grace CPU 加 Hopper GPU = Grace Hopper（伟大计算机科学家、美国海军少将）；消费级架构 Lovelace 致敬 Ada Lovelace。
• 人效奇观：NVIDIA 26,000 名员工；Microsoft 市值只有它的 2 倍、员工却有 220,000 人；每员工市值约 $46M（Ben 自嘲这个数有点滑稽，因为高市值是新近的事）。
• Google X 是否出过盈利项目：Ben 问。David："Google Brain."——"We'll leave it at that."（就此打住。）Astro Teller 对 NYT 的原话：仅 Google Brain 一个团队的利润增益就覆盖了 Google X 的全部开销——这还不算 DeepMind。

时代与行业冷知识

• Hinton 生来姓 Boole：Geoff Hinton 是 George Boole 与 Mary Boole 的玄孙（great-great-grandson）——AND、OR、XOR、NOR，布尔代数全家桶都来自这对夫妇。Ben："我都不知道 Boole 是个姓，原来这词是这么来的。"
• ImageNet 的众包底座：1400 万张人工标注图片，是当时 Mechanical Turk 史上最大规模使用，标注工时薪约 $2——互联网尺度下这个数据集"只是沧海一粟"。
• 双寡头时代的战果清单：YouTube 从亏钱的"疯狂收购"变巨无霸——feed 流与 autoplay 全部出自 AI 研究（此前大部分观看来自其他网页的嵌入）；DeepMind 给 Google 数据中心省冷却费；Instagram 靠 AI 推荐流成为 $100B-$500B 级资产（Ben 自证定向广告有效："我在 Instagram 广告上买了很多东西"）。反面例证：双寡头之外 AI 都差——Siri 很烂；David 的 straw man 假说：Snap、Musical.ly（卖给 ByteDance 成 TikTok）未达独立规模，或因拿不到那样的研究员（Ben："多走了两步，但是个有趣的 straw man"）。
• TPU/TensorFlow 的软硬一体阳谋：开源框架 → 框架在为其优化的自家硬件上跑得最好 → 硬件只在 Google Cloud 提供。当年众人惊呼"Google 为何免费送出家底"，实为早了 3-4 年的先见之明。但 TPU 成了战略冲突的牺牲品：它是 LLM 训练"两匹马"之二，却只能经 GCP 获取、进不了 AWS/Azure；放大看对 Google 又合理——TPU 主要内部消化（Bard、搜索生成式 AI），主业是史上最赚钱的现金喷泉之一，任何延长其跑道的事都值得做。
• OpenAI 的史前项目：Transformer 窗口期里还在做"研究型"计算机视觉——DOTA II bot（纯靠屏幕截图打败世界最强玩家，David："是给上一代造的一匹更快的马"）、Universe（用 Grand Theft Auto 的游戏世界训练自动驾驶视觉，"疯狂但散乱"，现在没人再提）。辩护：他们知道 Transformer 的一切，只是作为非营利付不起训练账单。
• 出口管制反而证明领先幅度：2022-09 Biden 政府对华先进计算出口管制（Ben 纠正 David：是管制不是禁令）；A800/H800 = 调低 NVLink 传输速度的降规 SKU，在中国照样卖爆（selling like hotcakes）——"即便阉割版仍是中国能买到的最好硬件加平台"（David："想不出更好的例子来说明他们的领先有多大"）；中国公司预期管制收紧而抢囤 A800；上一财年中国大陆占营收 25%，大头是 Baidu、Alibaba、Tencent 等云厂商；Baidu 的 GPT 竞品参数量超一万亿、可能大于 GPT-4。
• InfiniBand 幸存者史：本是开放联盟标准、远快于 ethernet，但"ethernet 是最低公分母、反正人人都要实现"的共识令厂商纷纷退出，只剩 Mellanox 一家——直到跨机架训练巨型模型的时代到来，3200 Gbit/s 的带宽突然成了命门。
• Ethereum 的告别礼：转 proof of stake 终结 GPU 挖矿需求，直接促成 NVIDIA 2022 年的库存减记——又间接留下了日后庆幸的 TSMC 预订产能。
• 后冯·诺依曼前沿：学界正在实验 compute-in-memory（存内计算）——与其把数据经铜线搬到 CPU（有损、昂贵、耗能），不如就地在内存里处理。"学术计算机科学界正在重新思考：什么是计算机？"
• 政府也在排队：UK 与某些中东国家的姿态——"空白支票，我只要拿到 NVIDIA 硬件。"
• Echo 悖论：David 全屋标准化 Amazon Echo，愤慨"在这个 AI 能力狂飙的世界里，我家的 Echo 怎么反而越来越蠢了？"Ben 毒舌："他们该用 Inferentia 再多训练一下。"David："Oh, Jesus. Okay, rant over."
• VC 转向太丝滑："刚告诉所有人 crypto 是未来，利率一到 5%，转头就说'AI 是未来，现在是史上最佳投资时机'"——David："come on guys. It's too perfect."

与 PH 域的交叉

本集是 Acquired 系列里与 PH 论述网络交叉最强的一集，且方向明确：这是商业域视角的独立证据——两位主持人不做地缘政治叙事，只按商业与技术逻辑推演，却在多个节点与 PH 域核心判断汇合，证据价值恰在其独立性；2023-09 的录制时点也使它成为一个干净的时间锚。

• AI 算力的权力结构 → ai-power-structure：本集勾勒的是教科书级的权力集中样本——顶尖人才先被 Google/Facebook 双寡头锁定（"钱龙头对着脸喷"）；打破垄断的 OpenAI 本身就是"庙堂之上的权力与存量资本硬把一个东西意志成真"（Ben 原话），随后又被算力成本逼进 Microsoft 怀抱；数据中心收入一半集中在 5-8 家 CSP；训练 GPT 级模型"只有一个选项"；UK 与中东政府拿着空白支票排队。"谁控制训练基础设施，谁就控制 AI 能力谱系"的结构，在这里全部有商业侧数据支撑。
• 芯片出口管制 → PH 域的科技战线：2022-09 对华管制、A800/H800 降规、中国 25% 营收敞口、预期收紧而囤货、Baidu 万亿参数模型——芯片战争叙事在企业财报层面的直接映照；"残血版仍是中国能买到的最好平台"这个细节，同时量化了美方技术领先幅度与管制的实际效力边界，可作为中美科技脱钩论述的时点证据。
• 数据中心帝国与集中化计算周期 → technate / ai-apocalypse：David 的"回到大型机周期"判断（集中式数据中心 = 现代 mainframe，NVIDIA = 那个周期的 IBM）、Jensen 的"数据中心即计算机"与去插槽化终点（自有自营整栋建筑）、$1T 存量替换叙事——为 technate 的"技术官僚基础设施集中化"论述提供了产业侧实体骨架：能源、算力、模型、云正在垂直收拢到极少数节点。而"训练即压缩"（整个互联网压进权重、不可还原）、scaling 涌现"没有任何研究员预期它发生"、顶级研究者"十年尺度你什么都没见到"的集体判断，是 ai-apocalypse 主题下"能力增长快于理解与治理"命题的业内自述。
• 方法论共振：Ben 的 "what do I have to believe" 框架与"看供应商资本开支验证叙事"（TSMC 用建厂投票），与 PH 域"用真金白银的行为而非言辞校准预测"的方法同构，可作为预测校准工具引用。

待建页面（本集提及、值得沉淀）

• 实体：Jensen Huang（黄仁勋）（创始人页；与 Trader Joe's 集的 Denny's 轶事互为连接点）、TSMC：纯代工模式发明者（TSMC 专集页；CoWoS/Cornered Resource 与本集直接交叉）、openai（本集实际的第二主角：非营利 → capped-profit → Microsoft 联盟的完整结构变迁）
• 概念：7 Powers 护城河框架（Hamilton Helmer 框架，Acquired 全系列通用分析工具）、cuda（开发者生态护城河的教科书案例：10,000 人年、400 万开发者、5 亿块装机）
• 跨域：ai-power-structure、technate 页面可引本集作为商业域独立证据节点

来源 · acquired