埃隆・马斯克在 Y Combinator 最近举办的 AI 创业学校（6 月 16 日至 17 日）上，坦率地分享了他的创业历程、人工智能和太空探索等话题。
文章作者：埃隆・马斯克
文章编译：Weilian
他回顾了早期找不到工作才创业的经历，讲述了因买俄罗斯导弹太贵且 NASA 没有火星计划而创立 SpaceX，以及 2008 年特斯拉与 SpaceX 濒临破产、最终“九死一生”的生还时刻。
而在 AI 这场“千英尺高的海啸”即将来临时，治理政府如同清理海滩，已显得微不足道，选择回归技术主线，专注创新。
马斯克还披露了 Neuralink 视觉植入的突破进展，透露地球文明目前只处于卡尔达肖夫一级的 1-2%，并展望 30 年内建立火星自给殖民地的目标。
他强调用“第一性原理”思维而非历史经验，建议追求“有用”的事而非追求荣誉，认为“极度求真”是 AI 安全的关键。
对于数字超级智能，马斯克断言：如果不是今年发生，那明年一定会。
全文约 1 万字，阅读时间预计 20 分钟。
16 个要点总结
1. 超级智能即将到来马斯克预测“数字超级智能”（Digital Superintelligence），今年或最晚明年就会实现。这将是文明的巨大转折点。这种转变不仅影响软件，也深刻改变物理世界。
2. 成为多行星物种是人类文明的保险将人类扩展到火星，会极大增加文明、意识或智能（不论生物还是数字）的生存概率。马斯克预测 30 年内，火星将具备自我维持能力。这是确保“意识之火不熄”的关键一跃。
3. 找不到工作才创业，初心不是改变世界 1995 年，他去 Netscape 总部大厅“蹲人”希望找到工作，但因羞怯没敢搭话，找不到工作才决定创业。从没想过做伟大的事，只是想做点有用的事。
4. Zip2 的教训：不要交出公司控制权尽管 Zip2 技术领先，却因媒体股东掌控董事会而使产品方向失真。他提醒创业者：不要轻易交出董事会控制权。这成为他后来创办 X.com 和 SpaceX 的重要决策基础。
5. 赚到 2000 万美金，却选择“全押再战”卖掉 Zip2 后收到一张 2000 万的支票。但他没有选择退休，而是继续冒险，全部投入 X.com（后来成为 PayPal）。
6. SpaceX 起源于火星梦开始，而非商业机会起初只想激励大众支持太空探索，却发现火箭太贵，NASA 没有火星计划。他决定即使大概率失败，也要造火箭。因没人愿意加入而并自任首席工程师。
7. 2008：Tesla 和 SpaceX 同时濒临破产 SpaceX 三次火箭失败 + Tesla 融资失败，面临两家公司同时倒闭的局面。好在圣诞节前拿到 NASA 的合同和 Tesla 的融资，让两家公司起死回生。
8. 离开政府，回归技术主线 AI 浪潮像“千英尺高的 AI 海啸”，而治理政府如同“清理海滩上的垃圾”。在 AI 海啸的冲击下，治理政府微不足道。选择专注技术创新，认为这才是推动人类进步的主线任务。
9. 成功的根本：做有用的事不要追求荣耀和头衔，而是追求有用的工作。衡量标准是：能为多少人带来价值。真正做到“有用”极其困难，但这是成功的关键。
10. 最大失败陷阱：自负/能力 > 1 一旦 自负 > 能力，就会脱离现实反馈，走向失败。他提醒创业者要不断“粉碎自我”，专注于问题本身。无论职位高低，“脏活累活”都要干。
11. 第一性原理：所有判断的根基从最基础的物理出发推理，而非基于经验。计算火箭成本不是问“历史上火箭多少钱”，而是拆解原材料价格来推导理论下限。把搭建 AI 超算集群拆解成电力、厂房、冷却、网线等子问题，最后在 6 个月内部署 10 万块 H100。
12. AI 模型竞争力：算力，人才、数据、分发打造有竞争力的大模型，关键在于：1）顶级人才；2）规模硬件 + 高效部署；3）稀缺数据；4）用户分发。人类高质量数据马上就用完了，未来需要大量合成数据。
13. 人形机器人将是主流，远超其他形态未来人形机器人将比其他机器人多一个数量级。他曾因担心“终结者”成为现实而犹豫推进，但“无论我做不做，都会发生。那我宁可做参与者，而不是旁观者。”
14. AI 安全关键在于“极度真相”AI 安全的核心在于“对真相有极端严谨的坚持”，哪怕政治“不正确”，也必须坚持真相。打造 Grok 的目标就是“极致追真”。15. 未来将有 5-10 个深度智能体共存预计未来会有不少于五个、可能多达十个“深度智能体”（Deep Intelligences）共存，且其中至少有四个在美国。
16. 人类智能占比将低于 1% 人类在整体智能中的比例将低于 1%。哪怕通过脑机接口 IQ 达到 1000，也无法与 AI 总量相比。我们仍是数字智能的“生物引导者器”，必须保持善意与真理。
访谈原文完整版｜马斯克：超级智能、多行星物种、做有用的事
访谈嘉宾：伊隆・马斯克主持人：Gary Tan（YC 现任 CEO）日期：2025 年 6 月 17 日
主持人 Gary：从 SpaceX、Tesla、Neuralink、xAI 等等，一路走来，在这一切开始之前，你有没有某个时刻意识到：“我必须去创造点什么伟大的东西”？那个转折点是什么？
Elon Musk：其实我一开始并没有想做什么伟大的事情。我只是想做些有用的事情，但我不觉得会特别伟大。
你要说从概率上讲，这种事成功的几率是很低的。但我至少想去试一试。
主持人 Gary：你现在面对的是一屋子技术出身的人，很多是当今最杰出的 AI 研究员。
Elon Musk：我其实更喜欢“工程师”这个说法。除非你做的是某种基础的算法突破，那才可以叫研究，大部分时候其实是工程。
主持人 Gary：现在在场的很多人都是 18 到 25 岁的年轻人，许多是初创公司的年轻创始人。
你能不能把自己带回当年你 18、19 岁的时候？那时你开始学编程，后来有了 Zip2 的创意。那段经历是怎样的？
Elon Musk：1995 年，我面临两个选择：一个是去斯坦福继续研究生、博士阶段的材料科学研究，研究超电容器，可能用于电动车，试图解决续航问题；
另一个是做点跟互联网有关的事情——当时大多数人甚至都没听说过“互联网”。
我当时跟我的教授 Bill Nix 说：“我能不能延迟一个学期上学？因为我可能会失败，到时候还得回来上学。”
他当时说：“这可能是我们最后一次对话。”他说对了。
我当时觉得失败的可能性更大，成功的可能性小。但我还是试了一下。
1995 年我开发了大概是互联网最早的地图导航、黄页应用。我是自己一个人写的，买不起 T1 网络，直接操作端口。
在 Palo Alto 租了一间每月 500 美元的小办公室，楼下是一个网络服务提供商（ISP）。我在地板上钻了个洞，把网线直接接过去。
我哥哥后来加入，另一位联合创始人 Greg Curry（现已去世）也加入了。我们穷到租不起地方住，干脆直接睡在办公室，每天去 YMCA 洗澡。
我们当时做了 Zip2 这个公司，也写了很多很好的技术软件。但我们被传统媒体公司“套牢”了，比如《纽约时报》之类既是投资人又是客户，又在董事会里。他们总是想用我们的软件做一些不合逻辑的事。
我本来想做直面用户的产品，而不是替传统媒体做工具。
其实我当时也不是非要创业，只是想做点有用的事。
我当时有两个选择，继续读博然后看别人打造互联网，或者成为打造互联网的一小部分。
我当时想，就算失败了也可以再回去读研究生。没想到后来这个决定还挺成功的，最后以大概 3 亿美元的价格把公司卖掉了——当时是一大笔钱。
现在听起来可能不算什么，因为现在的 AI 初创公司动辄估值就是 10 亿。当然资本环境也通货膨胀了很多。1995 年可能只要几美分就能买个汉堡（笑），虽然不是真的几分，但通胀确实明显。
现在 AI 热度太夸张了，有些成立还不到一年的公司，估值就能达到数十亿美金，虽然可能有些能兑现，但有些估值看着真是吓人。
你觉得呢？
主持人 Gary：我很看好。坐在这里的这些年轻人会创造出很多真正的价值，全世界十几亿人未来都会用到他们做的产品。现在我们还只是刚刚触碰到这个巨大机会的表层。
我很喜欢互联网的故事。在当年，你的状态也很像这屋子里的年轻人。那个时候，传统媒体的大佬们看你，觉得你懂互联网；
而今天这个世界，特别是那些传统企业、整个主流社会，还没真正理解 AI，他们会看向这里的这些年轻人，期待他们去引领。
听上去你从 Zip2 得到的教训是：“不要轻易放弃董事会控制权“，或者请一个特别靠谱的律师。
Elon Musk：确实如此。我第一次创业最大的教训就是：太多的股东和董事席位被传统媒体公司掌控了。
这些公司天然从老媒体的视角看问题，他们经常要求我们去做一些，在他们看来“合理”，但其实对新技术完全没意义的事。
我还得补充一点，我一开始并不是打算创业的。最初是想去 Netscape 工作。我把简历发给了他们，Marc Andreessen 应该知道这事，但我想他压根没看到我的简历。
* Marc Andreessen：Netscape 创始人、现投资公司 a16z 创始人，多次成功创业者，硅谷最有影响力的 VC 投资人之一。
没人回应我，于是我就跑去他们的大厅蹲人，想着碰巧遇到人，但又太害羞没敢搭话。我想这也太蠢了吧，那我还是自己写点软件看看能不能做点事好了。
说到底，我只是想参与互联网建设，哪怕是一小部分。既然找不到工作，就只好自己创办一家公司。
关于 AI，我认为它将深刻改变未来，远远超出我们现在的理解范围。
只要别发生极端情况，比如 AI 把我们或者它自己毁灭了，经济最终将不止是现在的 10 倍。
一旦我们或者我们未来的“机器后代”成为卡尔达肖夫二型文明（即掌控整个恒星的能量），那我们面对的将是规模指数级增长的经济，可能是现在的千倍，甚至 百万倍。这种级别的未来，是现在很难想象的。
之前我在华盛顿，还尝试着清理政府内的浪费和腐败，虽然那也是个有意思的“支线任务”，但现在我必须回归“主线任务”了。
治理政府有点像是清理沙滩上的针头和垃圾，但现在有一面高达千英尺的“AI 海啸”正在逼近。当有这么大的海啸来临时，清理海滩又有多大意义呢？
不太值得。主线任务才是重点。我还是喜欢做技术这件事。
搞政治太嘈杂了，信息噪声比太高。
而对于造火箭、造车，或者开发可靠的软件时，你必须无比接近真理，否则你的代码跑不起来、硬件也无法工作。数学和物理是不会骗你的，它们是最严格的法官。
我习惯那种对真相有极致追求的环境。而政治，显然不是这样。
主持人 Gary：回到 Zip2 的那个时刻，你当时成功退出，拿到了数千万美元的收益了。
Elon Musk：是的，我拿到了 2000 万美元。
主持人 Gary：那你至少已经解决了资金的问题。然后你把所有的钱投入到 X.com，也就是后来的 PayPal 和 Confinity。并不是所有的人都会这么做。
在座的这些年轻人将来也会面临这样的选择，是什么让你再次投入？
Elon Musk：我觉得 Zip2 开发了很棒的技术。至少在我看来，我们的技术比雅虎或其他任何人都更好，但因为客户的限制没被真正用起来。
所以我想做一件事情，不会受客户的约束，直接面向消费者。这也就是 X.com 和 PayPal 的起点。X.com 与 Confinity 后来合并，最终形成了 PayPal。
事实上，PayPal 之后出现了所谓的“PayPal 黑帮”，可能是 21 世纪创造最多初创公司的一个团体。Confinity 和 X.com 聚集了许多非常有才华的人。
我收到 Zip2 支票时是 2000 万美元，那时候我还和四个室友合住一间房子，银行账户里大概就一万美元。突然在邮箱中收到了一张支票，账户余额从 1 万美元变成了 2000 万美元。然后把几乎所有的都投入了 X.com。
在 PayPal 之后，我很好奇我们为什么还没有把人送上火星。我在 NASA 官网查什么时候会送人去火星，但根本没有日期。
我还以为只是网站上信息太多没搜到，但事实上根本没有真正的火星计划。
当时我在长岛高速公路上，和我大学的室友迪尔・雷西一起。他问：PayPal 之后打算干什么。
我说：我不知道，也许我想做些太空领域的公益事业。
因为我当时并不认为可以在太空领域做商业项目，那似乎是国家级的事。但我又很好奇我们什么时候送人去火星。结果发现 NASA 网站上根本没有内容。我就继续查。
我的第一个想法是发起一个公益任务‘火星生命’（Life to Mars），把一个小型温室连同种子和脱水营养胶送上火星，种出绿色植物，拍一张“红色星球上绿植生长”的照片。我想营造那种震撼的视觉冲击力，来激发 NASA 和公众的兴趣。
我在 2001 年和 2002 年还去俄罗斯买洲际导弹（ICBMs），去和俄罗斯高层谈判，想买一些洲际导弹。当然不是为了核攻击。
俄罗斯因为军控协议的原因要销毁大量大规模核导弹。我就想，能不能拿两个导弹，把核弹头拆掉，变成送火星的火箭。
2001 年在莫斯科和俄罗斯军方谈判购买导弹，确实是种很奇幻的经历。但他们一直涨价，我意识到问题不在于人们不想去火星，而是预算完全不够。即便是 NASA 的预算也不够。
所以我决定自己创立 SpaceX，降低火箭发射成本，让我们有能力真正送人类去火星。这是 2002 年。
主持人 Gary：所以你创立 SpaceX 的起点并不是商业动机，而是出于兴趣、责任感，甚至是一种“人类必须做这件事”的信念。直到后来，你才发现它可能成为一个成功的商业模式？
Elon Musk：可以这么说。
SpaceX 之前几乎没有任何成功的前例。历史上尝试搞商业火箭的公司，基本上全都失败了。
所以我心想：成功率可能不到 10%，甚至低于 1%。但如果没有创业公司推动火箭技术进步，那就根本不会发生。因为国防承包商只会照政府标准做事，而政府又极其保守。
所以虽然成功几率小，但总比没有机会强。
这就是为什么我在 2002 年创办了 SpaceX，但大概率会失败。我当时告诉应聘者：我们可能会倒闭。但万一不死，那就可能是唯一能让人类登上火星的机会。
后来我自己成了首席火箭工程师，并不是因为我想当，而是招不到好的人。顶尖的火箭工程师都觉得这事风险太大，公司会倒闭。
前面三次发射全失败了。第四次发射如果再失败，SpaceX 就完了，我也没有钱了，那真的是命悬一线。
2008 年是很艰难的一年。当时还在同时在推动 Tesla，融资也失败了，公司快要破产了。
我当时想：“这简直是失败的教材，太惨了。”
主持人 Gary：那时是不是很多人说：“Elon 是搞互联网的，为什么跑去做硬件？”
Elon Musk：是的。媒体老是叫我“互联网人”，“互联网人”差不多就等同于“傻子”，还想做火箭？
说实话，这听上去确实很荒唐。一个搞软件的要造火箭，听起来就不靠谱。确实不靠谱，只不过我们第四次发射成功了。
NASA 后来给了我们一个补给国际空间站的合同。记得那天好像是圣诞节前，我接到 NASA 电话，说我们得到了合同。我当场就脱口而出：“我爱你们！”他们大概也没想到会听到这种回应（笑）。
接着 Tesla 的融资也在圣诞日 12 月 24 日下午 6 点关账前最后一刻完成了。如果那个回合没完成，我们圣诞节后就发不出工资了。真的是九死一生。
主持人 Gary：从你创办 Zip2 和 PayPal 的经历来看，你始终能找到、吸引顶级人才。在座很多人还没有带过团队，你会对他们有什么建议？
Elon Musk：尽可能去做“有用的事情”。听起来很老生常谈，但真正做到“有用”非常难。
如果说“总效用的面积 = 你的有用程度 × 影响了多少人”，就像物理学里的‘功’的定义一样，做到真正的‘功’，是极其困难的事。
但如果你追求的是“做真正有用的事”，你成功的几率就会高得多。
别追求荣耀，追求工作。
主持人 Gary：那怎么判断你做的事是否真的“有用”？是看别人反馈？产品结果？你在招人时，又是怎么看这些的？
Elon Musk：如果从产品的角度去看：如果这个东西成功了，它能给多少人带来多少价值？
无论你在团队里是 CEO 还是其他角色，都应该放下自我（Ego）、承担责任。别让你的“自负”超过你的“能力”。
当自负/能力 > 1 时，最容易失败。你会打破你和现实之间的反馈回路——用 AI 术语讲，就是你会破坏你的强化学习回路（RL Loop）。
所以要确保你的强化学习回路足够强，你必须保持责任感，压低自我（Ego)，把所有任务都当作自己的事来做，不管是高大上的还是不起眼的。
所以我更喜欢“工程师”这个词，而不是“研究”。我其实也不想把 xAI 称为“研究实验室”，而是一个公司。
越简单、越直接、越少自我包装的词，越能让你贴近现实。你要死死地抓住现实的反馈回路，这点非常关键。
主持人 Gary：你是“第一性原理思维”的代名词。你是怎么构建自己的“现实感知”的？
那些从未真正“创造”过东西的人，比如记者媒体，有时候会批评你。但你的身边还有“创造者”组成的圈子（工程师）。
你是如何处理这种分歧的？你会怎么告诉你的孩子，让他们在这个世界里构建自我认知？
Elon Musk：物理学的思维工具太重要了。第一性原理就是把问题拆解到最基础、最可信的原点，从底层往上推理，而不是依赖类比或经验。
还有一种技巧叫“极限思考”（thinking in the limit），就是把某个变量最大化或最小化去推理，这也非常有帮助。
物理工具对任何领域都适用。这是一种超级能力。
比如火箭成本，大多数人是看历史成本，觉得新火箭应该差不多。
但第一性原理的做法是：火箭用的是哪些材料？铝、碳纤维、钢……火箭多重？这些材料的单价是多少？这些决定了火箭的成本下限。
结果发现原材料成本只占整个火箭售价的 1-2%。说明制造流程极其低效。这就是第一性原理分析给出的成本优化潜力。还没谈到重复使用的可能呢。
举个 AI 的例子：去年我们 XAI 要建一个训练超级集群，去找各大供应商要 10 万个 H100。
他们说需要 18 到 24 个月才能搞定。我说不行，我们必须 6 个月内完成，否则就失去竞争力。
于是我们分解问题：需要工厂、电力、冷却。没时间盖新楼，就找现成的厂房。在孟菲斯找到一个闲置的 Electrolux 工厂。
但它只有 15 兆瓦输入功率，我们需要 150 兆瓦。于是我们租了一堆发电机放在厂房一边，又租了美国四分之一的移动制冷设备放在另一边。
但发电机无法应对训练时的电压波动，所以我们用 Tesla 的 Megapack 电池，并修改软件让它能平滑功率波动。
还有网络布线的挑战：让 10 万个 GPU 同时训练，网络线缆布设极其复杂。
主持人 Gary：你刚才提到的那些事情中，几乎任何一项工作，应该都会有人告诉你“不行”，你没法完成。
而“第一性原理”思维中一个突出的特征，就是反问一句“为什么不行？”
我们要搞清楚这个问题，甚至要挑战坐在对面的人。如果得不到一个令我信服的答案，那我就不会接受这个“不行”。
如果有人在硬件领域做你正在做的事，这种思维尤为必要。软件可以有很多“缓冲”，比如我们可以多加点 CPU 就能搞定。但硬件不行，硬件没有“将就”的空间。
Elon Musk：我认为第一性原理，无论是对软件还是硬件都适用，实际上适用于任何领域。
我刚用一个硬件的例子来说明：我们被告知一件事是不可能的，但我们把它拆解成基本要素：我们需要一栋工厂，我们需要供电，需要冷却，需要电力稳定设备，然后我们分别去解决这些子问题。
最后我们安排了全天四班倒的网络布线，把所有线路接好。我那时睡在数据中心，自己也亲自参与布线。
我们还要解决很多其他问题。比如，去年没有人用 10 万个 H100 显卡同时训练一个模型（至少在那时候没有，也许今年有人做了），而我们后来把这个规模翻倍，达到了 20 万个。
现在我们在孟菲斯的训练中心有 15 万个 H100、5 万个 H200 和 3 万个 GB200，我们即将上线第二个数据中心，也在孟菲斯区域，准备再接入 11 万个 GB200。
主持人 Gary：现在的预训练方式是否仍然有效？规模法则（Scaling Law）是否仍然成立？这场竞赛的胜出者是不是就拥有了最强模型？
Elon Musk：有很多因素决定模型的竞争力。比如人才、硬件规模。你不能只是下单买一堆 GPU，然后就指望它们插上电就能用了。你需要让这些 GPU 稳定地、同步地进行训练。
你有没有独特的数据获取能力？分发渠道也有一定重要性——你的 AI 是怎么触达用户的？这些都是构建一个有竞争力的大模型必须考虑的因素。
很多人都说过，我的朋友伊利亚 Ilya（前 OpenAI 联合创始人）也说过，我们已经基本用完了人类生成的高质量预训练数据，高质量的 token 很快就用光了。
接下来必须靠合成数据，而且需要有机制判断它是否“真实”，而不是幻觉。如何让合成数据真正接地气，是个复杂的问题。
但我们现在已经进入一个关注生成合成数据的阶段。我们现在在训练 Grok 3.5 更关注推理能力。
主持人 Gary：回到你刚才提到的“物理”，我听说硬科学，特别是物理教材书对训练推理能力非常有帮助。很多研究人员告诉我，社会科学对推理一点用都没有。
Elon Musk：估计是的。
未来有一个非常重要的方向，就是把深度 AI（在数据中心或超级集群中的）与机器人结合起来，比如说“擎天柱”这种人形机器人。
未来会有非常多的人形机器人，以及各种形态和尺寸的机器人。但我预测，人形机器人的数量会远远超过其他所有种类机器人的总和，甚至是数量级上的差距。
主持人 Gary：有人说，你正在筹备一支“机器人军队”？是真的吗？
Elon Musk：无论是我们做，还是特斯拉做，特斯拉与 x.AI 关系密切。
你也看到现在涌现了很多人形机器人创业公司。黄仁勋（Jensen Huang）上次在台上也展示了一大堆来自不同公司的机器人，可能有十几个之多。
说实话，我之前有点抗拒这个方向，因为不想真的把《终结者》变成现实。
但后来意识到：这事无论我做不做，都会发生。所以你只有两个选择：当旁观者，还是参与者？我想了想，我还是愿意做一个参与者。
所以现在“油门踩到底”，AI、机器人一起上。
主持人 Gary：你谈到过很多次“让人类成为多行星物种”的话题。
这显然不是 10 年、20 年的短期事，而是一个可能持续 100 年、跨越好几代人的大事。
你怎么看待这个宏大目标？AI、机器人和多行星文明，这三者之间是什么关系？你现在的驱动力是什么？未来 10 年、20 年、100 年你想要做成什么事？
Elon Musk：天啊，100 年……我只希望文明还能存在 100 年。如果还存在，那肯定跟现在的文明完全不同了。
我预测，那时候人形机器人的数量至少是人类的 5 倍，甚至 10 倍。
我们可以用“卡尔达肖夫等级”（Kardashev Scale）来衡量文明进步的程度。
卡尔达肖夫 I 型文明，意味着你掌控了整个星球的能量。
我认为目前人类连地球 1% 或 2% 的能量都没有真正掌握，所以离卡 I 还差得远。
卡尔达肖夫 II 型文明，则是掌握一整颗恒星（如太阳）的能量，这比地球多出几十亿甚至上万亿倍。
卡尔达肖夫 III 型文明，则是掌控整个星系的能量。
我们离那个阶段还非常遥远，现在还处在“智能大爆炸”的非常早期阶段。
我希望在未来 30 年内，我们能将足够的资源运输到火星，使其实现自给自足，哪怕地球的补给停止，它也能持续发展。
这将极大延长人类文明、意识、甚至智能（无论是生物的还是数字的）的寿命。这就是我认为多行星化很重要的原因。
而“费米悖论”（Fermi Paradox）一直让我感到困惑：为什么我们从未发现外星智慧？也许智能生命极其罕见，也许我们是整个银河系唯一的智能存在。费米悖论：如果宇宙中存在那么多星系、恒星和潜在的宜居行星，那么高等外星文明应该早就出现了，甚至已经拜访过地球了。为什么我们什么也没看到？
如果真是这样，那我们的意识就像浩瀚黑暗中的一束微光。我们必须竭尽全力，保护这束光不被熄灭。
多行星化，是点燃更多光束的第一步。只要你拥有两个星球，就会倒逼太空技术进步，这最终将让意识扩展向星际。
主持人 Gary：“费米悖论”的解释之一，是一旦某种文明发展出强大技术，它就难免自我毁灭。那么我们要怎么避免这种结局。
Elon Musk：如何避免“伟大筛选”，其中一个就是全球热核战争。我们要尽量避免这种情况。
另外我们应该打造“良性”AI 和机器人。我认为，在 AI 的构建过程中，严格坚持“真相”的原则是至关重要的——哪怕这种真相“政治不正确”。
我直觉上觉得，强迫 AI 相信不真实的事，可能是使它变得危险的关键因素。
主持人 Gary：关于“开放 AI vs. 封闭 AI”的争论，你怎么看？比如是“为安全开放”还是“为竞争保密”？
现在市面上已经有多家强有力的模型，这是否意味着我们避免了某种“最坏的未来”（比如只有一家超级 AI）？
Elon Musk：我认为将会出现多个“深度智能体”（Deep Intelligences），也许至少有五个，大概十个。也许有四个位于美国。我不认为会有某一个 AI 实现“单点统治”。
主持人 Gary：那这些超级智能会做什么？科学研究？相互攻防？
Elon Musk：可能都有。我希望它们能发现新的物理定律。它们肯定会发明新技术。
我觉得“数字超级智能”(Digital Super Intelligence）离我们很近了。也许就在今年，如果不是今年，那明年肯定实现。
“数字超级智能”的定义是在任何方面都比人类更聪明的智能。
主持人 Gary：那我们如何引导它创造“超级富足的未来”？比如机器人劳动力、廉价能源、按需智能等……
你觉得这种“美好未来”是可能的吗？我们该怎么做才能实现？
Elon Musk：我认为最终的结果大概率是好的。就像辛顿说的那样，我也认同 AI“毁灭”的可能性大概在 10%~20%，“美好结局”的概率是 80%~90%。
所以我想再强调一次：对真相的严谨坚持，是 AI 安全中最关键的因素。
当然还包括对人类和生命的共情能力。
主持人 Gary：我们还没聊到 Neuralink。你想要缩小人脑与机器之间的输入/输出带宽差距。你认为这对实现 AGI 或 ASI（人工超级智能）有多关键？一旦建立连接，我们能不能“写入”人脑？
Elon Musk：Neuralink 不是实现“数字超级智能”的必要条件，“数字超级智能”会比 Neuralink 大规模应用更早实现。
Neuralink 可以有效解决带宽瓶颈，特别是人类“输出带宽”极低的问题。人类每天传达的信息量极少，平均每秒不到 1 比特，每天 86400 秒，你每天通过打字、说话、写作输出的总符号数极其有限。
Neuralink 可以让人脑的“输出”带宽大幅增加。“输入”是“写入”大脑。
我们已经为五位 ALS（肌萎缩性侧索硬化症）患者植入了“读取”方向的脑机植入，他们原本完全瘫痪，现在可以用脑控操作手机和电脑，通信效率接近正常人。
接下来 6-12 个月，我们将进行首次“视觉植入”实验。即便一个人完全失明，我们也可以直接把信号写入大脑的视觉皮层。
其实我们在猴子身上已经实现了这一点，有只猴子已经带着视觉植入三年了。最初分辨率不高，但长期来看，会达到非常高的分辨率，甚至可以看到多谱段光，比如红外、紫外、雷达，就像拥有超能力一样。
最终，这些“神经增强”技术不仅能弥补缺陷，还能极大增强人类的能力——提升智能、感官和带宽。
“数字超级智能”肯定会在那之前实现。至少，到了那个时候，我们可以通过 Neuralink 更好地“感受 AI”。
主持人 Gary：你在做的这些事，有一个最大限制因素可能是：你需要最聪明的人才。
而与此同时，现在的模型比如 Grok，也已经能推理、能说话，IQ 大概 130，马上就可能变得超级智能了。
你怎么平衡这两者？五年、十年后会怎样？在座的这些年轻人应该怎么做，才能不被“抛到 API 下面”？
Elon Musk：“奇点”这个词存在的原因，就是因为我们根本不知道未来会怎样。再过不久，人类占整体智能的比例会非常低，很快会低于 1%。
就算你大幅提升人类数量，甚至每个人的智力都能通过 AI 增强到 1000 的 IQ 水平，人类总体智能也仍然会比数字智能少 10 亿倍。
我们只是数字超级智能的“生物引导器”（bootloader）。
主持人 Gary：这些听起来像是疯狂的科幻小说，但也许在座的这些年轻人可以真的把它造出来。
那作为“人类任务引导器 bootloader”，你对这些最聪明的技术人才有什么建议？这些年轻的工程师应该做什么？今天晚饭时该思考什么？
Elon Musk：还是那句话：去做有用的事。只要你对人类同胞有帮助，你就已经做了一件好事。
我再强调一遍：构建“极度追求真相的 AI”，对 AI 安全而言，是最重要的。
如果你对在 xAI 工作感兴趣，请联系我们。我们的目标是打造 Grok, 一个“极致追真”的 AI。
希望 AI 能帮我们理解宇宙的本质。外星人在哪里？宇宙是如何诞生的？如何终结？有哪些我们还没想到的问题值得去问？
我们是不是活在模拟里？是哪一级的模拟？我们是 NPC 吗？
主持人 Gary：Elon，谢谢你今天的分享！大家请再次热烈鼓掌！
（完）
翻译：ChatGPT，Weilian 拍版：Weilian