AI 加速年代，谁会是降临派？

　　2015 年 1 月，某个星期天的下午。未来生命研究所在加勒比海的小岛上，举行了一场神秘的会议。

　　当时的天气不算太好，厚厚的云层快要压到头顶。由于会议高度保密，媒体记者被禁止参加，参会者也不许私下公开看法，这增添了不少神秘色彩。

　　会议结束前，风头正盛的马斯克压轴登场，大手一挥，宣布捐赠 1000 万美元。

　　后来，这场会议被称为 " 波黎多各会议 "。参会者都是 AI 领域的研究者和企业家。他们在讨论 " 智力爆炸 " 问题，以及这事对人类的威胁。马斯克捐款，就是为了对抗 " 邪恶的 AI"。

　　乍一听，有些吓人。

　　AI 加速年代

　　" 波黎多各会议 " 那一年，没有阿尔法狗，更没有 ChatGPT，人工智能还处在寒冬期的末尾。这时候讨论人工智能暴走失控，多少显得有些不合时宜。

　　不过，事情很快就要出现转机。

　　这年底，马斯克拉着自己的小伙伴彼得 · 泰尔，以及还在硅谷 YC 当总裁的奥特曼，一起创立了 OpenAI。

　　马斯克承诺拿出十亿美元，监控人工智能技术发展，避免人类浩劫。

　　可能对大部分普通人来说，我们频繁听到、看到 AI，是因为 ChatGPT 的出现。可以看看谷歌搜索指数：过去 10 年的大部分时间里，人们对 AI 的关注度都极其平缓。直到 ChatGPT 的出现，才掀起了新一波讨论。

　　但和普通人感知不同的是，这波 AI 浪潮来临，其实要稍早几年。

　　2015 年的会议结束后，开始有大量的资本疯狂涌入人工智能领域。短短 5 年内，发生在 AI 公司身上的投资量，几乎翻了 6 倍多。这其中，风险投资和合并收购激增。

　　2021 年，这个数字达到了顶峰，3374 亿美元——这几乎是 8 年前的 20 倍。如我们所知的那样，钱来自也流向少数玩家。(当然你会发现，2021 年似乎已经成为一个新的拐点。此后多项数据都在下降。这是另外一个问题，以后会谈到。)

　　在这段时间里，人工智能技术的发展也迎来了几个里程碑。AlphaGo 战胜人类、Transformer 诞生、ChatGPT 出世……这些事情，都发生在过去 10 年里。同时，AI 领域的专利数量也出现激增。

　　2012 年，辛顿团队的新神经算法 AlexNet，夺得了 ImageNet 图像识别的冠军。

　　参与这个项目的辛顿学生，一个去了 OpenAI，成为 ChatGPT 背后的那个男人;一个加入谷歌，后来选择隐退。

　　AlexNet 震惊了业界，促使了深度学习的爆发，为这波 AI 浪潮积蓄了力量。AlexNet 仅仅用了 4 颗英伟达 GPU，就实现了 84% 的准确率。而谷歌达成类似的效果，用了 16000 颗 CPU。

　　英伟达和它的 GPU，自此隆重登上历史舞台。

　　过去 10 年，人工智能进入了加速年代，还有一个表现是：各种大模型你追我赶，并实现了极其夸张的参数量。现在的 AI 大模型，动辄万亿参数已经不稀奇了。

　　2022 年，用于训练 Minerva 的计算能力，几乎是 10 年前 AlexNet 的 600 万倍。若和 1950 年香农的 " 忒修斯 " 相比，这个数字大概是：600000000000000000000000 倍(有 23 个零)。

　　下面这张图显示了过去 80 年里，人工智能训练量的惊人增长。其中，1petaFLOP 等于每秒进行 1 千万亿次的数学运算。如果一台计算机每秒执行 1 次计算，那么 1petaFLOP 需要这台计算机不停计算 3170 万年。

　　普通人象限和行动者象限

　　2015 年，除了 " 波黎多各会议 "，还有两个中年男人吵了一架。

　　想象一下：两个中年男人，在酒足饭饱后，借着醉意谈天说地。偶然间，他们聊到了 AI。一个人说，AI 最终会取代人类，另一个人摇头说：坚决不会!

　　如果你在旁边，可能会觉得无聊——当时蹩脚的 Siri 比现在还蹩脚，取代人类岂不是天方夜谭?

　　但这两个无聊的中年男人，一个是马斯克，一个是拉里 · 佩奇。这两人有一个共同点：手里有亿点钱，而且都比较自负。

　　那场酒局后，马斯克和佩奇几乎反目成仇，并各自走上了不同的道路：马斯克和奥特曼等人创立了 OpenAI，并发誓不能让 AI 掌握在佩奇这样的人手中;佩奇手握谷歌，开启了扫货模式，大举并购大量 AI 公司。

　　两个中年人赌气，却共同推高了 AI 浪潮。这恰如阿西莫夫在《神们自己》中所说：" 历史往往就是由这些讨厌而且毫无目的冲突推动的。"

　　在这波人工智能浪潮中，还随处可见当年 " 波黎多各会议 " 参会者的身影。

　　Skype 联合创始人贾安 · 塔林投资了 Anthropic 等一众 AI 公司。哈萨比斯领导的 Deepmind 团队，被谷歌收购后，搞出来的 AlphaGo 让人类颜面扫地。后来，又帮助谷歌推出了大模型 Gemini ……

　　人工智能发展飞快，讨论人工智能的风险也变得时髦。《名利场》曾报道，一名投资人曾在见完哈萨比斯后说，他应该当场击毙后者，因为这可能是拯救人类的最后机会。

　　然而，说这话时他刚刚投资了 DeepMind。这种危险的诱惑，几乎是这个时代 AI 发展的一个注脚。

　　发现没有?号召保卫人类和加速 AI 发展的，其实是同一批人。虽然马斯克和佩奇反目，但他们做的事情却没有太大差异。

　　如果像马斯克所说，危险真的在路上，那么谁是降临派，谁是拯救派，真的很难分清。

　　是的，你会发现，这些人几乎都混杂在一起。尽管有着相互冲突的观点，却着手做着相似的事情。

　　未来生命研究所的创始人麦克斯 · 泰格马克，根据每个人对 AI 的信念，画了一个坐标系。在这张图里，你也可以看看自己属于哪个阵营：

　　(阴影部分是行动者象限，其余为普通人象限)

　　早在 2017 年泰格马克写书时，相信 AGI(人类水平的 AI)很快到来的人，还几乎没有。但如今，这个阵营里的人越来越多(对应上图中的阴影部分)。正是他们的存在，加速了 AI 的发展。

　　在很长一段时间里，对于 AGI 的到来，人们说还有几百年，或者永远不会到来。但现在，他们说就这几年了。短短两年时间，普通人的认知也发生了极大的改变。

　　(这是一项来自 metaculus 网站的民众投票。数据显示，2022 年时人们预测 AGI 会在 2042 年实现，而 2024 年时这个数据提前至 2027 年)

　　推动事情变化的人，位于 " 行动者象限 "。这个象限里的人，要么掌握技术，要么掌握资本。他们是 AI 时代里的关键少数。

　　从下面这个十分简略的图还可以发现：行动者象限中，掌握资本的人，更倾向于宣扬 AGI 是好事;而掌握技术的人，往往更多谈论威胁，对技术具有更多的敬畏。

　　这些分布在对角线上的人，有些曾经在同一阵营。例如技术大佬辛顿，在谷歌待了 10 年;又如他的学生伊利亚 · 苏茨克维，曾经是 OpenAI 的技术负责人。

　　但后来他们都离开，原因基本一样：在 AI 安全问题上，和老板冲突了。

　　这个象限中，还有一些隐藏起来的人。比如重金投资 AI 的微软和亚马逊，他们的 CEO 们，都不曾公开表达对 AI 威胁的看法。苹果则更加低调，既不炫技，也不张扬。

　　中国的创业者不怎么谈理想、拯救，也不习惯谈论自己的观点，他们更热衷于应用落地和商业变现。

　　但不管观点如何，他们都成为了颠覆者，都在亲手创造 AI 加速时代。尽管未来如此不确定，但不妨碍他们的行动。就像我们回过头来看，" 波黎多各会议 " 反而成了先兆。

　　这符合每一个成功人士的特征——在高度不确定性中追求卓越。而普通人，只能是 " 颠覆 " 这个词的被动形式。

　　方向掌握在少数人手中。

　　注：下文附上行动者象限和普通人象限的简要阐释。当然，这只是一个粗略的划分，例如在普通人象限中，也存在很多科学家和研究者。

　　行动者：抑或技术狂人

　　他们不知道未来是好是坏，却迫切地加速世界的变化。从某种意义上来说，现在许多 AI 的弄潮儿们，都有投机的成分。因为研究者们发明了聪明的 AI，却不知道他们的智慧从何而来。资本家们更管不着这些，迫不及待地推向市场。

　　2016 年，马斯克曾赢了卢德分子奖，他一度以小心谨慎闻名。但去年，他再也按捺不住，加入了这场 AGI 的竞赛之中。

　　代表人物：马斯克、奥特曼(OpenAI)。

　　卢德分子：怪物真会吃人

　　从工业革命以来，卢德分子被精英们认为是愚昧的象征。在这个狂飙的年代里，反抗 AI 更是不合时宜。不过，当代卢德分子手中的大锤，砸不动计算机，更砸不动 AI。

　　许多人，只是用自己微弱的力量抵抗。他们不是先知先觉者，只是守护自己手中的饭碗。

　　代表人物：暂无

　　AI 有益论：工具可好可坏

　　这是一种最主流的观点，也最符合人性——许久以来，人类始终认为技术就是工具，关键在于为我所用。因此，这种观点最受普通人的欢迎。在这群人看来，需要考虑的问题是如何建造对人类有益的人工智能，而非耸人听闻或只顾埋头向前。

　　不过，这种居中的观点，几乎为所有人的观点提供了支撑。尤其是在资本市场，这个故事最讨人欢喜。所以，你会发现一个 AI 有益论者，可以和除卢德份子以外的任何人，站在一起。

　　代表人物：麦克斯 · 泰格马克等一众科学家，他们往往离业界较远。

　　数字乌托邦：未来新世界

　　AGI 到来，那会是智力丰富且廉价的时代。恰如奥特曼所言，数字乌托邦将人工智能描述为新世界的引擎。如果我们让数字智能自由地发展，不是试着阻止或奴役它们，那么，结果一定会是好的。

　　但这多少有些浪费主义的色彩。最近有个新闻说，当奥特曼要用 AI 均贫富时，亲妹妹却无家可归，靠卖身度日。你品，你细品。

　　代表人物：奥特曼、佩奇(谷歌)。

　　怀疑论者：着眼当下

　　这些人认为，担心杀手机器人崛起，不如担心下火星出现人口过剩。现在的技术路径，AI 毁灭人类的概率为零，末世论根本就是无稽之谈。对人工智能风险的担忧，只会引导人们对人工智能充满恶意，从而制约人工智能的发展。

　　代表人物：李飞飞、吴恩达等一众科学家，他们往往离业界较近。

　　当然，除了知道他们相信什么，还要看他们做了什么。这群 "AI 新人 "，这个时代最杰出的大脑，究竟在想什么，又在做什么?

　　来源：观察者时刻