外滩大会首日：生成式AI和大模型成为热议话题

　　9月8日消息，iPhone的诞生开启了移动互联网的黄金15年。大模型的应用突破，也意味着产业变革再次来到了“人工智能”的iPhone时刻。9月7日，2023外滩大会首日，生成式AI和大模型成为热议话题。多位“两院”院士、诺贝尔奖和图灵奖得主等专家学者以及科技领军企业分享了他们在AI领域的观察和思考。

　　生成式AI有望开启万亿美元新赛道

　　今年以来AI热度持续攀升，近半年内全球近百家公司、机构相继发布大语言模型相关产品。国内也正面临着“百模大战”，有数据显示，全国有至少130家公司研究大模型产品，其中做通用大模型的有78家。

　　但专家普遍认为，这一技术带来的产业红利才刚刚开始。麦肯锡中国区主席、全球资深董事合伙人倪以理在外滩现场预测，生成式AI的技术风暴有望开启一场关系到未来8-10年的新一轮技术和产业变革。

　　“AI对全球经济的潜在收益将达到25万亿美元，是当前所有企业最重要的赛道之一，但这个时代刚刚开始。”他举例说道，在高科技行业，该技术每年可以额外创造2400亿至4600亿美元价值;在零售和消费品领域，每年可达2400亿至3900亿美元;在整个银行业，每年可达2000亿至3400亿美元。与此同时，他指出，生成式AI可能大幅促进生产力提升，并提供新的就业机会。

　　金沙江创投主管合伙人张予彤的观察也印证了上述观点。当前生成式人工智能创业与投资爆发，今年上半年投资额已超过去年全年水平。

　　张予彤预测，AIGC在企业的关键职能中将释放巨大价值潜力，影响集中在四个职能：客户运营、营销和销售、软件工程、产品研发。以游戏行业为例，AIGC首先将优化内部效率，随后重塑开发流程并引领游戏玩法创新。

　　蚂蚁集团董事长兼CEO井贤栋引用电影《奥本海默》的一句台词说，“this is not a new weapon.this is a new world”，他认为大模型不只是一个新技术，而是一个新世界，会引发全面的变革。他透露，蚂蚁自研大模型以全栈布局、长线发展为原则，以创造产业价值为目标，将在外滩大会期间发布最新落地进展。

　　高效产业协作是抓住技术变革机遇的关键

　　中国科学院院士、复旦大学副校长张人禾认为，面对“AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布局建设大平台。

　　而产业变革也更急需走向高效协作。但因为很多产业比如跨境贸易从时间和空间上都有很长的链路，产业协作涉及多个参与方，环节众多、流程复杂，很容易因为缺乏信任造成协作不畅。

　　蚂蚁集团资深副总裁、数字科技事业群总裁蒋国飞指出，“信任问题是产业高效协作的最大障碍。”他认为，在物理世界产业供应链的背后，需要用数字科技构建一个围绕数据供应链的协作网络。比如，在数据生成环节，物联网可以实现数据源头可信;在数据流通环节，区块链技术可以进行数据确权，防篡改;隐私计算技术确保数据在流通与融合过程中“可用不可见、可算不可识”;在数据价值的挖掘环节，人工智能技术与场景结合，能够让数据价值释放出巨大潜力。

　　在专家们看来，AI、区块链、隐私计算、数字人民币等新技术、新场景的应用，会在实体领域创造很大价值。北京智源人工智能研究院顾问、美国国家工程院外籍院士张宏江说，AI、区块链和数字人民币的结合，会带来未来更加自动化、更加可信、更加有效的金融服务体系。

　　井贤栋说，隐私计算的突破，能够实现数据价值的交换，而非数据本身去交换，意义极其巨大。蚂蚁在重点投入，希望未来有一天加密计算的成本和效率做到今天的明文计算一样，那个时代会真正迎来数据时代的大爆炸。联合国开发计划署可持续金融中心高级顾问迈克尔·舍伦则指出，新技术的应用，可以促进绿色融资，并降低融资成本，帮助我们创造一个更可持续的世界。

　　应对大模型安全问题需设好“紧箍咒”

　　模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患?中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。

　　何积丰院士认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。

　　“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐(alignment)”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，’对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”

　　不过，对齐技术同样面临挑战。首先，对齐的基础，人类的价值观是多元且动态变化的，需要保证大模型为人服务、与人为善;其次，大模型的有用性与无害性之间目标也不完全一致。如何对错误进行有效纠正，设好大模型的“紧箍咒”也是挑战。

　　因此，对齐技术已经成为了一项令人眼花缭乱的跨学科研究，不仅考验技术，也审视文化。

　　何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出;另一种方式，事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。