OpenAI 的联合创始人 John Schulman 近在 Dwarkesh Patel 的播客节目中分享了他对 GPT-4性能的见解,并提到了由于有限的练数据而可能面临的挑战。Schulman 在2022年11月 ChatGPT 的推出中扮演了重要角色。
被问及人工智能社区是否接近 “数据壁垒”,即记忆大量预训练数据的好处可能不会导致比 PT-4更智能的模型时,Schulman 承认在这方面确实存在一些挑战,但 OpenAI 和公司将不得不改变他们的训练方法以克服这些挑战。
他说:“由于有限的数据量,确实一些挑战,但我不指望我们会立即碰到数据壁垒。然而,随着我们接近数据壁垒,我计预训练的性质会有所改变。”
Schulman 还讨论了在不同类型的预训练数据上的泛化挑战如代码和语言推理,以及特定训练数据解锁的能力可能存在的限制。
他还表示,与 GPT - 等之前的模型相比,像 GPT-4这样的更大型号的模型更具 “样本效率”- 这意着这些更大的模型可以使用更少的数据进行训练达到相同水平的智能。
虽然他没有这里的扩展规律给出一个合理的解释,但他指出,增加的处理能力最终是这个结果的原。
Sam Altman 也表达了对人工通用智能(AGI)发展的强烈承诺,无论财务成本何。他对 AI 驱动的 iPhone 的愿景与公司对 AI 发展的雄心勃勃目标一致。
OpenAI 的创始人 John Schulman 对 GPT-4性能进行了评估,并指出其面临的挑战。同时,OpenAI 的 CEO Sam Altman 对公司的人工智能模型未的发展也表达了雄心勃勃的愿景,致力于实现人工通用智能(AGI)的目标。
文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。
近日,京东3C数码联合《黑神话:悟空》发起“天命人向西游”活动,打开京东APP搜“天命人”进入活动页面,根据“天命人向西游”地图打卡山西景点即可一元抢万件联名好礼。
近日,中国家电及消费电子博览会(AWE 2024)隆重开幕。全球领先的智能终端企业TCL实业携多款创新技术和新品亮相,以敢为精神勇闯技术无人区,斩获四项AWE 2024艾普兰大奖。
“以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。
由世界人工智能大会组委会、上海市经信委、徐汇区政府、临港新片区管委会共同指导,由上海市人工智能行业协会联合上海人工智能实验室、上海临港经济发展(集团)有限公司、开放原子开源基金会主办的“2024全球开发者先锋大会”,将于2024年3月23日至24日举办。