• 首页 > 产经新闻频道 > 科技资讯

    微软申请专利以应对 AI “幻觉” 问题

    2024年11月07日 14:51:06   来源:AIbase基地

      近日,微软提交了一项专利申请,旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”,于去年向美国专利商标局(USPTO)递交,并于10月31日公开。

      这一提案的核心是为 AI 模型提供一种 “响应增强系统”(RAS),使其能够根据用户的查询自动提取更多信息,并检查其回答的 “有效性”。

      具体来说,响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息,该系统会将其判定为不够有用。此外,RAS 还可以向用户提示其回答是否存在不足之处,用户也可以对此进行反馈。这一方案的优点在于,不需要开发者或公司对现有模型进行细致的调整。

      目前,USPTO 网站尚未显示该申请的专利编号,这意味着该专利仍在审查之中。我们联系了微软以了解更多信息,包括该专利是否与微软此前宣布的降低 AI 幻觉的工具 ——Azure AI 内容安全工具有关。该工具为企业 AI 聊天机器人提供了 AI 驱动的验证,能够在后台进行事实核查,判断 AI 的回答是否 “无根基” 或 “有根基”,在向用户提供答案之前,只提供有实际数据支持的回答。

      AI 幻觉问题是生成性 AI 面临的最大挑战之一,严重影响了 AI 聊天机器人的可信度。在这方面,谷歌和推特的 AI 系统都曾产生过令人瞩目的错误,例如建议用户将胶水涂在披萨上或食用石头,甚至传播选举虚假信息。苹果公司首席执行官蒂姆・库克也承认,苹果的智能技术同样无法避免幻觉问题。近期,OpenAI 的 “Whisper” 音频转录工具也被发现频繁出现幻觉,令其在美国医院的使用受到关注。

      尽管 AI 幻觉问题突出,科技巨头们对 AI 数据中心的需求依然强烈,包括谷歌、微软和 Meta 在内的公司正考虑将核能作为满足 AI 高能耗需求的潜在解决方案。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。