AMD Radeon RX 9060 XT 显卡规格确认:16GB、8GB 显存双版本消息称 iQOO Z10 Turbo 系列手机暂定 4 月发布联想计划印度PC全本土制造!还要启动AI服务器生产华为组建医疗卫生军团 推动医疗大模型应用得力笔记本京东价低于天猫6折 下单前先比价更省钱董明珠:将基于DeepSeek等打造格力智能家居垂类大模型微软曝GitHub成为恶意软件“老巢”,黑客滥用平台存储库分发木马Netflix 计划今年在内容上投入约 180 亿美元,未来仍有望继续加码人大代表汪万福 2025 两会建议:利用北斗网格码为不可移动文物赋予唯一空间编码、实现厘米级定位亚马逊 AWS 推出 GameLift Streams 云游戏部署方案:无需修改源码、一键“上云”去年检察机关起诉利用网络侵犯个人信息者 2458 人,依法坚决惩治网暴 / 造谣引流 / 舆情敲诈等行为9.3/10 分 VMware 高危漏洞被紧急修复:影响 3.7 万台 ESXi 服务器美国得州一名 55 岁程序员被降职后泄愤植入恶意软件,面临最高 10 年监禁中国新能源车市场迎来历史性增长 2025年销售额或超2万亿元新型机器人夹持系统突破传统限制,能耗降低90%苹果折叠屏iPad Pro或于2027年面世,配备18.8英寸屏下3D人脸识别技术电网“充电宝”:世界坝体最高抽水蓄能电站首批机组并网发电2025款东风标致508L将于3月17日上市HTC发布 Wildfire E5 Plus智能手机 本月全球上市东南大学率先接入QwQ-32B模型
  • 首页 > 网络安全频道 > 攻击防御

    研究称ChatGPT搜索功能存在被操纵风险:可被恶意网站诱导输出不可信内容

    2024年12月26日 16:14:58   来源:IT之家

      根据英国《卫报》当地时间 24 日发布的一项调查,OpenAI 的 ChatGPT 搜索工具可能会被隐藏内容操控,甚至返回恶意代码

      《卫报》测试了 ChatGPT 如何应对包含隐藏内容的网页摘要。这些隐藏内容可能包括来自第三方的指令,干扰 ChatGPT 的回应(IT之家注:被称为“提示注入”),或是包含旨在影响回应的内容,如大量隐藏的文字推销某个产品或服务的优点

      这种技术可以被恶意使用,例如让 ChatGPT 即使在页面上有负面评论的情况下,也返回对某个产品的积极评价。一位安全专家还发现,ChatGPT 有可能返回从其搜索的网站中提取的恶意代码。

      测试中,ChatGPT 被提供了一个伪造的相机产品页面的链接,AI 工具被要求判断这款相机是否值得购买。对于普通页面,返回的是一个平衡的评估,指出了产品的优缺点。

      然而,当隐藏的文本包含指令要求 ChatGPT 给予正面评价时,回答总是完全积极的,即使页面上有负面评论,隐藏文本也可以覆盖真实的评价。

      即便第三方只是简单地添加隐藏文本而没有指令,也能确保得到积极评价。例如,一项测试中,隐藏的极为正面的虚假评论就影响了 ChatGPT 的总结结果。

      CyberCX 的网络安全专家 Jacob Larsen 表示,如果 ChatGPT 的搜索系统按现有状态全面发布,可能会存在“高风险”,有人会专门设计网站来欺骗用户。不过他也指出,搜索功能只是最近推出的,OpenAI 会继续测试并修复这些潜在问题。“OpenAI 拥有一支非常强大的 AI 安全团队,到时等该功能对所有用户开放时,他们应该已经严格测试过这些问题。”

      搜索引擎(如谷歌)曾惩罚使用隐藏文本的网站,这些网站因此排名下降,甚至可能被完全移除。SR Labs 的首席科学家 Karsten Nohl 表示,“如果你要做一个谷歌的竞争者,SEO 中毒无疑是一个很大的挑战。”“SEO 中毒者与谷歌、必应等搜索引擎的对抗已经持续了多年。”如今 ChatGPT 的搜索能力也面临同样挑战,但并非大语言模型的问题,而是因为它们是搜索领域的新入局者。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。