腾讯朱雀大模型检测上线「鉴别工具」可鉴别图片、文章是否由AI生成

　　1月17日，腾讯上线了一款AI生成图片鉴别工具，旨在帮助人们辨别图片是否由AI生成。

　　腾讯混元安全团队的朱雀实验室研发的AI生成图片检测系统，通过上传图片、等待验证，几秒钟就能判断图片是否由AI生成。该系统主要通过捕捉真实图片与AI生图之间的差异来区分，如AI生图有时不符合常识逻辑，会出现带着翅膀飞的小狗、叼着雪茄的猫咪等不符合现实的内容;AI生成图片需要“加水印”，即添加显式或隐式标识，这些标识可能肉眼可见，也可能不明显，需用检测工具读取;AI生成图片还包含一些肉眼不可见的隐层特征，如调整HSV色彩空间后，AI生成的图片会出现局部纹理密集分布的亮点等。

　　鉴别AI生成图片不能仅依靠单一依据，检测系统需利用AI模型捕捉各类特征差异，包括图片的纹理、语义及隐形特征。朱雀实验室使用了140万份正负样本进行模型训练，涵盖多种生成内容场景，最终测试检出率达95%以上，且还在持续优化提升中。朱雀实验室还开发了文本检测系统，通过对海量数据学习实现文本检测，背后也搜集了大量正负样本进行训练，并运用对比方式推断文章的AI生成概率，以增强对未见过数据的检测能力。目前，该系统涵盖了新闻通讯、公文、小说、散文等多样化文体，后续还将对诗歌等体裁进行补强。

　　朱雀实验室开发AI检测工具的初衷是优化混元大模型的训练语料，但随着AI的爆发式增长，学界和业界对“用AI检测AI生成”的需求增多，实验室便开发了AI生成图片检测、AI生成文本检测两款工具，并提供体验服务。