小心虚假快递取件码 抖音提醒仿冒客服的诈骗手法又更新了微软发布 Win11 Beta 26120.3671 预览版:开放测试快速机器恢复功能英特尔发布 6732 驱动:《使命召唤:黑色行动 6》游戏平均帧率提升 15%因人流太少,雷蛇永久关闭旧金山市中心商店2025 清明节电影票房破亿,《哪吒之魔童闹海》仍位列前三又一条时速 350 公里高铁即将上线,沿江高铁武汉至宜昌段启动静态验收微软宣布对部分本地服务器部署的产品涨价 10%,7 月生效擎朗医疗物流机器人的“智慧眼”家电行业营收增长9.9%,以旧换新助力家电行业逆势回暖技嘉Z890钛雕主板以DDR5-12762MHz登顶内存超频之巅 重写性能天花板LightCounting:AI驱动未来5年DWDM模块销售增长日本先进光刻机保有量上升,ASML 计划将驻日维护团队规模扩大至 5 倍Rapidus 社长小池淳义:计划 7 月中下旬向客户提供首批芯片原型拼多多联席CEO谈干亿扶持:是未来能否开创新局面关键所在微软 Win10 / Win11 原生版 Copilot 应用上线:支持 OpenAI o3 AI 推理模型消息称荣耀已设立新产业孵化部,招聘具身智能机器人等方向人才AMD官方回应锐龙9000 CPU无法点亮:内存兼容性所致我国前两月智能手机产量1.62亿台,同比下降6.8%字节跳动在Hugging Face发布MegaTTS3:轻量化语音合成新突破Hugging Face 新增实用功能:一键查看电脑可运行模型
  • 首页 > 企业IT频道 > 人工智能

    图解世界互联网大会黑科技:人工智能如何鉴黄?

    2017年12月05日 14:29:28   来源:中国网

      12月3日-5日,第四届世界互联网大会在乌镇召开。这两天,除了大佬们的饭局,“黑科技”也成为这届世界互联网大会备受关注的焦点,乌镇街黑科技体验馆展出了VR、AR、人工智能、翻译蛋、机器人等多领域的高科技产品。同时,网易云作为唯一的云计算产品参展,展示了其在云计算、大数据领域的“黑科技”:专属云、超级容器、人工智能在内容安全和智能客服领域的应用、大数据可视化分析工具等。

      以人工智能在内容安全领域的鉴黄应用为例,我们看网易云是如何研发和解决具体问题的。

      从人工到智能,互联网鉴黄历经三个发展阶段

      从人工到机器,再到智能是很多工作或者产业历经的发展阶段,连“鉴黄”也不例外。在十余年前,互联网刚起步的时候,UGC内容还不够多,当时识别黄图的做法简单粗暴:人工查删。“别小看了这个方法,其实针对当时的网络环境(带宽小,产品少,图片数据也少),效果还是很不错的。一天几万的图片量,安排几个人肉眼盯着看,发现有不良的图片人工删掉就好了”,网易云安全(易盾)CTO朱浩齐说。

      此后,随着互联网的快速发展,互联网产品普及率大大提升,网络数据量暴增,一个产品一天出现几百万的图片量实属常见,靠堆人力完成内容审核已经难以为继。“再说,互联网产品也支撑不起几百上千审核人员的成本。幸好相应的计算机视觉技术也有进步了,我们用肤色识别算法过滤掉大部分‘黄色’内容的图片,剩下的再进入到人工审核,可以大大节约审核量”,朱浩齐说。据统计,经过机器肤色识别过滤后大约只有20%的图片还需要人工审核。

      不过,移动互联网时代又提出了新的挑战:各种类型的网络数据量再次暴增,人工审核连20%的数据量也无法承受了,加上视频、直播等业务和数据的爆发式增长,互联网界迫切需要一个更加有效的方案来解决审核的问题。可喜的是,人工智能深度学习技术在这个阶段也有了长足的进步。

      “我们紧跟人工智能的技术热潮,很早开始了研发机器学习的鉴黄系统,并且取得了显著成果”,网易云安全CTO朱浩齐表示。目前,网易云安全(易盾)已经面向企业市场,每天会为中国的互联网过滤1亿条左右的有害信息。

      人工智能鉴黄的三步:定义、学习、建模

      “辨别一张图是不是黄图,从机器学习的角度看,本质上是一个分类问题:给定一张图片,让机器判断是不是黄图”,朱浩齐介绍,技术层面要做的就是研发一个“分类器”,让它根据输入的图片计算出该图片属于“黄图”类别的概率,然后再根据这个概率值输出一个“是”或者“否”的结果。

      众所周知,电脑擅长的是数学运算,所以黄图“分类器”需要先抽象成某种数学模型,这样才有可能用电脑来运算。“为了方便理解,我们把数学模型定义为:y=f(x)。即给定图片x,我们要找到一个函数f,通过计算f(x)可以得到这个图片的黄图概率y”,朱浩齐说,这看上去非常简单,但既然要教机器分类,还需要有明确的分类标准,就是给“黄图”下个准确的定义。

      “这个过程是非常复杂的,因为黄图并不是简单的露点就是黄图了,还包括不露点的色情、以及低俗图片,另外还要排除雕塑、艺术作品等”,据朱浩齐介绍,有了定义之后,下一步就是根据定义来收集样本数据。“幸好网易在20年的发展中,多领域的产品线通过审核工作积累了大量的图片数据,我们从里面筛选出部分图片作为训练的数据”,这个工作消耗了大量的时间和人力成本,并且还一直在持续进行中。

      图片训练的目的就是为了得到数学模型y=f(x)中的f,技术上称之为特征提取。近些年来,基于深度学习的神经网络模型在各种图像识别的比赛中获得了突破性的进展。网易云安全(易盾)同样选用了CNN(卷积神经网络)、GoogLeNet、ResNet(残差网络)三种深度网络模型结构作为研究的基础。通过这些模型,可以更加高效地把图片数据转变成了可以运算的数学模型,以便更快更好地得到f。

      “我们经过不断迭代和算法调参,得到了越来越精准的f(模型),在验证图集上也达到了99.9%以上的准确率,并且我们的技术仍在进化”,朱浩齐说。目前,除了智能鉴黄,网易云安全(易盾)同时开放有广告过滤、暴恐识别、谣言检测等内容安全服务,验证码、营销反作弊、应用加固等业务安全服务,以及DDoS 防护、SSL 证书管理等网络安全服务。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    2025医药数智营销创新峰会圆满落幕!

    由上海医药商业行业协会、上海士研咨询主办,合规专业人士协会(ACCP)支持,微博健康、新浪医药战略合作举办的2025医药数智营销创新峰会于2025年3月27日-28日,在上海盛大召开并圆满结束。

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。