10亿短视频用户背后的隐秘「战事」

　　短视频正成为人类世界最流行、最普及的精神产品之一。短短两三年时间，抖音为代表的短视频平台成为最能聚焦国民眼球、最具成长性的互联网内容生产模式。

　　鲜花之后必有荆棘，不少投机者瞄准了这块蛋糕，试图通过钻空子、打擦边球的方式获取不当利益。对抖音等短视频平台而言，自创建以来就全力推动的平台治理再次面临挑战——这场反黑灰产战事已经进入中场。

　　这是一场前所未有的非虚拟战争。原因在于，短视频平台要面对的各类黑产与违法违规内容看似是一个个线上账号，其背后的灰色利益链条却深藏线下，人员覆盖“庄家”、黑客、“营销人员”等，且跨平台化发展趋势日益突出。

　　与“影子”的战争刚刚开始，或许在很长时间里不会有终点。然而，抖音们必须全力以赴。

　　1、10亿短视频用户背后的“妖魔鬼怪”

　　随着短视频行业的火爆，抖音、快手以及其他短视频产品的用户已经超过10亿之多，其中仅抖音一家日活就达到6亿，使用时长30分钟以上用户占比35%。

　　繁荣的短视频平台10亿用户的背后，隐藏着奇形怪状的各色妖魔鬼怪：各种黑灰产、色情、诈骗等违法违规内容层出不穷。

　　我们常见的，有些主播为了所谓的高人气和相应收益，与非法刷量机构共谋，刷粉、刷直播带货量，也有人以冒充名人等方式进行诈骗，也有人发布性暗示内容进行色情导流。

　　近期网络热传的“假靳东”故事让人五味杂陈的故事，正是骗子利用部分女性在人生某个阶段出现情感空白、内心孤独感滋生等软肋，从而蓄意诈骗的典型案例。

　　作为短视频平台的领先者，用户规模最大的抖音，更成为不法者眼中的丰盛蛋糕。根据媒体调查，一个粉丝数达137万的抖音号，售价高达8万元;5万粉丝+5万个赞+5万次分享+5000评论+100万播放量，售价5800元;抖音音乐人认证298元，企业认证700元……

　　这些几元至万元不等的刷粉、刷赞、卖号生意，其实早已悄悄地布满了所有网络搜索通道。棘手的是，这些妖魔鬼怪随时都在变形，从最早的电话诈骗，到利用社交网络、电商平台诈骗，可谓“与时俱进”。

　　而现在，伴随短视频平台的火爆，它们也将生意做到了这里。由此，短视频平台与妖魔鬼怪的对抗成为常态。

　　为了应对时不时冒出来骚扰用户的“妖魔鬼怪”，平台也需要从各个角度去做防御。例如，抖音就从用户侧出发，针对用户功能场景建设防御措施，比如在用户的搜索场景中，通过搜索干预，对疑似高危账号进行屏蔽处理，同时对用户展示提醒文案，提醒用户注意识别，防止造成损失。

　　每一个问题视频，事件双方都处于不同的场景、关联不同的人群、对应不同的风险点。以未成年人为例，相比成年人用户，孩子们更加缺乏辨识能力、自我保护能力乃至举报能力。对此，抖音在运营侧会针对可能对青少年造成误导的内容，提供模型策略，让其与青少年群体进行隔离。

　　10亿短视频用户，场景不同，圈层不同，相同的是，他们都必须受到平台的保护。

　　2、与“影子”的较量

　　对短视频平台来说，各色妖魔鬼怪就像影子一样，看到却摸不着，如影随形摆脱不了。

　　一方面，与传统打黑除恶相比，黑灰产在平台上似乎可以看到，但实物并不在那里，打击难度大。比如线下打击色情场所，表面上是一个页面上、一个弹窗，但背后发布引流信息的团伙却在不断更换账号，发布的内容也在不断变动。

　　另一方面，有阳光的地方就有阴影，黑灰产自互联网诞生之初就存在，随着互联网的繁荣，黑灰产也遍布各个行业、各类产品。某互联网巨头的安全业务负责人曾向媒体表示，金融、电商、社交、直播、出行、游戏等行业都容易遭遇互联网黑灰产。

　　根据世界经济论坛发布的《2020年全球风险报告》，数据欺诈或被盗、网络攻击是可能发生的全球前十大风险，到2021年，互联网黑灰产将给全球造成高达6万亿美元的损失。

　　反黑灰产以及平台治理，一直以来都是互联网行业的重点任务，是一项需要各大巨头们关注的、复杂而长期的系统工程。中外的互联网巨头，很多同时也是互联网反黑灰产巨头，比如微软、亚马逊、阿里、腾讯、百度、抖音。

　　由于自身的行业特性——与文字、图片等不同，视频问题的发现难度大——短视频行业的平台治理更为复杂。为了用更好的方式打击“阴影”，抖音摸索出了从发现问题、处理问题到规避问题的一整套治理工作链条，其中尤其注重前期的发现问题。

　　为此，抖音成立了安全中心，下设安全风险巡查团队，负责每日的站内巡查和清理。这支队伍有些像影视中的网络特战队，只是他们的武器不是枪炮，而是算法、程序、技术拦截。

　　这场“虚拟战争”同时也是一场“群众战争”，每天数以千万级的短视频审核，仅依靠专业团队还远远不够。因此，用户充当了“斥候”的角色，通过站内举报、邮箱举报、电话举报、啄木鸟小程序等举报与投诉机制，成为第一时间发现“阴影”的吹哨者。

　　这是一场对“阴影”的全方位打击，人之外，技术也必不可少。底层，抖音以技术所形成的帐号模型和内容模型为基础，快速筛选及识别，最短时间内解决大量疑似问题内容的“真伪验证”。

　　“假靳东”事件后，抖音制定了应急方案，短期内对靳东相关账号进行速清，清查了5000+疑似靳东仿冒账号。截至10月底，完成下架话题143个，并处理了问题存量视频195万个。

　　战斗，每天都在发生。战斗之余，抖音会对每次遇到的问题进行复盘，因此，抖音平台治理的各项细化功能会经常迭代，在发现、处理问题的基础上规避问题。

　　“假靳东”事件之前，抖音安全中心已经开始对仿冒名人的问题进行研究总结，在上半年，抖音安全中心上线了针对仿冒明星的识别模型;随着7、8月监测到明星直播下仿冒名人账号突增，抖音安全中心又搭建了专门的审核机制、标准和流程，研发上线了新的风控策略模型。

　　对抗中，其上线了大V认证，后台上线了针对仿冒明星客服的模型策略，在私信功能侧上线了黑灰产私信语义模型、私信举报策略等。

　　最终，它做到了对仿冒明星客服类黑灰产账号的实时打击，尤其是在知名明星直播的过程中。有一次，在陈赫直播时监测到有黑产团伙试图冒充客服账号进行诈骗，抖音对其进行了实时处理，甚至误杀了陈赫本人的账号。

　　当阴影无处不在，唯一的应对方式就是治理无时不在, 无处不在，哪怕是跨平台——抖音平台治理团队所遵循的就是这一原则。

　　3、平台治理的下半场

　　随着短视频行业规模不断扩大，违法者为了利益最大化，也在不断武装自身。在治理过程中，抖音平台治理团队发现，越来越多的挑战扑面而来。

　　一方面是技术演进，比如黑产团伙利用群控系统，可以同时进行大规模批量作恶，由于使用的是和正常人一样的真实设备，平台识别难度大大增加。

　　另一方面则是跨平台特点明显。跨平台的违法违规行为越来越多，比如色情导流，黑产团伙大批量购买短视频平台的账号，然后发布带有性暗示的信息视频、评论，将用户引流到微信、QQ等第三方平台，给黄色网站导流，或者贩卖色情视频，或者招嫖。

　　与此同时，黑灰产业规模壮大，产业链上下分工更加细化。在最新的黑灰产业团伙作案现象中，最上游成员负责提供黑产情报，比如哪家平台又发了新的优惠券，哪个平台又做了拉新活动，哪个平台的审核规则变化可以钻空子。他们情报的来源包括QQ/微信、电报群、羊毛线报论坛、暗网以及一些技术博客等。

　　黑产团队中的中上游成员，则负责提供基础的资源，比如代理IP、卡池、接码平台。其中，代理IP可以用来注册账号使用，因为如果一直是同一个IP注册，平台就容易封杀;接码平台用来手机注册时收取验证码。

　　此外，中游成员负责提供作案工具，比如秒杀的工具、注册机、刷粉软件等;下游成员负责变现渠道，进行红包提现、代下单、账号倒卖、刷粉服务售卖、黄牛倒卖等。

　　这意味着，包括抖音在内的短视频平台治理进入了更复杂、更多变的下半场。

　　技术是典型的双刃剑，抖音平台治理团队在不断推动治理技术的优化与完善，而黑灰产团伙也凭借自身的资源，将各类黑客所研发的“新技术”快速应用，这造成了抖音与黑灰产对抗的升级。

　　新的对抗困难点也随之出现，比如信息不对称，在被攻击之前，平台不知道黑产会通过何种手段进攻。抖音平台治理团队给出的答案是持续研发新技术，目前其运用移动安全、大数据分析、人工智能等技术构建了立体的防御体系，帮助平台进行全面、多维度的风险识别。

　　被动式防御永远不如主动式防御。抖音平台治理团队在新困难点下展开了更专业的攻防，比如进行安全运营与风控研究，主动了解灰黑产是如何攻击的。

　　如同正规军队需要不断通过演习来检验实战能力，抖音安全中心内部组建了攻防团队，模拟黑产对业务进行攻击，并对作恶路径进行复现研究，用于发现潜在的攻击威胁。在这个阶段中，抖音安全中心经历了作弊者从机器到真人的演化，也研究了相关的防御手段。

　　由此，抖音平台治理团队每天都在同时进行两场“战斗”，一场是对外的，应对真实的黑灰产团伙；一场是对内的，是攻防团队的常态化模拟演练，其激烈程度丝毫不亚于对外攻防。

　　然而，抖音平台治理团队仍面临越来越大的压力，黑灰产等团伙的跨平台作案趋势日趋明显，这不仅加剧了抖音单个平台的治理难度，也给整个互联网的安全治理带来了更大的隐患。

　　抖音平台治理团队成员的最大感受，是希望未来能持续强化跨平台联动治理。首先希望企业与企业的黑灰产大数据联动，提升发现问题的效率和打击效果，同时可以早一步处理在其他平台上的诈骗行为。

　　平台治理的价值核心是技术，抖音平台治理团队认为，未来能否探索风控模型的联合建设是技术驱动下进行平台治理的关键：基于黑灰产大数据的联动，多平台在风控模型的建设上进一步实现联合建模，提供给行业使用，提升处理问题的效率。

　　除了平台与技术的协同，抖音平台治理团队还希望能强化平台与公安等执法机关的联动打击，从而做到“线上溯源、线下查处”，每发现一起黑灰产案件线索，就能将其团伙连锅端。

　　在抖音平台治理团队看来，短视频行业的任何一个问题都不是单个平台的问题，而是行业和社会共同面临的问题，这就要求举全行业、全社会之力来实现资源共享、协同共治。

　　4、结语

　　跨平台治理、企业与执法机关常态化联动，这或许是一项难度更大的命题，但抖音平台治理团队对此充满信心：“无论是抖音还是其他短视频平台，抖音平台治理所面临的问题有一部分是老问题，有一部分是新问题，而抖音相信，技术与人的融合，能够更加有效地应对这一全新课题。”

　　技术是武器，人是战士，只有动员起所有能动员的资源转化为武器和战士，社会才能真正打赢针对线上黑灰产的这一仗。抖音与万千妖魔鬼怪和“影子”的攻防，不只是一家平台的战斗，也是其它平台以及整个社会战斗的一环。唯有协同发力，才能推动这场涉及全民、全社会的战役向纵深挺进。