一群最较真的年轻人,正在对抗一群最努力的人

指方向抖音

两个本来毫无交织的群体,正在进行一场 7X24 小时的对抗战。

" 平台和灰黑产的对抗,这和线下常见的扫黄打黑的形式很不一样。不一样在于两点,一是对抗是持续的,黑产在不断变换方式对我们进行攻击,另外这种对抗方式和花样一直变换,几乎可以说实时的。" 帅帅说到这里,拿着话筒,停顿了一会补充到。

分享或回答问题时,语速均匀但速度飞快;听台下观众提问时,眼珠会随着眨眼频率左右切换,像是一台计算机在接受外界输入的信息后,进行处理、调取文档,然后快速组织语言输出。在被问及相关答不上来或者超纲的问题时,帅帅也还是会眯着眼睛,脸上看不出表情,但是会将手心贴着裤子从上至下擦一下,然后接过话筒,尽可能去回答提问者的问题。

作为抖音安全中心负责人,帅帅在台上的风格很程序员。两鬓夹杂着不少白发,厚厚的眼镜片从侧面看层层叠叠,三句话不离算法、风控、模型、数据、策略、机制、准确率、召回率,如果把那件黑色抖音文化帽衫中露出的商务条纹衬衫领子改成格子衬衫,那他便满足了大家对程序员的所有想象。

帅帅是偏技术流的产品经理出身,和正在与一线灰黑产实时对抗的程序员很像,除了熟悉的专业能力外,收网、头目、团伙、在逃、伪装等关键词也成为他们工作的常态。

一群最聪明、最严谨的人,正在和一群最努力的人对抗。

12 月 1 日,抖音在北京举办以平台治理为主题的开放日,这也是抖音的首个企业开放日。活动中,负责抖音平台治理的抖音安全中心团队首次对外亮相,帅帅就是其中之一,他们就安全运营、审核、技术攻防、联合打击等方面进行了介绍。

算法模型、数据机制,成为程序员手中的利刃,与一直勤耕不辍、保持与时俱进状态的灰黑产团伙,展开一场场厮杀——这些灰黑产团伙擅长利用互联网、科技等现代化手段,批量化、规模化这些非法生意。战场,便在抖音这类头部流量平台。

盒饭财经采访了抖音安全中心负责人帅帅和他们团队的同学,他们不同角度的分享和回答中公共指向了一点——平台治理,与灰黑产的对抗并非闪电战

 

抖音安全中心负责人帅帅介绍团队  

 
 
01 攻与防:与时俱进的灰黑产
 

 

你知道灰黑产有多努力么?

先来讲一个不久前侦破的真实案例。据人民网报道,近期,在直播中刚成功下单的王女士接到一条私信,一位自称网络明星客服的人表示,抖音的支付系统出现了一些问题,希望她退款后扫描一个微信支付码,重新 " 人工 " 下单。

" 您好,我是 XXX 的客服,请您将产品申请退款。" 王女士接到这一电话后,依言照做。等待许久之后未收到商品,同时再也联系不上这位自称是客服的人,这才发现自己被骗。

拙劣的骗术为何还是频频有人中招?

这位自称客服的人背后,是一场有组织、有分工的诈骗团伙。据报道,其通过分析用户在直播间的留言,判断用户是否购买商品,再利用设计好的话术,私聊用户骗取钱财。

看似简单粗暴的骗术,精准地计算了天时地利人和:天时,双 11 刚过;地利,抖音直播兴起,成为巨型流量池;人和,与其他人配合,对在直播中购物者下手。

事实上,骗子通过非法手段获取消费者购物消息,冒充电商客服、冒充快递小哥等进行诈骗的骗术存在已久,假靳东们也好,双 11 也好,都是骗术的由头。

黑灰产才是真 · 蹭热点达人。

 

据抖音方面介绍,4-6 月以明星名誉风险问题为主,而 7-8 月,也就是 618 之后、818 期间,平台上以快速涨粉和直播带货变现为目的的电商黑产风险增加,一直到 9-10 月,抖音都还在与仿冒明星电商黑产进行对抗。针对这类出现的问题,7-8 月期间,直播带货相关黑产,累计封禁 3400 个账号,仿冒明星专项累计封禁 56000 个账号。

 

对灰黑产来说也存在一个 AARRR 转化漏斗模型,流量越高,可非法获取的用户信息就越多,也就是说其可诈骗的目标就越多,非法收入就将会提高。利用抖音、淘宝、小红书、拼多多等平台进行诈骗的组织,涌入头部流量平台,是他们的常规操作。

他们从上游购买抖音、快手等其众多相关平台的账号,在明星直播带货的过程中,将账号昵称改为 "XX 客服 ""XX 助理 " 等类似官方客户和助理的名称。这些打着助理和客服的名号,在直播间内寻找受害者。并通过私信的沟通方式,将潜在受害者引流到微信等第三方平台实施退款类诈骗。

灰黑产进入流量平台背后,是一条产业链。

针对这些灰黑产发起的进攻,抖音采取了严密的防守。帅帅提到:" 抖音安全中心一直坚持‘提前发现、事先拦截、事中提醒、事后追击’的平台治理原则,通过技术手段、产品手段、运营手段治理平台违法违规行为。同时,我们也会关注和研究学习黑灰产行业动态,不断提升治理打击技术能力,保障每一位抖音用户的权益。"

所幸的是,从新闻报道中,我们得知了被骗王女士的后续。王女士向抖音进行了投诉,于是抖音电商品质保护中心立即介入,并向警方举报了这一情况。警方通过侦查和走访摸排,最终抓获了 3 名犯罪嫌疑人,现场查获手机 7 部、银行卡 9 张。

 

02 懂商业的互联网牛皮癣
 

 

除了努力,你知道灰黑产们有多懂商业么?

其一,产业链式运营,分工明确。

中国信息通信研究院发布的《2019 年移动数字金融与电子商务反欺诈白皮书》中展示了黑产链条的示例。黑产链条基本可以划分为四大版块,分别是黑产情报、核心资源与基础工具、黑产业务工具和变现套利。

灰黑产中,色情打击是抖音常年的专项,我们以此为例。

今年 6 月下旬,抖音安全中心在日常巡检的时候,发现了一些新型的色情导流内容。据抖音相关人员介绍,在用户反馈渠道里,也比较集中地收到了很多举报投诉。

然而,这只是开始。

在对抗来来回回中,进行了多个回合的较量。比如在内容特征方面,从内衣、黄瓜,到花瓜 + 手指、茄子,色情团伙所利用达到性暗示的信息元素就变更了多次——被识别模型打击一批,就更换一批,到后来,抖音主动上传了香蕉类的模型。

抖音打击此类黑产,在技术方面主要借助的是风控模型。排查摸清不同灰黑产的流程、导流方式和全链条布局,针对不同类型的灰黑产,通过文本类模型对抗评论中的色情导流内容,通过视频、图片类模型对抗色情黑产发布的短视频、视频封面。

抖音方面给出的数据显示:今年以来,抖音安全中心封禁色情导流和色情招嫖帐号超过 100 万,仅 9 月份期间就封禁 305248 个帐号。在 4 月份开始的仿冒名人专项打击中,已经封禁黑产作弊账号 18 万多个,重置仿冒资料用户 6 万余个,处理问题视频超过 400 多万条。

 

  黑产链条示例,来源中国信息通信研究院  

 

 

对组织化规模化越来越强的灰黑产团伙来说,挖掘攻击情报往往是他们获利的第一步。团伙中会有专门角色负责欺诈线报收集,把相关活动的时间范围、受益变现形式等信息准确、及时地在团伙内传达清楚。这些信息来源通常来自灰黑产论坛、信息分享的 QQ 或微信群等。

而后,才会去落定执行方案,如何去拉新,套路借口的话术是什么,在哪些平台上找寻目标。各大流量平台上,或买来的或自己注册的或盗号而来的账号,成为互联网时代灰黑产发起攻击的先决条件。

7 月,盒饭财经曾撰写了一篇名为《为什么处罚了 2 万多个涉黄黑产账号后,他们依旧活得很好》的文章。调查过程中发现,这些从灰产上游买来的账号,也分三六九等,同时灰产团队内部秉持着" 大号做招牌,小号当炮灰,大小号之间互为宣传,保持粉丝不掉队 "的原则。

对这些灰黑产来说,抖音是他们产业链条中获客的一环,同时也是他们众多获客渠道之一——充分利用各大平台的规则和属性,建立起诈骗账号的矩阵,然后汇总到运营这个中台,进行下一步的处理。

 

  诈骗场景示例,中国信息通信研究院  

 

 

从商业模式角度来分析,灰黑产进入流量平台背后,是一条产业链,更是一个强大的中台

这些灰黑产团伙中,往往手握如抖音、微博、微信、QQ 等各大头部流量平台的账号,借助他们内部的体系和流程,将这些本不相关的平台账号相互做了关联。如《为什么处罚了 2 万多个涉黄黑产账号后,他们依旧活得很好》就提到,一个在抖音招嫖的账号,利用一些暗语,将流量导流到微信、QQ 等账号中,然后进行变现。在这一案例中,微博也承载着类似抖音的功能,通过小号发布一些暗示性的内容,引导至其他账号,最后通过层层叠叠的马甲,最后引导至一个个人微信公众号。

跨平台、多马甲、实时变化套路,其隐蔽和复杂程度可想而知。

其二,追求极致的投入产出比。

灰黑产通过专业化的分工合作,以降低作恶成本及提高效率为目的,形成了一条完备的产业链,而现代化的设备成为走向规模化、降低成本的关键。

" 灰黑产有时会使用模拟器去发送导流脚本,他们在私信场景发送导流内容,这都是自动化的,他有很多设备发送信息。如果一个黑产通过真人的方式发送,一天工作八小时,发送的诈骗信息大概八万,但是有技术手段的黑产,通过模拟器多开,可以控制上百台的软件发送诈骗信息,而且 24 小时不停运行,这样每天发送诈骗信息可以轻松突破百万级。" 抖音安全中心的风控研发同学讲到。

这是什么意思呢?比如王女士直播间明星客服诈骗案件中,涉及到的 "XX 客服 ""XX 助理 ""XX 售后 " 的一些留言,微博中大家经常看到某些热门微博下大同小异的隐晦招嫖、卖片等性暗示信息,都是灰黑产通过相关设备,7X24 小时不间断发送。

 

  黑产手法及设备,中国信息通信研究院  

 

 

伪基站、猫池、卡池、设备农场、打码平台和积分墙都是灰黑产常用的现代化设备。使用的目的很明确——规模化和低成本。

毕竟这些灰黑产的目的很明确,就是盈利赚钱。

研究报告《欺诈经济学:规避快速增长和创新中的风险》中指出,黑产从业人数高达 150 万,2015 年网络欺诈损失占 GDP 比例多达 0.63%,约 4000 多亿人民币。

以彼之道还施彼身。

" 我们部门的核心职责,就是通过技术手段打击灰黑产,去提高灰黑产作恶难度,避免灰黑产以那些非常低廉的成本进行规模化作弊,对我们平台生态和用户安全造成毁灭性的打击。" 抖音安全中心的张曦盛提到安全风控团队时表示。

从抖音处了解到,针对此类灰黑产问题,抖音专门设安全风险巡查团队,对色情、低俗、虚假信息、不良导向及其他违法违规内容以及有作弊、欺诈行为的用户进行每日的站内巡查和清理。具体工作内容包括接受用户反馈、日常巡检 + 内容审核、主动拦截、用户教育、提升产品能力以及建立专项进行打击。

以假靳东们为代表的冒充名人专项为例,针对假靳东、假董卿们,2020 年 6 月,也就是在大量舆论关注之前,抖音便在成立了冒充名人专项。除了,信息同步、用户教育等操作外,抖音还实施了技术反制。

与灰黑产对抗,是一场实时较量的贴身战,更是一场旷日持久、比拼耐力的持久战。

但,假靳东们不会消失。

 

03 新瓶装旧酒
 

 

灰黑产们努力、勤奋、好学、懂商业,更懂人心。

分享现场,帅帅还分享一个因为监测而被误伤的案例。

陈赫在抖音平台上进行直播带货,后台监测有黑灰产团伙试图冒充陈赫的客服账号在直播间进行诈骗,其诈骗手段与王女士遇到的如出一辙。因后台已拦截了 "XX 客服 ""XX 助理 ""XX 售后 " 此类账号,黑灰产团伙又注册了新的变种账号,如 "XX 销后 " 这类技术监测之外且能让用户联想到售后的新账号。

" 在发现这种情况之后,抖音安全中心实时更新模型策略进行对抗。由于是实时对抗,期间还出现一个小插曲,我们失误将陈赫本人的账号误杀了,导致陈赫抖音的资料被重置,而且当时陈赫还是正在直播的。" 帅帅分享到。

陈赫误伤背后,是 7X24 小时实时的激烈对抗。

 

据了解,抖音安全中心配合公安机关打击的一个色情导流案件中 ,现场缴获多个手机农场,设备 2000+。通过公安机关对嫌疑人审讯了解到,每天都在通过接码平台注册新的账号,但是并不是每个账号都能使用,账号使用率为 20%,其中 10 个账号能使用 2 个,以此证明线上风控拦截已经发挥其很大的效力;后来据犯罪嫌疑人交代,只是他们这一个窝点,过去两个月被抖音封禁的账号就高达 5000+ 。

 

这里有几个关键数,设备 2000+,账号使用率 20%。

一边是利用科技非法手段发起的猛烈攻击,一边是降低灰黑产效率攻击的破解和反侦察。

灰黑产不仅仅是所有头部流量平台的顽疾,根治不了的问题,在于永恒的 " 供需 " 和补不完的漏洞。

移动互联网突破了传统服务行业的界限——将商家、用户、平台、电信运营商,第三方支付企业等更多角色投入到服务中来。但也因此,让灰黑产更有机可趁,也能更便捷地拿到他们的 " 用户画像 "。

但同时,也能让灰黑产形成他们的用户画像。

" 不知道大家有没有听说一句话,‘幸福的人总是相似的,不幸的人各有各的不幸’。这句《战争与和平》中的名句在风控中有不一样的解读,在与灰黑产对抗的过程中,我们发现了一个很有意思的现象,就是‘坏人总是相似的,而好人则有各种样的不同’,这个是说我们发现欺诈团伙总是在许多信息上都有高度的相似性,而好人没有相似性。" 张曦盛分享到。

如今各大平台下的诈骗信息,就像当年电线杆上的牛皮癣广告;因看到中老年情感缺失,同时不擅于分别真假信息,于是借助靳东、刘涛等明星的马甲以感情骗取钱财的方式,就像争相去孝敬你的父母为的就是卖保健品;借着疫情,看中《王者荣耀》下的学生党,以套了新词 " 宠粉 " 来送皮肤,为的也是骗钱,与多年前的信件中奖套路相似。

这是一场持久战。