支付宝和张三的十年战争

钛媒体  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

支付宝和张三的十年战争

支付宝和张三的十年战争

浅黑科技

· 14分钟前



微信扫码

5831
2
7
1
支付宝和张三的十年战争

支付宝的风控战争史。

支付宝和张三的十年战争

图片来源@视觉中国

钛媒体注:本文来源于微信公众号浅黑科技(ID:qianheikeji),作者 | 史中,钛媒体经授权发布。  

 

2013年,南方的闷热小城,城中村破楼上有一个不起眼的网吧。

18岁的张三瘫在座位上,眼神涣散地望着如碉楼瞭望孔大小的窗户。窗外阴云密布,像是老天要哭出来。

考试成绩刚发下来,大专没考上。妈妈有肺病需要吃药,妹妹上学还差一些钱。眼下没什么出路,在深圳打工的表

哥说他们工厂最近在招网管,钱不多,但张三还是决定明天就动身去试试。漫长的进厂生涯就要开始了,这次来跟熟悉的网吧告个别。

张三从小贪玩,老爸没少拿着棍子去网吧搜捕逃学的他。不过自从两年前老爸去世,再也没人能对自己进行物理打击了。。。

整日泡在屏幕前面,张三反倒发现了自己的一个“天赋”——他喜欢跟程序打交道,从网上学着黑客教程,竟然能修改网吧的系统计费。凭着这个大招,每天相当于赚下一盒泡面。

张三抿抿嘴角,就当是跟网吧老板开了几年玩笑吧。

就在这时,他突然收到消息,是黑客技术群里认识的一个大哥。

大哥劈头就问:“最近我们发现了新的搞钱路子,缺几个懂技术的,看你不错,要不要一起发财?”

“哪种搞钱?”张三问。

“别TM装糊涂了,富贵险中求。快给个话,你不干有的是人干!”大哥秒回。

张三盯着屏幕上的光标闪烁,脑袋里飞速旋转。

窗外突然雪亮,划过一道闪电。张三抬头,倾盆大雨阻断了全部的视线。他重新看向屏幕时,缓缓地打字:我干!就在这场狂暴雷雨中,他从破败的网吧猛地瞬移到了一个炮声隆隆的战场。在这里,神魔斗法正如不息的舞剧上演。

而张三也无从知道,就在他选择角色的瞬间,命运已悄然在他脖颈后面刻下了无可更改的注脚。

我们今天的故事,就从这里开始吧。

被绑成粽子的“门神” 

2013年,大雨初霁的杭州,支付宝大楼里突然警铃大作。

没有着火,没有地震,但支付宝的系统却在“流血”。。。

时任支付宝的负责人彭蕾紧急把大家找来。有人指着屏幕上的数字闪动,用户们被盗的金额正在激增——最近一周,竟然飙到了史无前例的历史新高。

你可能猜到了,就在几千公里以外的某个黑暗小房间里,同伙们已经带着张三“上手”了。

话说,当时主流黑产团伙的操作简单粗暴:用各种方法搞来用户的支付宝密码,然后异地登录把余额转走。

可这种盗窃的前提是支付宝里有余额,如果余额为0,那只好“下次一定”了。。。然而,那位“大哥”却带张三剑走偏锋,他们盯上了支付宝当时新推出的功能——“快捷支付”。

这里,我们不妨先把时间暂停一下,科普几句背景。

所谓快捷支付,就是哪怕支付宝里没余额,也能从关联的银行卡里直接扣款。

00后浅友估计觉得奇怪,余额不够从卡上扣,这不天经地义的么?

非也。往前追溯十多年,当时咱们在淘宝买东西,要想让支付宝从银行扣钱,必须得先插上U盾,再输入网银密码,给银行授权后钱才能转出。全套“仪轨”下来,就算手快也得两三分钟。

这样繁琐的操作,使得当年支付宝的付款完成率只有70%左右(好多暴脾气的嫌麻烦干脆中途放弃了),用户吐槽如潮水汹涌。

2010年的年会上,马云实在看不过去,当场斥责支付宝“烂!烂!烂到极点!如果再不重视体验,年会就是未来支付宝的追悼会!”这才有了元老彭蕾临危受命,跑步执掌支付宝,全力改善支付体验。

所以不夸张地说,“快捷支付”,正是支付宝这一波提升用户体验生死攸关的操作。

可问题就在于,这个设计在当时太超前,属于妥妥的“无人区”。

无人区里,难保周围潜伏着什么野兽。这不,黑客们嗅到血味,冲上来一通撕咬,发现通过“快捷支付”有一定概率能绕过支付宝的风控引擎,把银行卡里的钱(通过支付宝)偷出来,一下子都跳起了“丰收”的秧歌。。。

注意,这里又提到了一个生词,啥是“风控引擎”呢?

我们不妨把支付宝想成一个“赛博银行”,风控引擎其实就是门口贴的“门神”。

每天进出银行的人成千上万,绝绝绝绝大多数都是好人,只有少数几个“张三”是冒充他人来取钱的。
所以门神必须做到两点:

一来,必须静若处子:要是来个人你就盘问一番“你叫啥你干啥生日是啥把身份证掏出来”,感到稍稍可疑就把人家撵走,那当然能挡住坏人,但这样一来大多数好人也被你烦死了。。。

二来,还得动如疯狗:一旦有坏人要进来,必须第一时间扑上去拦截。要是让他把钱提走,再追就难比登天了。。。

你看,这个门神当得就很憋屈,又不让随便拦随便问,出了问题还扣鸡腿,简直就是个“被绑住手脚的门神”。

当时,支付宝的风控引擎叫做“CTU”(是“反恐特勤队”的意思,很中二),CTU 的主要原理就是“用眼神儿瞪”——把用户这次的转账行为和之前做对比,如果差球不多,就认为是主人自己在转钱,放行;如果明显是另一个风格在操作,就多半有问题,拦截。

这种“瞪法”在没有快捷支付的时候效果很好,偶尔失误,损失也可控。

可“快捷支付”这种骚操作一推出,情况完全变了——点一下按钮就能直接从银行卡里扣款。银行卡里的钱一般可要比支付宝余额多多了。。。说白了,这回 CTU 哪怕稍微犯一点点错误,一大笔钱就“嗖”地一下跟张三回家了。。。

所以,当时的问题本质上就是一句话——用户体验飙得太快,门神没反应过来。

好,科普结束,我们赶紧回到2013年的杭州。

很多浅友都知道,从2005年开始,支付宝为了让大家对网上支付多些信任,走到哪身上都贴着“安民告示”,六个字:“你敢付,我敢赔”——凡是在支付宝上被盗走的钱,支付宝都承诺一分不少地赔给用户。

可是眼前这波意外损失,已经大大超出了测算。。。如果换你做支付宝的负责人,你是赔还是不赔?

我们直接看答案。彭蕾的决定是两句话:第一,赔是一定要赔的,承诺不是儿戏;第二,这钱不能赔得毫无意义,而是算“交学费”——被盗的所有案例,要马上变成数据和算法,输入蚂蚁的风控引擎,让风控引擎进化!

刚才这段往事,是李俊奎给我讲的。

为啥他回忆起这些如此历历在目呢?因为他当时正是风控引擎 CTU 的架构师。你懂的,这“天价学费”四舍五入就是给他们团队交的,老师傅们压力有多大可想而知。。。

老师傅们紧急集合,研究门神的升级方案。

可是,门神都被捆成了粽子,除了靠“眼神儿”,还能靠啥呢?

没错,还能靠“脑子”——也就是对“数据”进行深度分析。

随便举几个栗子咱们一起感受下:

1、如果一个支付宝账号被坏人登陆偷了钱,那么,风控引擎就可以回溯当时坏人用的是哪部手机登陆的,使用的 IP 是什么,那么,下次再有其他账户用这部手机登陆,或者接入这个 IP 操作转账,你觉得是不是要拦截呢?

2、如果赃款打到了某个支付宝账号上,然后从那里提现到了某个银行卡上,那么,下次再有其他账号试图给这个账号(或银行卡)打款,那这笔交易是不是也应该拦截呢?

3、如果已有的盗窃案显示:团伙们经常在一个 IP 下面同时连着100多台手机,那么下回遇到一个 IP 下面活跃着100多个支付宝账号的情况,即便这些设备看上去都没有“前科”,那它们发起的交易是不是也应该拦截呢?

以上几个例子,只是描述了最简单的识别模式,但你应该能体会到神奇之处——表面无关的数据,只要用合理的方式联合起来计算,背后隐藏的真相可能就会瞬间浮出水面。

李俊奎还记得,当时风控团队跟柯南似的,把用户投诉案例和各种案件的卷宗、实录统统收集起来,对照案发的时候支付宝不同维度的数据变化,一点点寻找规律。

一旦找到某个规律,就马上把它做成规则,添加到风控引擎里面去。

你可以把每一条规则想象成一面照妖镜。原来门神手里的照妖镜只有一个,现在有一把——照妖镜越多,能发现妖魔鬼怪的品种自然就越多。

就这样忙活了整整三个月。终于,资损率肉眼可见地拐头向下,恢复到了和“快捷支付”推出以前类似的水平。血崩总算止住了。。。

李俊奎他们临危受命摸石头过河做出系统叫做 UCT(User CT,大概就是以用户为中心,全面风险排查的意思)。

现在回望,UCT 恰恰是未来风控技术的重要基石。因为这种风控引擎需要把大量的数据放在一起计算,所以又叫——“大数据风控引擎”。

然而,自古战场就是这样。这边庆功开宴,那边就关灯吃面——支付宝的老师傅们刚把资损打下去;愁容就爬上了“张三”的脸。

最近几周,盗付是越来越难,操作十有八九都被支付宝拦截,手里的黑账号都快被封完了。。。祸不单行,圈子里还纷纷传说有“同行”已经莫名被抓的惊悚消息。。。

大哥跟张三说,最近生意不好干,要不咱们把钱分了你进厂吧。

张三摆摆手:“诶,大哥此言差矣!做人怎么能轻言放弃?要我说,科技才是第一生产力,我提议,成立技术攻坚小组!”

几天之后,他不知从哪搞来几台旧手机,在小屋里开始默默鼓捣。他像一个炼金术师一样,把各种混淆技巧添加到原本的盗付流程中,一点点探测支付宝新风控系统的薄弱所在。。。

从“大巨兽”到“变形金刚” 

如果我们从天空俯瞰,这个战场其实并不公平。

你想想看,只要产生资金损失,支付宝的用户肯定会打客服报损,Ta 提交的证据就会被风控团队分析,不久之后,门神就有了一块新的“照妖镜”,张三的武器就报废了。

好人的武器可以累加,而坏人的武器却是“一次性”的,张三吃再多脑白金,也没办法一直想出新的攻击方法啊。。。

事实也证明了这一点,自从“快捷支付事件”逼老师傅们练出了大数据风控的功法之后,坏人就很难占到便宜——一年过去,两年过去,三年过去,支付宝的资损率稳步下降。张三持续吃土。。。

可是,我们把视线拉回杭州,“门神”自己却开始打踉跄:

风控规则越加越多,已经成千上万。相当于“门神”手里捏着无数照妖镜。每条转账请求过来,门神都得掏出所有照妖镜照一遍,这操作。。。臣妾忙不过来啊。。。

这意味着,一个转账请求到底是好是坏,门神必须在450毫秒内给出答案。

“要是超时了肿么办?”我问。

“超时了,支付宝就会跳过我们的风控保护,用户的安全保障就会受影响。。。”李俊奎撇撇嘴。

你想想看,毕竟所有转账请求里,好人占绝绝绝大多数。要是来不及判断好坏,似乎也只能假设他是好人放行了。。。可万一这人就是张三,那就中招了呀。。。

那段日子,技术团队每天都在绞尽脑汁优化 UCT 的速度,恨不得连说梦话都是“450”。

有趣的事情发生了:一年365天,有364天 UCT 都可以顶住 450,唯独有一天够呛。没错,那天就是“双11”。

“双11”零点的抢购潮有多野,大家是知道的。有抢购潮当然就有支付潮。亿万笔支付同时发生,每一笔支付还要用上万个照妖镜照一遍,这一切操作还都要集中在450毫秒之内统统搞定。这多少有点不讲武德。。。。

话说每年到了五月份,李俊奎就开始睡不着觉。

因为从这个时候开始,他就得四处“化缘”——跟其他业务团队商量,“双11”那天能不能有富裕的服务器,借给我们家门神用用。。。之所以提前半年开始,是因为门神需要加的服务器实在太多了,晚了根本就借不到。。。

安全系统天生就耗费计算力,大家都理解。可是这样沿街乞讨也太难看了,难免让安全团队抬不起头。私下里,其他团队都给风控引擎起外号,叫做“大巨兽”。

“那他们管自己家的系统叫啥?”我问。

“叫小天鹅。。。”李俊奎说。

即便如此,到了“双11”那一晚,李俊奎还是颤抖着走进作战室。

因为,哪怕加了这么多服务器,门神到底表现如何,他心里也不是完全有底。每年风控团队都得提前做好“降级预案”,一旦发现平均审核时长有超过450毫秒的趋势,就要赶紧按下降级按钮——这时门神就会主动扔掉一些照妖镜,只用核心的几个规则做审核,以此来降低耗时。

降级,一来是很丢人的事儿,二来更是很危险的事儿。

黑暗中的张三之所以一直无所作为,不是因为他转行了,而是他一直被门神“火力压制”。一旦“双11”当晚风控降级,相当于正义的地梁火力减弱,张三肯定会伺机反击,一年不开张,开张吃一年。。。

2014和2015年的“双11”,风控团队的指头都是在降级按钮上度过的。

幸运的是,这两年风控引擎都是勉强没有超时,降级按钮实际上没有按下。但这种在悬崖边缘摩擦的感觉实在可怕。

终于,在2016年有人大喝一声:我忍不了啦!!!

此人不是别人,正是时任蚂蚁安全实验室首席科学家赵闻飙,他决心搞出一套全新的风控架构——一来,彻底解决耗时问题;二来,为这个门神今后变得更聪明扫清障碍!

又让门神跑,又让门神不吃草,这可能吗?

飙哥他们还真给设计出来了,核心思路就是——分层。

所谓分层,就是把门神“一拆三”:

第一层门神负责“快速识别”。

只用一小部分照妖镜,把最像好人和最像坏人的人找出来。一旦判定你是好人,就直接放行,你根本见不到后面的门神;一旦判定你是坏人,就直接拦截,也见不到后面的门神;只有拿不准的,才会交给第二层门神。

第二层门神负责“深度识别”。

这里会用到全部照妖镜,X光、B超、CT、核磁全都招呼一遍。由于前面的门神已经筛掉了大部分请求,这个门神只需要检查一部分,压力就没那么重了。

而且,在这一步要做的还不仅仅是拦截支付。拦截了某笔支付之后,系统还会回过头来对这个账户相关的设备、IP、账户等等都标注一个风险分,下次这些相关设备、账户再参与转账,就更容易触发警报。

第三层门神负责“人工智能识别”。

这个门神是新上岗的,他手里也有照妖镜,只不过这些照妖镜可不是“规则”,而是“AI 模型”。可以更准确地判断那些“疑难杂症”。

这么一来,三个门神合就合体成了一个“变形金刚”。有时分工有时合作,不仅比过去的“一勺烩”计算量下降了,同时还能让识别的效果更好。

这个新的风控系统,就是后来大名鼎鼎的“AlphaRisk”。(有关 AlphaRisk 的黑科技,我曾经写过一篇完整的科普,感兴趣的浅友们可以去看《黑客为什么不攻击支付宝》。)

要说这三个门神里,最有前途的是谁呢?当然是第三位——人工智能门神。

我们不妨把镜头拉远,看看技术的历史长河:

AlphaRisk 研发成功的时间正是2016年,而这一年,AlphaGO 刚刚虐完李世石,以“深度学习”为核心技术的人工智能用超狂野的姿势登上了历史舞台。

从那时起,人工智能开始用润物细无声的方式加持各行各业,风控领域同样如此。

“人工智能门神”到底比另外两位强在哪呢?

首先是“思维广”。

你可以这样简单理解:

“规则照妖镜”里的规则是安全专家写的。安全专家的脑子是人脑,人脑嘛,容量毕竟有限,对于关系比较近的数据联系才有感觉;

“人工智能照妖镜”用到的“AI 模型”,是让电脑从海量数据里自己发现规律。都说精神病人思维广,AI 的思维比精神病人还广。。。八竿子打不着的数据它都能给你联系起来,这样一来,就能发现很多人类注意不到的“奇葩规律”。

其次是“会进化”。

你还记得么,当年在击败李世石以后,AlphaGo 马上通过“和自己下棋”的方式开始了自我进化,成为了 Alpha Zero。自我进化的 Alpha Zero 有多科幻呢?它对阵 AlphaGo 的胜率达到了惊人的 100:0。

AlphaRisk 也是一样的道理:

如果新发生了一个资损案例,它马上就能自动学出抵挡这种攻击的规则模型,哪怕张三只是出去吃碗面的功夫,回来之后再故技重施,门神就已经能识别拦截了;

更有趣的是,平时它还能“自己给自己找事儿”,把自己伪装成张三,想出各种稀奇古怪的漏洞来攻击自己,然后再把这些漏洞堵上。这样一来,在张三还没想出新的攻击方法之前,AlphaRisk 自己已经先把漏洞补上了。。。

以上这种骚操作,有个很酷的名字:“博弈对抗智能”。

人工智能抵达战场,让神魔斗法的历史彻底走到了转折点——在“盗付”这件事儿上,正义力量开始了血腥碾压。张三哪怕使出吃奶的劲儿,也完全找不到“好用”的盗付方法,本不富裕的生活更加雪上加霜。

但可悲的是,赚过块钱的张三,早已不是网吧里那个单纯迷茫的张三。绝望没能调转他命运的船头,反而把他逼向更加疯狂的境地。

就在2016年,震惊公众的“徐玉玉事件”发生。

年轻女孩遭受电信诈骗,心脏骤停。张三也在手机上刷到了这个新闻。所有善良的人心里的痛,却成了鼓舞张三的战歌。

“既然“盗付”这条路被彻底堵死,那为什么不转变思路,让钱的主人“自觉自愿”地把钱打出去呢?”他暗暗想。

手握一份详尽的“商业计划”,张三买了机票,带着几个小弟飞到了缅北“金三角”。

没错,他们要通过诈骗“扳回一局”。

重炮 

回到历史的烟尘里,彼时和张三做出同样选择的坏蛋们,其实大有人在。

一支诈骗大军就这样在境外盘踞集结,罪孽罄竹难书。

这让支付宝和所有金融机构都有些措手不及:

之前的风控策略主要是防止坏人偷钱——偷钱的操作,无论在设备上还是在行为模式上都有很明显的特征;

而钱的主人被骗——操作转账的人是自己,用的是原来的手机,按键习惯也一毛一样,哪怕输入密码,验证指纹、人脸统统都没异常。入侵发生在心里。

遇到这种情况,别说 AlphaRisk 的三个门神会直接懵逼,就连人类安全专家坐在受害者对面,也很难看出 Ta 这笔转账是出于“自愿”还是出于“被骗后的自愿”。。。

形势陡然急转直下。在“诈骗”这个新战场,正义力量的守备空虚。

张三团伙品尝到了“久违”的胜利,一时间盆满钵满。一次给小弟们开誓师大会,他热泪盈眶:“你们知道吗,这么多年要不是我咬牙坚持下来,哪会有今天的回报?世界会奖励长期主义者!”

在豺狼的笑声中,杭州的老师傅们陷入了巨大的无力感——虽说用户被骗,支付宝只是 Ta 的付款途径,严格意义上说和支付宝无关。但钱毕竟是支付宝上出去的,人非草木,又怎么可能忍心不救?

就在这个节骨眼上,人群中拍马杀出一人,此人正是李俊奎。他主动请缨,带领一队人马成立“反诈小组”,寻找破敌良策。

急促的战鼓让李俊奎又回想起2013年的那场“快捷支付战役”。此情此景诸多相似,可他心里无比清楚,相比几年前正义力量占绝对优势的“盗付战争”,这场“反诈战争”自己并没绝对胜算。

这么凶险的局势下,轻型武器已经没办法火力压制骗子——必须冲到技术的最前沿,去寻来几门“重炮”。
这第一门重炮,他们就挑中了“图计算”。

为了说明图计算,我得先科普一下“图数据库”。

咱们一起想象一个画面:

1、在一片广袤的宇宙空间中,每个使用支付宝的人都变成一个圆点,每个支付宝的账户、支付宝绑定的银行卡也都变成圆点,每个登陆支付宝账户的手机设备也变成圆点,以此类推,组成一片茫茫星海。。。

2、每两个点之间,只要发生过关联动作,就把他们用线连起来。例如一个人登陆了一个支付宝账号,就把它们连在一起;一个银行卡关联了一个支付宝账号,也把它们连起来。

3、如此一来,伴随着几亿用户每天使用支付宝,空间中就形成了几十亿相互连接的点和边,在这副巨大且复杂的背景上,数据不断累积,就成了“图数据库”。

理论上来说,所有用户行为都被包含在了这张图里——“诈骗引发的转账”自然也在其中。

这里需要强调一个前提假设:

“诈骗转账”既然不是“正常转账”,它就一定会在某些维度的特征上体现出“异常”,哪怕这种异常非常非常微弱,只要观察的维度足够多、足够细,总能发现蛛丝马迹。

举个例子吧,诈骗团伙无论骗术怎么改变,最终一定有一个步骤,就是洗钱。也就是说,钱无论怎样倒手,倒多少手,总有一步是通过某个账户或银行卡提现。

而这些银行卡不可能凭空变出来,在图数据库上看,总会有几条线把洗钱卡和最初的骗子连起来。如果能把这一长串链条背后的隐蔽规律找到,我们就发现了一个“异常特征”。

这种在图数据库中分析出特征的技术,就叫做“图计算”。

“图计算”说起来简单,现实中却阻碍重重——在这张大图上,每天光是新增的数据就在10亿条左右。别说人类了,就连人工智能看到这么巨大的图也发憷,根本计算不过来。

况且在2017年,图数据库和图计算都是最前沿的技术,很多人连听都没听过,更别说找到可以借鉴和参考的案例了。可是,战场上炮声隆隆,诈骗日益猖獗,老师傅们没办法等待技术成熟,他们唯一能做的,就是自己让技术成熟!

李俊奎特别给我介绍了两位技术大牛,陈锣斌和朱传群,他们就是当年死磕图计算风控技术的主力。

朱传群告诉我,计算能力有限的情况下,只能暂时选择三种妥协方法:

1、减少数据的量。例如,分析最近半年的图能看出更多规律,现在只分析最近7天的,甚至只分析最近3个小时的。

2、减少分析的频率。理论上来说,分析频率越高,就越能掌握最新的诈骗套路。但在计算力不允许的情况下,当时只好缩减为每天分析一次。

3、减少计算的广度,例如,联合分析5度关系可以更确定性地发现某个诈骗模式,现在就先分析3度,也有一定作用。

别看做了这么多“减配”,当团队把图数据库、算法和初步的数据灌入 AlphaRisk 之后,效果还是让他们激动不已。
仿佛在黑暗中点燃了一根火柴,哪怕光线微弱,也足够看清一些蹑足潜踪的妖魔——一些疑似诈骗转账马上就能被标记出来。

由于置信度还没那么高,生硬地拦截可能犯错,老师傅们决定,遇到这种情况先给用户弹窗提醒。看到提醒,用户可以选择放弃付款,也可以继续付款。这样哪怕不能百分百拦截诈骗,起码能先避免一部分。

第一个感受到变化的,其实不是用户,恰恰是我们的老朋友,张三。一些受害者用支付宝转账的时候,被弹窗提示风险,就放弃了付款;还有一些诈骗明明已经成功了,但是却在变现的过程中被冻结,张三死活拿不到这笔钱。
张三拍拍脑袋:“兵无常势,水无常形。是时候改变阵型了!”

正是从那时开始,整个黑产行业开始了快速的“专业分工”:张三自己专门带领诈骗团伙“精进”诈骗技巧;而洗钱工作,就交给了下游的另一个团伙。

这样分工的“好处”是,洗钱团伙可以一门信息寻找更隐蔽的方法。例如,在网上找一些贪小便宜的普通人来帮忙走账(参考《在你身边可能有人在帮黑产洗钱》)。

这背后的原理是:因为普通人不是职业骗子,在图数据库里和骗子并无交集,资金从他们手里走,就会进一步和正常的转账行为混合,抹平特征。

眼看对抗急速升级,老师傅们知道,减配版的图计算引擎已经不够了,他们迫切需要完全形态的“图计算 Pro Max”。

既然骗子都学会了精细分工,好人更应该精细分工。朱传群告诉我,当时在支付宝所在的蚂蚁集团专门成立了 TuGraph 图计算引擎团队。从那之后,风控团队就和 TuGraph 团队天天泡在一起,研究性能改进。

例如,存储性能就是引擎的一个重要的技术指标。一个数据每在引擎里多移动一次,就会多耗费一些性能,所以我们就要尽量减少数据的非必要移动;

再比如,识别诈骗会用到几个特定的图算法。我们就把这些算法拆开,对里面的算子调度进行针对性的编排优化,同样也能大大提性能。

朱传群给我科普。

图计算是一个极其复杂的前沿技术,有机会我们再展开细讲。总之,技术飞跃发生在2020年。

随着引擎不断变快,功耗变低,计算间隔已经从一天缩短到3小时,又缩到15分钟,后来到了3分钟;计算的数据量也在增加,最开始只能跑最近3分钟的数据,到后来跑最近3小时的数据, 然后可以跑最近1天;计算的广度也从2度关系增加到了3度,然后到了5度。

有了好用的图引擎,门神使用照妖镜进行探查的速度也变快了——如今对一笔交易进行反诈查询,10毫秒以内就能搞定,而且准确率达到95%。

不过,先别着急为李俊奎他们鼓掌。纵然支付宝对诈骗的检出率已经在金融行业里遥遥领先,但人最终的对手应该是自己——在“盗付”的风险域中,支付宝的识别率其实已经无限接近100%。相比之下,“诈骗”的95%检出率就立马不那么香了。

每时每刻,全国都有无数人在骗子的蒙蔽下转账。哪怕只有5%被漏过,累计起来仍然是一个不小的数字。

老师傅们难道要像走出手术室的医生那样说一句“对不起,我尽力了”么?

并不,他们的回答是:扶我起来,我还能蹦!

之所以敢这么说,是因为他们发现了闪光的“第二战场”。

“诺曼底登陆”和“门神 mini”

遥想当年,盟军在诺曼底登陆,开辟第二战场,二战随即进入转折,开启了爆锤希特勒的光荣时刻。而在反诈战争中,老师傅们同样在苦苦期盼这个时刻。

你有没有发现,之前我们讲的 AlphaRisk 所有的计算过程都发生在云端。

可现实世界中,还有一个重要的战场被我们忽略了,那就是“手机”。

手机里每时每刻都会有大量的数据产生,而这其中很多数据就在手机上“自生自灭”了——大量可以用于识别诈骗的数据,其实根本没有机会传到云端的 AlphaRisk 上。

你可能会说,那还不简单,为了揪出骗子,把用户手机上的数据尽量都传给支付宝不就得了?

乖乖,可不敢!

因为无论是我们国家还是欧洲、美国,对于个人隐私的保护都是极其严苛的,支付宝只能收集业务运行所需的最少数据,这不是说说而已,是要接受最严格的监管的。

所以,正确的做法不是让敏感数据回传云端,而是做一个“门神 mini”塞进每一个支付宝 App 里。

你肯定很好奇:手机上究竟什么数据可以帮助“门神 mini”判断用户是被诈骗了?我也想告诉你,但这里是目前正邪对抗的最前沿,老师傅特别提醒我不能讲的很细致,所以,我就简单举个例子你体会一下吧:

有一天,你在微信上突然看到盆友转发了一个小程序码,说是某家新店开张,扫码可以免费领一个空气炸锅。

你扫进去,有客服跟你对话,你把地址、电话、姓名都给他,他告诉你必须转发朋友圈才能给你发快递(你以为你在朋友圈看到的那条消息是怎么来的)。就在这个档口,他拉你进了一个“炸锅交流群”。

群主正在往群里发一些链接,告诉你,只要参与刷单就能得到连本带利的返现。

你跳转支付宝,“刷”进去1000块钱,果然拿到返现。然后你就刷了好几万,准备赚个大的。

然后,就没有然后了。

你看,这个诈骗过程中,支付宝的云端服务器只能看到你的网络环境、设备信息和付款信息。但是手机里的支付宝却参与了更详细的过程,例如程序的跳转,扫码的过程,手机指标的变化。而这些额外信息,恰恰是“门神 mini”判断你被诈骗的关键。(我只能说这么多了。。。)

可问题又来了,这个门神 mini可不是这么容易被请进去的。

老师傅面前,起码有“三个大坑”。

第一个大坑:门神 mini 要想判断诈骗,同样需要运行人工智能模型。而手机上的计算力较小,不够运行模型,这肿么办?

朱传群告诉我,放在手机里的AI模型,其实是经过算法同事们精心修剪的,能够在尽量保证效果的情况下塞进手机芯片里运行。

可是,聪明的浅友一定会马上想到,这里有个漏洞!

张三也有手机啊,张三也能装支付宝啊!要是 AI 模型运就在手机里运行,那张三不就能看到了吗?这相当于敌人在战场上缴获了我军的战机,拆开仔细研究,一定能找到对付它的方法啊。。。

这就是第二个大坑:核心算法如果被看到,肿么办?

朱传群告诉我,现在在手机里,通常都会配有一个神秘的芯片区域,被称为“可信执行环境”(TEE)。这里一般会存储用户的人脸和指纹等隐私信息,就像一个黑盒子。

老师傅们就把人工智能模型和数据都注入到“黑盒子”里面计算,算好了再把结果拿出来。如此,张三自始至终都没有办法看到这里数据的计算过程,自然也没有办法破解。

这套系统,就叫 AntDTX(可信隐私沙盒)。

继续想,你可能还觉得不对:算法在注入黑盒子前,一定存在支付宝 App 里啊!只要找到了支付宝程序的漏洞,或者把支付宝程序本身破解——相当于把支付宝的滩头阵地都给端了——还是可以拿到里面的一切,当然也包括算法。。。

这就是第三个大坑:支付宝 App 被破解,肿么办?

这里就要强势插入,给大家介绍一位大神,韦韬。

韦韬其实是浅友的老盆友了,他的神力恰恰就是——构建一套完整的防御工事,守卫底层代码世界的安全。(他的多年心血映射的整套设计过于庞大,这里就不展开,大家可以参考《AI 世界生存指南》。)

总之,从2019年开始,韦韬加入蚂蚁集团统领基础安全。守卫支付宝 App 这个滩头阵地的任务,就落在他和团队的肩上。

韦韬告诉我,因为支付宝 App 可以安装在坏人手机里,所以,理论上他们能用全世界最恶毒的方法“暴力强拆”支付宝 App。这么凶险的生存情况下,需要让 App 做到“可证安全”。

啥是可证安全呢?

程序漏洞虽然多种多样,但是却有几类危害非常大,而这几类漏洞是可以通过对核心代码进行严密的逻辑审计而消除的。注意,这种消除不是“尽量消除”,而是可以用数学证明的“绝对消除”。

在此基础上,在软件外部再布置一层加密的“壳”,就能最大程度保证支付宝 App 像一个保险箱——既不能被拆开(逆向),又不能被钻开(攻破)。张三即使把手机砸碎了,里面的东西也出不来。。。

如此一来,三个大坑都被填平,手机这片“诺曼底滩头阵地”得以力保不失。

有了阵地,“门神 mini”就有了赖以容身的“庙”。

他可以从容地对每一次转账进行安检,更多的诈骗转账就能被发现——神魔斗法的战场局面,又艰难地向正义的力量倾斜了一些。

故事讲到这,估计有的浅友已经着急了,因为我明显在避而不谈一个重要的问题:

骗子张三的目的是骗钱,而不是骗支付宝里的钱!

我们看新闻都知道,被骗的人大多执迷不悟,会多次尝试账。

哪怕各种转账全被支付宝提醒甚至拦截,Ta 还会向客服投诉。投诉完还会去其他App或银行渠道转账——只要锲而不舍,他总能被骗成功。。。

那么,你支付宝喊了半天保护用户,最终做到的仅仅是用户的钱没有“从支付宝里”被骗走(而是从其他地方被骗走)。那,老师傅这么多年拼了命的守护又意义何在呢?

这几年,我们越来越意识到,提示风险、拦截交易都不是终极方案,终极的方法是——让用户意识到他被骗的事实!

李俊奎说。

让用户意识到被骗,这显然超越了技术人熟悉的代码对抗,进入了心理学的范畴,难度完全未知。。。

到底要不要蹚这道浑水?

李俊奎他们也犹豫了好久。不过,最终他们还是说服了自己,不会就学,不懂就问,干是一定得干!哪怕能多救出一个被骗的人,也是多一份的功德。

俗话说,关公不睁眼,睁眼要杀人。

在刚才的科普中,我们的门神一直被绑着手脚,绑的时间长了,总得松开活动活动。。。面对用户深度被骗,执迷不悟的情况,门神的选择是——忍无可忍,无需再忍。

他从身后摘下雪亮的大刀,一步一步向前走去。

门神亮剑 

让用户从被骗的“懵逼”状态醒悟过来,需要给他来一个“当头棒喝”。

前文提到的“弹窗”,就是最简单的棒喝。

可是,经过一段时间的实验,老师傅发现看到提示就放弃转账的比例停留在了10%的水平,其余90%的人还是会再次尝试转账。

他们觉得也许是提醒文案不够刺激。于是专门找到浙江大学的心理学专家,一起合作重新设计更符合心理的提醒文案,还加上了警察叔叔的萌萌哒头像。

可是,文案修改虽然能微弱提升拦截率,但还是没办法突破瓶颈。

设身处地想想,一般人看到一堆字就直接闭眼跳过,根本不会走心。。。而且,在深度受骗中的人,大多还是老年人,眼神本来就不好,就更没有闲心阅读理解了,稀里糊涂还是把钱给骗子转过去。

归根到底,还是门神的发力不够。

于是,他们改变了提醒的方法,每当发现用户被骗试图转账,就让支付宝的客服人员直接给用户打电话劝阻。
因为风控系统已经根据信息大致判断出了诈骗的类型。所以客服一上来就能跟用户来个“情景还原”:是不是有人推荐你投资理财了?是不是说几天就能翻一倍?

真人的声音果然比文字好使多了,很多受骗的人接到电话都会猛然一愣,聪明的智商开始重新夺回高地。

这一招被称为“叫醒热线”。

但是,团队很快就发现,这样一个个叫醒,太耗费人力。尤其是碰到深度被骗的爷爷奶奶,要纠缠很久。。。这样下去,有多少客服都不够啊。。。

跟心理专家讨教了很久,老师傅逐渐确认,叫醒热线之所以能点醒梦中人,归根结底是和被骗的人产生了“交互”,你有来言,我有去语,他的思路就有机会离开骗子的掌控。

反诈团队受了启发,开始研究一种叫做“交互式主动风控”的东西。

简单来说就是,一旦感觉用户被骗,不是给 Ta 打电话,而是弹出一个(无法跳过的)界面,这个界面会代替客服人员,向用户提问,Ta 必须全部答完,才能继续转账。

注意,这些问题绝非“例行公事”,而是根据 Ta 被骗的类型,用人工智能实时生成的问答题,每一个被骗的人,看到的问题都和他正在遭受的诈骗息息相关。

其实,引导用户自己反思,只是“交互式风控”的目的之一。它还有一个更主要的目的:根据用户的回答情况,进一步判断用户被骗的“置信度”有多高。这就是“意图识别”。

举个例子:

支付宝觉得A用户这笔转账被骗的概率有60%,于是弹出“交互式风控”页面。看完用户的回答,就已经有99%的信心确定用户被骗了。

这个时候,门神已经不用顾忌:

他不仅要拼死拦截这笔转账,还可能要把这笔资金冻结24小时,以防用户提现之后从别的渠道转给骗子;

与此同时,如果用户设置过亲情号码,支付宝还会马上自动打电话给老人的亲属或孩子;

这笔转账的对手方也会马上被标记为绝对高危账户,它的一切行为都被记录在案,日后成为呈堂证供。

“可是,骗子明知支付宝的风控很强,一开始就引导用户绕开支付宝,直接从银行卡付款,那么用户不就从始至终都无法看到支付宝的交互式风控界面了吗?”我问陈锣斌。

“你说得有道理。但就算骗子一直引导用户在支付宝风控系统的范围之外活动,我们也不是完全束手无策。”陈锣斌说。

举个例子吧:

比如,有一张银行卡X,在支付宝的风控数据里是一张高风险的诈骗收款卡。此时A银行收到用户的一笔转账请求,恰恰是打给X卡的。但是A银行没有支付宝的风控数据,就不知道X卡是黑卡,也就不确定该不该放行这笔款项。

这时,银行只需要和支付宝进行数据打通查询。支付宝就会提醒银行:千万别放这笔钱,对方是坏人!

但这里,隐私红线又会出现。受限于相关法规,银行并不能把X卡的卡号直接告诉支付宝,支付宝也不能把X卡为什么是黑卡的判断模型告诉A银行。于是,这里就要用到另一个前沿技术——“隐私计算”。

隐私计算的神奇之处就在于:通过一系列精密的数学算法,在不相互传输原始数据的前提下,却可以把几方的数据进行计算、校验。

如此一来,支付宝和各大银行就可以一边不泄漏天机,一边共享自己的“风控成果”,相当于组成了一个金钟罩,罩在用户周围。无论 Ta 多么执迷不悟,试了多少种途径,钱就是转不出去。。。

这套技术体系,就叫“多方安全风控”。

说到这儿,李俊奎终于掏出一张完整版高清无码大图给我看,这就是集合了之前所说的所有技术于一体的“蚂蚁反诈风控全景图”:

I(Interative):“交互式主动风控”;
M(Multi-Party):代表“多方安全风控”;
A(Adversial Intelligance):代表“博弈对抗智能”;
G(Graph):代表图计算风控;
E(Edge):代表终端和云结合的风控。

这五个词头合体,就拼成了 IMAGE 技术体系。至此,蚂蚁集团的最强门神完整地站在了这里,老师傅们过去十年的沧桑和顿悟,也一并呈现在了我们面前。

客观来说,即便在今天所有技术也仍在完善中。看到系统漏过的诈骗案例,我们心里还是难受。

但重要的是 IMAGE 这一整套防线已经形成,随着时间推移,我们对骗子的压制只会越来越强。

这是希望所在。

李俊奎说得很诚恳。

正义的力量缓缓前进,对面张三的诈骗成功率不可遏制地走低,肯刀头舔血的犯罪分子也越来越少。张三团伙穷途末路,只能变本加厉,用残忍的手段从国内诱骗新人出境,非法拘禁起来,逼迫他们寻找猎物、不骗够钱不给他们自由。

张三当然知道,明晃晃探照灯日益稠密,自己每多一次尝试,都会向对手暴露更多的信息,而这一切,都将化作在他身边收紧的锁链。

他的命运,已经开始了终章倒计时。

十年来,一直生活在黑暗中的张三,鲜有成为主角的“光环时刻”。

唯有这次,引渡交接的仪式上,他站在一排嫌犯的C位,低头只瞥见军警的枪口闪闪发光。他双手反剪,被一只大手推向另一只大手。那天晚上,他睡了十年来最好的一觉。

他梦见了十年前的网吧,自己在雨幕之后,给发出邀请的大哥回复:你找别人吧,打工赚钱踏实。

世间再无法外狂徒 

张三当然是我虚构出来的人,但他却是千百重魅影,是那些已经归案和尚未归案的犯罪分子身上挥之不去的命运剧本。

正是因为无数“张三”真实地存在,支付宝才需要 CTU 和 UTC,需要燃烧的 AlphaRisk,需要金刚怒目的门神,需要 IMAGE 里的几门重炮,需要李俊奎他们这群老师傅在此处守卫十年,以及继续守卫下一个十年。

李俊奎告诉我,最近他们启动了一个“诈骗资金返还计划”。

一旦诈骗资金在支付宝系统里被识别和冻结,系统就会通过算法计算出被诈骗的账户是谁,然后把资金退还回去。虽然目前的技术条件下很难完美,大部分情况只能拦截一部分,也只能返还一部分,但他仍旧觉得这件事儿意义非凡。

闲聊时李俊奎说,他2008年博士一毕业就加入了支付宝,最初其实做的是支付宝的底层架构,根本没想到会和坏人作战。

2013年,因为移动互联网的风潮来临,风控系统突然遇到挑战,他才和很多同事一起支援进来解决问题,没想到一干就到了今天。

这些年,普通人看到的是移动支付的大潮,是科技恢弘的一面。但我们看到的却是大潮背后的暗面——无论是偷、骗,还是当年的P2P,现在的赌博,也像潮水一样一波波从没停止。

我们尽了最大的努力,消灭了这股潮水中很大的一部分,让无数罪恶在事实上并没有发生。有时想到这些,就觉得挺自豪的。

他露出了技术人特有的腼腆的微笑。

告别了李俊奎一行,我坐在从杭州飞回北京的飞机上,突然有了奇怪的幻想:

如果世界上果真有张三这个人,他真的拒绝了大哥做黑产的邀请,接下来,他的命运会如何呢?

他会不会继续精进技术,甚至有机会加入某家公司,成为技术团队的一员,去做反诈呢?

而回头看,蚂蚁这群技术超群的老师傅,是否也在某一时刻曾面对过诱惑,只是遵从了内心的良善,才用十年的时间细细铸就了一尊门神?

我猜,在佛眼中,众生终究平等,技术并无善无恶,正邪也非泾渭。

真正使人不同的,无非是渺小的你我在每个十字路口做出的庄重抉择。

 

支付宝 移动支付 网络安全

19篇资讯

7512关注

浅黑科技

关注

中国黑客的精神食粮

最近资讯

  • 支付宝和张三的十年战争
  • 你站在街上歪头瞅摄像机,我在 100 年后隔着屏幕瞅你
  • 窃听往事:完美的不在场证明,从来不存在
本文系作者浅黑科技授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接。
本文观点仅代表作者本人,钛媒体平台仅对用户提供信息及决策参考,本文不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里。

敬原创,有钛度,得赞赏

”支持原创,赞赏一下“
钛粉65687 钛粉61539 钛粉60785 在天空中自由翱翔的百灵鸟 钛粉14772 单晶冰糖啦啦啦
542人已赞赏 >
542换成打赏总人数542人赞赏钛媒体文章
  • 钛粉65687

    钛粉65687 赞赏了

    银泰百货“破产第一案”背后:苦涩退场,西安城改的挽...

    2022-08-19 17:41
  • 钛粉61539

    钛粉61539 赞赏了

    对话蚂蚁集团副总裁何勇明:“支付宝不对标抖音”

    2022-08-06 13:53
  • 钛粉60785

    钛粉60785 赞赏了

    近10亿募资闲置理财如今又推14亿定增,泽璟制药持...

    2022-07-27 14:44
  • 在天空中自由翱翔的百灵鸟

    在天空中自... 赞赏了

    钛媒体Pro创投日报:7月21日收录投融资项目32...

    2022-07-22 16:40
  • 钛粉14772

    钛粉14772 赞赏了

    寻找下一个“玻色因”,国货抗衰盯上了蓝铜胜肽

    2022-07-22 10:47
  • 单晶冰糖啦啦啦

    单晶冰糖啦... 赞赏了

    宁德时代依靠钠电池可以维持万亿市值吗?

    2022-07-22 10:37
  • 钛友趣641500

    钛友趣64... 赞赏了

    女性专属时尚座驾,欧拉芭蕾猫上市19.3万元起售

    2022-07-12 23:58
  • 钛粉93105

    钛粉93105 赞赏了

    TapTap塌房,“中国Steam”的故事结束了

    2022-07-12 14:02
  • 已注销用户

    已注销用户 赞赏了

    【医疗健康周报】第26周:“康诺亚生物”获得1.9...

    2022-07-07 15:05
  • 钛粉97884

    钛粉97884 赞赏了

    零和游戏与非零和玩家:InterSystems的数...

    2022-06-29 22:21
  • 钛粉97003

    钛粉97003 赞赏了

    零和游戏与非零和玩家:InterSystems的数...

    2022-06-29 21:58
  • 钛粉97388

    钛粉97388 赞赏了

    零和游戏与非零和玩家:InterSystems的数...

    2022-06-29 21:50
  • 钛粉11323

    钛粉11323 赞赏了

    丰谷酒业换帅!李寒松出任党委书记、董事长

    2022-06-28 17:09
  • 钛粉97508

    钛粉97508 赞赏了

    海外港口货物积压,商家提前备货,今年外贸旺季来得有...

    2022-06-24 18:44
  • 钛粉36186

    钛粉36186 赞赏了

    习酒划转茅台集团财务公司5%股权,上市仍在“激烈博...

    2022-06-21 15:25
  • 钛粉66633

    钛粉66633 赞赏了

    重新定义“一体化”?HR SaaS产品PaaS化之...

    2022-06-16 08:51
  • 碧天黄地

    碧天黄地 赞赏了

    未来汽车如何实现创新与融合?几位大佬有话说

    2022-05-30 21:37
  • 钛友趣763786

    钛友趣76... 赞赏了

    批量招聘难题何解?他们发现了HRSaaS的新机会 ...

    2022-05-26 23:38
  • 单晶冰糖啦啦啦

    单晶冰糖啦... 赞赏了

    钛媒体华南中心成立 全财经战略布局再进一步

    2022-05-25 11:30
  • 钛粉89798

    钛粉89798 赞赏了

    郑大一附院,一家“超级医院”的双面特写

    2022-05-21 06:19
  • 钛粉00698

    钛粉00698 赞赏了

    大厂深蹲,时代向前

    2022-05-19 10:27
  • 刘成军

    刘成军 赞赏了

    中国信通院院长余晓晖:加快构建我国特色的工业互联网...

    2022-05-18 14:09
  • 已注销用户

    已注销用户 赞赏了

    Netflix真的会为「卖广告」掏出真心吗

    2022-05-17 10:19
  • 钛田097033

    钛田097... 赞赏了

    黑海粮仓“起火” ,全球粮食失衡

    2022-05-09 19:50
  • 钛i7Twx8

    钛i7Tw... 赞赏了

    Bilibili Issues 10,000 NF...

    2022-05-03 16:30
  • 钛粉11841

    钛粉11841 赞赏了

    式微的金三银四,进击的线上招聘 | 钛媒体深度

    2022-04-28 00:39
  • 钛粉70984

    钛粉70984 赞赏了

    式微的金三银四,进击的线上招聘 | 钛媒体深度

    2022-04-27 14:29
  • 刘成军

    刘成军 赞赏了

    【书评】工业互联网,如何开启工业全价值链价值重构的...

    2022-04-20 15:10
  • 钛粉12812

    钛粉12812 赞赏了

    破发又大涨 海创药业“明天”的故事不好讲

    2022-04-13 19:13
  • 端生

    端生 赞赏了

    孟晚舟归国首次亮相,华为年度净利润超1100亿元 ...

    2022-03-29 17:26
  • 钛粉04723

    钛粉04723 赞赏了

    京喜基本退出社区团购

    2022-03-28 12:53
  • 钛粉34992

    钛粉34992 赞赏了

    我和我的植物人女儿|钛媒体影像《在线》

    2022-03-25 14:59
  • 钛粉32623

    钛粉32623 赞赏了

    ​“看风使舵”的摩根大通,为什么不值得信任?

    2022-03-23 13:18
  • 钛粉64062

    钛粉64062 赞赏了

    酒店机器人离“万能”员工,还差多少笔融资?

    2022-03-19 10:27
  • 钛粉41134

    钛粉41134 赞赏了

    俄乌战火中的中国留学生:我决定留下帮助普通人

    2022-03-18 11:45
  • 钛粉52609

    钛粉52609 赞赏了

    半导体高管不断跳槽,背后透露什么信号?

    2022-03-05 16:01
  • 钛粉08632

    钛粉08632 赞赏了

    叮咚买菜上海地区实现盈利,未来扭亏有望了吗?

    2022-02-28 13:11
  • 炜琳

    炜琳 赞赏了

    刀口夺金的私募业:猎人、赌徒和骗子

    2022-02-25 00:22
  • 钛粉90022

    钛粉90022 赞赏了

    年薪4亿的中国最贵科技CEO是谁?我们对高管薪资做...

    2022-02-17 20:27
  • 钛粉30326

    钛粉30326 赞赏了

    亮风台联合创始人唐荣兴:元宇宙是个慢风口,AR领域...

    2022-01-20 14:20
  • 钛ae5u70

    钛ae5u... 赞赏了

    钛媒体科股早知道:发展最快的子行业,订单火爆,未来...

    2022-01-17 04:39
  • 满级钛宝16422180875

    满级钛宝1... 赞赏了

    十亿消费者,谁是下沉市场的孤勇者

    2022-01-15 11:42
  • 马洋928

    马洋928 赞赏了

    AI年度总结与展望:超大规模预训练模型爆发,自动驾...

    2022-01-10 18:12
  • 已注销用户

    已注销用户 赞赏了

    奈飞无奈:《华灯初上》难成《鱿鱼游戏》

    2022-01-10 15:18
  • 钛粉25713

    钛粉25713 赞赏了

    新能源汽车还有多少空间?

    2021-12-29 22:06
  • 钛粉91858

    钛粉91858 赞赏了

    出海东南亚,阿里没得选

    2021-12-27 15:07
  • 钛粉91647

    钛粉91647 赞赏了

    出海东南亚,阿里没得选

    2021-12-27 15:05
  • 钛粉91231

    钛粉91231 赞赏了

    BAT为何分化在2018?

    2021-12-27 14:50
  • 钛粉63223

    钛粉63223 赞赏了

    薇娅“落幕”,直播带货会“变味儿”吗?|钛度热评

    2021-12-24 21:27
  • 赚赚

    赚赚 赞赏了

    “抢红利”的《误杀2》,急于收割的万达和“陈思诚宇...

    2021-12-22 17:07
  • 查看精彩文章,打开钛媒体客户端
关闭弹窗

挺钛度,加点码!

  • ¥ 5
  • ¥ 10
  • ¥ 20
  • ¥ 50
  • ¥ 100

支付方式

确认支付
关闭弹窗

支付

支付金额:¥6

关闭弹窗
sussess

赞赏金额:¥ 6

赞赏时间:2020.02.11 17:32

关闭弹窗 关闭弹窗

账户【未登录】提示!
个人中心将无法记录并同步您的赞赏记录,
是否进行登录

直接赞赏
立即登录
关闭弹窗

分享文章

微信扫码
5831
2
7
1

评论(7)

登录后输入评论内容 根据《网络安全法》实名制要求,请绑定手机号后发表评论 登录
  • 钛好408241
    钛好408241
    回复

    给小编加鸡腿🍗给小编加鸡腿🍗

    2022-09-02 16:37 via android
  • 钛好408241
    钛好408241   回复  钛好408241:
    回复

    给小编加鸡腿🍗给小编加鸡腿🍗

    2022-09-02 16:36 via android
    • 钛好408241: 给小编加鸡腿🍗爱了爱了😁
      2022-09-02 16:36 via android
      回复
  • 钛好408241
    钛好408241   回复  钛好408241:
    回复

    给小编加鸡腿🍗

    2022-09-02 16:36 via android
    • 钛好408241: 给小编加鸡腿🍗爱了爱了😁
      2022-09-02 16:36 via android
      回复
  • 钛好408241
    钛好408241   回复  钛好408241:
    回复

    爱了爱了😁

    2022-09-02 16:36 via android
    • 钛好408241: 给小编加鸡腿🍗爱了爱了😁
      2022-09-02 16:36 via android
      回复
  • 钛好408241
    钛好408241   回复  钛好408241:
    回复

    给小编加鸡腿🍗

    2022-09-02 16:36 via android
    • 钛好408241: 给小编加鸡腿🍗爱了爱了😁
      2022-09-02 16:36 via android
      回复
  • 钛好408241
    钛好408241   回复  钛好408241:
    回复

    爱了爱了😁

    2022-09-02 16:36 via android
    • 钛好408241: 给小编加鸡腿🍗爱了爱了😁
      2022-09-02 16:36 via android
      回复
  • 钛好408241
    钛好408241
    回复

    给小编加鸡腿🍗爱了爱了😁

    2022-09-02 16:36 via android

Oh! no

您是否确认要删除该条评论吗?

分享文章

微信扫码
5831
2
7
1

随意打赏

提交建议
微信扫一扫,分享给好友吧。