京东安全发布三大最新研究成果 让AI真正For Security

来源:中国网
2018-07-18 15:41:19
分享

近日,据美国科技媒体报道,苹果已将旗下的机器学习部门“Core ML”及智能语音助手Siri团队进行合并,组建成全新的人工智能和机器学习部门。无独有偶,富士康也宣布在硅谷成立人工智能公司。随着巨头们的加力布局,AI再次成为舆论焦点。百度无人巴士的量产也随之推波助澜。然而,不得不思考的是,当智能化不断给我们带来便利的同时,AI的安全性又将如何保障?

京东安全发布三大最新研究成果 让AI真正For Security

最近,京东安全披露了三项AI安全领域的最新研究成果,或许能给我们带来一些新的启示。

黑盒解释技术,让AI安全有据可循

事实上,在AI应用于安全领域后,业内始终无法回避一个难题:AI究竟是科学决策还是一场豪赌?一方面,凭借深度学习能力,AI似乎可以无限趋近真相;另一方面,它的决策是封闭的,人们无法断定其是否有理有据。不同于其他领域,安全的不可逆性让人们对于AI的应用更为谨慎。

以电商领域为例,“我们不能因为一个简单的机器决策就将某账号冻结,也不能因为某个机器的决策就判定某软件含有恶意代码。”京东安全技术专家表示。有鉴于此,京东安全实验室与宾州州立大学邢新宇教授团队共同推出了一套以高斯混合模型为基础的黑盒解释技术。凭借高斯模型的近似和解释能力,不论AI系统使用何种深度学习模型,它都能提供准确的解释。保证了AI系统打击黑产时的“有理有据”,最大程度降低了了对用户正常行为的“误伤”。除此之外,该解决方案还可以帮助AI驱动的安全系统自动打补丁,并做到AI安全系统的自我修复,用AI强化了AI。

深度学习技术处理程序崩溃,将AI引入传统安全领域

每天,大大小小的服务器都可能产生数以百计的程序崩溃,这在很大程度上影响了一个企业的正常业务。如果处理不当,这些崩溃的程序甚至会危害客户的体验。在全球范围内,调试软件成本已经上升到每年3120亿美元,开发人员需要花50%的编程时间来查找和修复bug,找出导致软件崩溃的根本原因,分析崩溃转储并确定导致崩溃的执行路径。

京东安全发布三大最新研究成果 让AI真正For Security

对此,京东安全提出了以深度学习技术来妥善处理程序崩溃。据京东安全技术专家介绍,在程序崩溃时,计算机系统会自动生成一份崩溃报告(core dump)。该报告涵盖了程序崩溃时的内存状态以及曾经执行的计算机指令。京东安全使用深度学习技术来分析报告中的内存状态以及每一条指令,并迫使程序逆向执行,从而用AI的技术刻画程序在崩溃前的每一个状态。通过这样的操作, AI系统会自动找到程序崩溃的根本原因,并执导安全研究人员迅速反应并完成对软件系统的快速修复。

在此项技术的帮助下,京东安全将响应程序崩溃所需的人力成本和时间成本降到最低,同时也将攻击所导致的用户体验下降减少到最低。

AI对抗AI,电商攻防之战持续升级

据不完全统计,目前我国直接或间接参与网络黑产的不法分子已经有数百万之巨,在AI技术的“赋能”下,黑产组织的犯罪行为呈现出高度组织化、规模化以及智能化的特征。在一次安全峰会上,京东安全详细介绍了与黑产开展AI攻防对抗和程序故障行为分析的方法,为安全行业提供了宝贵经验。

据京东安全技术专家介绍,在对抗黄牛上,京东安全采取了“步步紧逼”的方式,例如用反爬虫技术拦截黑产爬虫,监控黑产的活动,获得诸如黑产工具、平台等相关信息,进行提前拦截,并通过对黑产工具的研究对关键节点进行加固。

在打击机器注册的过程中,京东安全采用了黑产情报、无监督学习+有监督学习、人机识别三管齐下的方式,通过黑产情报了解实际攻击的工具、技术跟场景;利用无监督及有监督学习相结合降低误判率,保障真实用户的体验;基于京东多场景的人机识别,识别出机器注册的行为特征,并对其加以标注。

在图片验证码的对抗上,京东安全主动利用AI进行反攻。反攻的第一步是做模型的提取,因为黑产平台会使用AI模型做图片验证。基于这个洞察,京东安全用尽可能少的查询,给黑产的系统提供一些图片验证码进行识别。通过这些打标去自动找出黑产模型的弱点,获取近似模型,然后产出对抗性样本。使得新产生的图片验证码在真人识别时不会产生混淆,但是AI平台强行打码时会出现误判,从而击垮黑产AI的机器学习。

AI开源共享,共建安全圈的无国界医生组织

随着网络黑产的日益猖獗,越来越多的人意识到:在全球网络安全威胁下,没有人可以独善其身。在AI技术加持的大安全时代,安全技术的开源共享,共建网络安全新生态,或许才是应对黑产的不二法门。

京东安全发布三大最新研究成果 让AI真正For Security 

事实上,并非所有企业都能像京东一样拥有海量的用户数据和丰富的应用场景,很多中小企业因无力承担安全研究经费,长期处于“安全贫困线”之下,由此可见开源共享的重要性和紧迫性。当前虽然有一些AI安全工具被开源出来,但总体上数量仍然比较少。在记者的采访中,京东安全首席安全科学家Tony Lee表示:“越来越多的白帽子推动自由分享的黑客精神强势回归,非常希望这股精神就像奥运火种的生生不息一样,动员整个安全社区接力传递共享精神,不断开放出更多的安全思路、方法、工具等,建立起安全圈的无国界医生组织,从而才能彻底打赢安全脱贫攻坚战。”

分享

推荐