霍金生前曾经对AI（人工智能）有着深深的忧虑，他认为人工智能有可能是人类文明史的终结。但他也强调，当前对人工智能的研究与开发，应该从提升人工智能的能力转移到最大化人工智能的社会效益上面。
就安全而言，AI在攻防两端都已经开始使用。用阿里安全研究员陆全的话说，当前如果不使用AI技术，在攻防对抗上无异于用长枪大刀对抗洋枪洋炮，必然落于下风。
阿里安全一直主张用技术解决社会问题，安全AI也在阿里经济体的多个业务场景落地。
何为“安全AI”
“安全AI”I，ALL IN “安全AI”，这是阿里安全近期提出的口号。
肩负这个使命的，是阿里巴巴集团安全部旗下的人工智能研发团队——图灵实验室。
顾名思义，图灵实验室（AlibabaTuringLab）专注于计算机视觉、自然语言处理、机器学习和深度学习等领域的技术研发。
实验室研发的主要技术包括图像、视频识别与分析、人脸识别、自然语言处理、音频技术，包含声纹识别、声音分类、音频指纹等。
研以致用，这些技术已经被广泛应用于阿里经济体，包括手淘、天猫、支付宝、闲鱼、优酷土豆、UC、阿里妈妈等核心业务线。不仅驱动阿里经济体更加智能化，更加安全，同时让用户的体验不断提升。
那么，何谓“安全AI”？陆全认为，随着AI的深入应用，它会在不同的领域自我进化，安全领域也是如此。安全领域小样本、高对抗和高变化的特性，使得AI的应用具有挑战性，但安全和AI的相结合，可以进化出一种灵活、具有鲁棒性、能自进化的，适用于安全场景的AI，即 “安全AI”。
陆全表示，之所以强调ALL IN “安全AI”，首先是因为在阿里的复杂生态里，很多团队都在做AI产品，安全团队应从一开始就加入开发过程，让产品从诞生时就具有安全属性。其次是阿里的对手黑灰产，在很多场合已经开始使用AI的技术和模型，对阿里进行攻击，相应的，阿里也应充分借助AI的力量进行防御。
走入现实生活的安全AI
阿里庞大的业务生态可以分为三大部分，分别是大文娱数字化生活、传统电商、新零售。
与当前通用AI的理念不同，阿里安全更注重在业务安全领域垂直纵深的技术积淀，开发出适应更多安全场景的新一代AI，让传统的安全问题找到新的AI解法。
AI+知识产权：原创保护
图灵实验室的高级算法专家华棠介绍了阿里如何将AI应用在知识产权的案例。
数字经济时代，知识产权面临着比以前更大的挑战。首先，数字化使得作品复制、抄袭更加简单，对作品独创性的判别难度和成本都大大增加。其次，这是一个信息爆炸的时代，知识产权的保护需要具备海量样本分析的能力。最后是快速传播，数字化作品的侵权和传播周期越来越短，对原创作品知识产权的确权和侵权的判定，有着很强的时效性要求。
华棠表示，知识产权保护是IP商业化的基础保障。作为中国最大的电商平台，保护好原创产权，才能保护好原创者的热情和权益，从而激发他们的创新动力。
华棠以故宫文创商品举例：故宫经常会推出一些以文创为主题的商品，但往往在众筹阶段就会被他人模仿，甚至先一步上线销售，让故宫非常头疼。但通过阿里巴巴原创保护平台，就可以进行线上原创认定，保护自己原创的知识产权。对一些难以判别的商品，还可以通过人工大众评审来进行评判，将抄袭商品下架。
华棠介绍，阿里巴巴原创保护平台具有电子存证、首发认证、版权保护、IP商业化等功能。AI在其中的作用是，通过深度学习技术，和基于内容的大规模检索系统，从而准确地判别原创和山寨商品。
阿里安全已经建立了一套基于内容的大规模检索系统，应用在logo识别、盗图检索、视频指纹、商家原创保护等领域。
华棠表示，安全AI应用可有效抵抗转码、加噪、裁剪等多种干扰，与此同时，GPU配合大规模分布式计算，使得十亿规模的图像检索系统，可在几秒内返回结果，并使百亿量级的图像检索成为可能。
AI+内容识别：内容安全
内容安全现在无疑是监管的重要领域，新闻中经常可看到某某平台或应用因为内容违规被要求整改甚至关停。图灵实验室的高级算法专家威视表示，无论是从监管要求还是业务要求层面，内容安全已成为互联网行业的强需求。
面对当前互联网海量的内容，此时AI就大有用武之地。
例如色情、暴力、反动等内容的文本、图片、语音等，以往都要靠人工鉴别。传统的人工鉴黄师一天最多审核1万张图片，面对当前互联网上每天10亿张的图片上传量，效果可想而知。
但阿里通过AI建立智能模型，来识别违规信息，每天可审核数亿张图片，识别准确率高于99.5%。随着阿里AI鉴黄语音反垃圾服务的上线，不仅是图片和文本，语音中存在的涉黄、广告等违规信息也能被识别。
威视表示，通过不断地样本学习，AI在内容识别上越来越聪明，基本可以代替人工识别。对阿里这样一个庞大的文娱生态来说，特别是“内容化”已经成为其重要发展方向，可以保护其健康的内容产出。
威视提出了AI在内容安全上未来的挑战与解决方案。首先，是算法与业务需求的矛盾：AI擅长处理有视觉可分性的问题，而不擅长设计理解、推理、主观判断的问题，应对方法是让AI具备推理和想象的能力、设计图网络。其次，面对的风险点多，要是针对每个风险点单独开发算法，会造成人力成本和计算成本提高，应对方法是设计多任务网络，采用AI专用芯片。最后是AI方式的对抗，理论上只要攻击者不计成本，可以攻击现有的任何网络，应对方法是自主设计非开源网络、进行对抗样本检测和对抗训练。
AI+视觉识别：新零售安全
以盒马鲜生、无人超市为代表的阿里“新零售”生态，已经在改变着人们的生活方式。与此同时，自助、开放、无人，在改善体验和效率的同时也增加了盗损风险。
图灵实验室的高级算法专家觉奥表示，相对于传统的主要依赖人力的防盗手段， “AI保安”更能精准地发现异常行为。
觉奥以一组数字举例，传统的零售门店小偷的抓捕率大约为20-30%，而应用了安全AI系统，准确率接近100%，抓捕率可达到90%。
这是怎样做到的？
觉奥介绍，安全AI以视频监控系统为基础，结合了生物特征识别、计算机视觉等技术，重点关注顾客、货架、收款台，通过多点信息融合，实现证据链的鉴别，自动发现各类高风险行为。例如当有顾客从货架取货后直接放进口袋、拎包却没有买单，或者故意漏扫商品，结合AI技术的视频监控系统就能发现此类风险，并及时通知商场。
有了这套视觉安全AI，商家可以更好地控制风险和成本，顾客和经营者双方的权益都能得到保证，让“新零售”的发展后顾无忧。
同时，除了安全，在事先认证、授权并充分保障顾客隐私的前提下，商场可以利用AI技术,了解有多少顾客到店以及所到的区域，即可以轻松把到店客流量和商场各区域的热力图统计出来。可为新零售提供更佳的营销方案。
AI智能攻防
“双11”，阿里共拦截了16亿次恶意攻击，保护了409亿次用户的操作。这是安全AI应用在智能攻防上的实例。
阿里安全资深技术专家铁花表示，通过AI技术的保障，可以拦截掉黑灰产、羊毛党的各种操作，让消费者可以有一个安全、公正的购物环境，而不是面对工具化、产业化、专业化的竞争。
铁花认为，安全AI在流量识别、人机挑战、漏洞防御上都有巨大的发展空间，同时还会催生下一代AI智能攻防。
除了上述场景，人脸识别、新型验证码等AI技术也被阿里广泛应用在多个场景中，如景区入园、会场进入、快递取件、酒店入住等。阿里安全在内容、新零售、知识产权等领域的AI应用实践和对抗经验，让“安全AI”为未来网络安全问题的解法提供了更多可能。
第三十八届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训
责编：kongwen
免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。
抢沙发
