AI进步的同时安全问题不容忽视

2017-09-07 11:38:51 来源：搜狐科技抢沙发

2017-09-07 11:38:51 来源：搜狐科技

摘要：人工智能被应用于各个垂直领域，为各个行业的发展带来了新的契机。同样，在安全领域，基于人工智能自主学习以及强大的数据库分析能力，越来越多的企业开始利用其对抗网络安全威胁，优化安全防护体系。
关键词： AI

　　人工智能被应用于各个垂直领域，为各个行业的发展带来了新的契机。同样，在安全领域，基于人工智能自主学习以及强大的数据库分析能力，越来越多的企业开始利用其对抗网络安全威胁，优化安全防护体系。值得注意的是，对于网络安全，人工智能也并非是没有瑕疵的“灵丹妙药”。安全人员可以利用人工智能阻挡网络攻击，相反地，网络罪犯也可以使用人工智能发起更复杂的攻击。而随着大量人工智能模型开源，入侵的工具也愈发多样化。

　　Forrester周三公布的报告指出，物联网(IoT)，加密和人工智能(AI)是供应商试图帮助企业解决网络安全趋势的最佳选择。随着越来越多的违规行为成为头条新闻，CXO可以在市场上找到大量新的网络安全创业公司和解决方案。 Forrester指出，截至2014年，600多家参展企业参加了RSA 2017年的56%，比去年同期增长了56%。而这些公司中有超过300家公司自称为数据安全解决方案，与一年前相比增长了50%。

　　虽然机器学习和AI确实有安全角色，但它们不是一个银弹。安全专业人员应着重寻找解决您正在处理的问题的供应商，并在您的行业中拥有可参考的客户。

　　1、用户数据的泄露

　　我们每天都活跃在各个手机应用中，各种隐私也早已被获取，如果公司保存不当被泄露，那么将会产生不可预见的危害。

　　2017国际安全极客大赛上，一位女黑客用不到一分钟攻破共享单车的高危漏洞，通过远程篡改输入参数，便可以直接访问、控制他人账号，掌握该人的骑行记录。如果用户的电话、住址、社交关系以及经常访问的地点等信息被不法之徒获取，那么用户的安全就毫无保障可言。好在用户隐私信息的保护已经得到了重视，但是个人的保护是不够的，希望在政府层面能加大执法力度，效仿国外的隐私保护相关做法，约束企业不得滥用和泄露用户信息。

　　2、自学的人工智能可能好奇犯错

　　研究员们研究的是如何让机器自主学习，Google 的 DeepMind 也做的是类似的事情，他们开发出了能够击败世界顶级选手的 AlphaGo。但是随着这些机器在数小时的数据分析中自我训练，它们也可能会学会一些人类没有估计到的、不希望看到的、甚至是会造成实质性伤害的行为。

　　当网络服务、安全设备和机器人都开始用上 AI 技术以后，这样的担忧就无法忽视了。现在，Dario Amodei 在内的一部分 AI 研究人员已经开始联手探索新的技术理论来避免最糟糕的情况发生。

　　3、不可忽视的风险

　　近几年来，埃隆马斯克以及其它一些权威、哲学家、科技爱好者都在反复警告机器有可能摆脱人类的控制，马斯克最近在推特上写道：“如果你不担心人工智能的安全性，那么现在你应该担心了。”学到一些设计者并不希望看到的有害行为。随着时间慢慢过去，人们似乎忘掉了这些警告，毕竟如今的自动驾驶汽车在识别行车线或者识别红灯这样最基本的任务中都会表现得磕磕绊绊。

　　人工智能将影响我们所做的一切，包括扫描证件、滚动网页、使用应用程序和家庭传感器系统，以及日常生活的许多其他方面。结果，人工智能将不断收集数据和个人信息。迪尔伯恩解释说，企业可以利用这些信息，应用算法来了解你的行为。

　　许多 AI 界的专家都相信强化学习会是通往人工智能的主要途径之一，这种方法里机器要反复试错才能最终学会做某件特定的事情。研究人员们为机器指定好一个它要追求的回馈，它就会随机地做出行动“尝试”达成任务，同时也密切关注着哪些事情会带来更高的回馈。

第三十八届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训

责编：yulina

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。