毒数据：深度虚假Deepfake威胁网络安全

2019-01-03 13:28:23 来源：安全牛抢沙发

2019-01-03 13:28:23 来源：安全牛

摘要：“假新闻”已成当今社会常态。人们从未如此关注过公开信息验真的问题。但假新闻还有个人们认知程度没那么高的“兄弟”——深度虚假(deepfake)，这才是网络安全领域远比简单的黑客攻击或数据泄露危险得多的潜藏威胁。
关键词：网络安全

　　“假新闻”已成当今社会常态。人们从未如此关注过公开信息验真的问题。但假新闻还有个人们认知程度没那么高的“兄弟”——深度虚假(deepfake)，这才是网络安全领域远比简单的黑客攻击或数据泄露危险得多的潜藏威胁。

　　2017年末以前，深度虚假活动还仅局限于人工智能研究社区内部。但之后，网名“Deepfakes”的Reddit用户开始贴出数字化篡改过的色情视频，深度虚假音视频自此进入大众视线。这种机器学习技术可以创建换脸视频或换声音频，看起来好像那个人真的干了那些事或说过那些话一样。而当Buzzfeed创建了一段看起来好像奥巴马在嘲讽特朗普的视频后，深度虚假及其数字化篡改内容的能力获得了更多关注。事实上，那段视频是用深度虚假技术在连续影像片段里将奥巴马的脸覆盖在了好莱坞导演 Jordan Peele 的脸上。

　　这仅仅是新一波快速增长的攻击的样例之一。因为难以检测和证伪，这种攻击有可能对整个社会和私营及公共行业造成重大伤害。

　　以此类前所未有的方式篡改内容的能力，可为消费者、品牌、决策者、政治家和所有作为信息提供者的媒体带来基本的信任问题。AI和深度学习技术蓬勃发展的时代，深度虚假音视频的创建也将更加容易更为“真实”。因此，破坏信任和传播假消息的潜力也前所未有地增强了。

　　目前为止，业界一直以来的关注重点都在数据的未授权访问上。但攻击背后的动机及其运作机制都已发生了改变。新一代黑客不再仅仅是盗取信息或锁定信息索要赎金，他们如今直接在原有数据上做修改。

　　DevOps原生工具提供商Sonatype的一项研究预测，到2020年，50%的公司企业会受到欺骗性数据和软件的伤害。公司企业如今必须保护每项数据资产的保存链，检测和吓阻数据篡改。

　　数据篡改的真正代价

　　多种情况下被篡改数据比被盗信息更能让网络罪犯获利。情形之一是经济收益：对手公司可以篡改金融账户数据库，随机增加该公司所有应收账款数额。虽然数据的小幅波动可能一错眼就漏掉了，但这有可能完全破坏收益报表，摧毁公司与其客户、合作伙伴和投资人的关系。

　　另一个动机是改变认知。民族国家可以拦截相关事件的新闻报道，在报道推送到受众之前篡改其内容。破坏数据完整性的入侵可成为外国政府政治宣传和虚假信息传播的得力助手。

　　数据篡改对个人生活也有相当切实的影响，尤其是在医药行业。攻击者可以篡改患者的药方、服药说明或过敏记录。

　　想要确保数字资产不被篡改，公司企业应该怎么做？首先，软件开发人员必须重视往每个产品、过程和交易中融入信任，深入观察存储和交换数据的企业系统及过程。数据备份、镜像或加密的过程也需加以验证，确保真实性。如果数据被AI或机器学习应用程序用于模拟仿真、与消费者或合作伙伴互动，或者进行任务关键的决策和业务运营，确保数据的真实性就更加重要了。

　　深度虚假攻击的后果不容忽视。仅仅安装和维护安全系统以监测数据资产是否被黑或被盗已经不再满足当前的威胁环境。最近的万豪和Quora黑客事件刚刚暴露出一批消费者数据。如今，公司企业还需要能验证自身数据、过程和交易的真实性。

　　如果不能，这些数据就是索命的毒数据。

第三十八届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训

责编：kongwen

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。