“AI换脸”被滥用科技莫成“黑产”帮凶

2019-07-18 13:39:39 来源：新京报抢沙发

2019-07-18 13:39:39 来源：新京报

摘要：　　科技的发展推动了社会进步，同时也带来很多风险和隐患。从前，很多人只知道运用软件Photoshop（PS）能够修改图片，如今，AI（人工智能）直接将“修图”技术进化成“换脸”。近日，记者在调查时发现，互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频，在百度贴吧、闲鱼等主要网络平台均有出售。
关键词： AI

　　科技的发展推动了社会进步，同时也带来很多风险和隐患。从前，很多人只知道运用软件Photoshop（PS）能够修改图片，如今，AI（人工智能）直接将“修图”技术进化成“换脸”。近日，记者在调查时发现，互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频，在百度贴吧、闲鱼等主要网络平台均有出售。

　　如果有人觉得，明星艺人被美化也好、丑化也罢，都不关自己的事，那就大错而特错了。因为，在现实中，“AI换脸”已经不仅仅是一门技术，一条依附于“AI换脸”的“黑色产业链”已经形成。据记者的调查报道称，有的商家不仅提供成品的视频，还接受买家的订制，只要买家提供20张照片，就可以搞出任何人的“小电影”。还有的商家“授人以渔”，售卖教学视频供人学习，出示学生证还能打七折。

　　互联网不是法外之地。“AI换脸”技术被应用于淫秽视频，本身就是对科技的侮辱，借此形成“黑色产业链”，造成的社会危害更是不可低估。

　　首先，“AI换脸”为淫秽视频的传播提供了新的兴奋点，让那些本来未必会接触淫秽视频的未成年人群体，因为“追星”情结而增加了“看一看”的兴趣，最终误入其中，难以自拔。

　　其次，在“AI换脸”技术下，每个人都可能成为受害者。尤其是普通人，一旦被“AI换脸”成为“小电影”的主角，由于身边人的鉴别能力较弱，大多数人在转发信息时更注重内容的轰动性和刺激性，而非可靠性，就算是一个做工粗糙的视频，也可能会在“以讹传讹”中给无辜的当事人带来极大的精神伤害。

　　第三，“AI换脸”的应用场景不仅是色情视频，还可能被用于电信诈骗。如果有人通过“换脸”向“被换脸者”的亲友索要钱财，就算诈骗不成功，也可以造成损害当事人名誉的影响。

　　第四，“AI换脸”技术具有一定的趣味性和挑战性，会吸引更多人尝试其训练模型的乐趣，从接受者变成参与者。特别是青少年对新事物的接受能力强，计算机技术水平往往较高，其中一些法制观念或道德意识较弱的人在“小试身手”后很容易踩过界，变成“黑色产业链”的一环。

　　尽管“AI换脸”技术的主要危害在于使用者的滥用，但因“AI换脸”自带“混淆人格”的功能属性，因此，相关部门对“AI换脸”行为的法律限制和行为规范也应更具针对性。首先，公安部门、网络监管者、网络贴吧和电子商务平台的经营者，都有义务清除违法售卖的包含“AI换脸”技术的违法色情视频。对于面向公众销售的或代为制作换脸视频的营利性行为，应坚决予以禁止。

　　其次，让“AI换脸”技术的爱好者意识到，不管是否使用“AI换脸”技术，在中国境内，凡是传播具有性行为、性器官、裸体的图像或视频都是具有法律风险的，“换脸”技术并不能消除原始素材的违法性，将之作为“技术成果”与大家分享是有风险的。

　　第三，制作者应防范自己的“换脸”视频被人利用，用于各类欺诈和侵权活动。不要因为觉得“好玩”，就随便帮人制作“爸爸妈妈我要钱啊”之类的视频。

　　第四，未经当事人授权的“换脸”行为，是对公民人格权和肖像权的侵犯。掌握“AI换脸”技术的人，应该对他人多怀尊重之意，不可轻易“戏之”，更不可没有底线地将“换脸”技术用于非法牟利，否则难免会遭到法律的严惩。

第三十八届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训

责编：yangjl

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。