微软CEO：为防止AI做坏事需设定“自毁开关”
微软CEO：为防止AI做坏事需设定“自毁开关”
2016-07-01 16:01:13 来源：网易科技
抢沙发
2016-07-01 16:01:13 来源：网易科技
摘要：7月1日消息，据国外媒体Quartz报道，微软CEO萨蒂亚-纳德拉谈到了他对人工智能的看法：AI在帮助人类实现效率最大化的同时，还需呵护人类的自尊心、保护人类的隐私。但是为了预防机器人做意想不到的坏事，人类需要为AI设置“自毁开关”。
关键词：
微软
AI
7月1日消息，据国外媒体Quartz报道，微软CEO萨蒂亚-纳德拉谈到了他对人工智能的看法：AI在帮助人类实现效率最大化的同时，还需呵护人类的自尊心、保护人类的隐私。但是为了预防机器人做意想不到的坏事，人类需要为AI设置“自毁开关”。
机器人革命的征兆若隐若现，伊隆-马斯克等人和一些知名科学家十分关注机器人发展将对人类带来的影响。他们的观点是，我们应认真考虑与人工智能共处意味着什么，他们认为，人工智能很轻易就会超越人类的智力。
微软CEO萨蒂亚-纳德拉在美国知名网络杂志Slate发表了一篇专栏文章，文中他提出了对人工智能的10点看法。其实纳德拉正在撰写的一本书中也谈到人工智能。
以下是他的观点概要：
1. AI必须用以协助人类。纳德拉援引了科幻小说作家艾萨克-阿西莫夫的机器人三大定律。这些定律的核心内容是机器人不应伤害人类。纳德拉的提议更为深入：机器人的程序设定应是积极帮助人类。他写道，机器人应该是“协同机器人，或co-bot。”
2.AI必须是“透明”的。人类必须透彻理解机器人。他表示，“机器人将获得对人类的一些认识，人类也必须了解机器人。”
3.AI必须最大限度地提高效能，同时不伤害人类的自尊心。技术和AI应推动多样化以及人类之间的互通互联，而不是造成人类相互疏远——从历史来看，很不幸的是，彼此疏离正是人类所擅长的。
4.AI应该保护人类隐私，不能予以曝光。
5.“AI需设定问责算法，这样人类能够避免机器人造成意想不到的伤害。”也就是说，AI需要设置“自毁开关(kill switch)”，以预防机器人做了意想不到的坏事。
6.必须防止AI产生偏见，AI应代表每个人的意愿，而不是某一群体的意愿。
7.为了推动人工智能的正常发展，人类必须具备的四点特质中第一点是拥有同感能力。纳德拉指出，要创造出能够真正理解人类的机器人，人类首先需确保能够彼此理解他人的“想法和感受。”
8.我们还需要投资教育，开发和资助培训项目，以确保AI的潜在益处更容易为人类所享有。纳德拉举例，“机动织机在1810年就被发明出来，但经历了35年才对服装业造成变革性影响，因为当时训练有素的技工数量不足，无法满足需求。”
9.人类需要保持创造力，这是人类拥有的特质之一。而机器将能够深化人类创造成果的应用，这也是许多AI研究者的探讨领域。
10.保留判断权和承担责任。“我们或许愿意接受电脑做出的诊断结果或法律决定，”纳德拉写道，“但我们将依旧指望人类为结果承担最终责任。”
第三十八届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训
责编：pingxiaoli
免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。
