1942年，艾萨克·阿西莫夫在短篇小说"Runaround"（《环舞》）中首次提出了机器人三定律：
一、机器人不得伤害人类，或因不作为使人类受到伤害。
二 、除非违背第一定律，机器人必须服从人类的命令。
三 、除非违背第一及第二定律，机器人必须保护自己。
但后来，阿西莫夫加入了一条新定律：第零定律。
零、机器人不得伤害人类整体，或因不作为使人类整体受到伤害。
在阿西莫夫的设定里，机器人三定律几乎植入到所有机器人的软件底层里，是不可修改不可忽视的最高指示。
很多人认为这套定律的模糊之处会导致一些奇怪的机器人行为。比如，三定律并没有明确定义究竟什么是“人类”、什么是“机器人”，或者“伤害”是对于肉体还是精神。如果机器人获取的信息不完整，它们完全可以无意中打破定律。又或者，机器人自己把定律改掉。
无论是《哆啦A梦》里有着神奇口袋的蓝色机器猫，还是《终结者》系列中的冷血机器人杀手，人类对于文明的终极产物——机器人，既迷恋又恐惧，我们享受科技给生活带来的便利，也担心有朝一日会遭到过度应用科技的反噬。
当智能机器人和人工智能已经发展到无限接近七十多年前阿西莫夫所构想的样子时，三定律这样的近似伦理道德的规范还能够作为机器人的行为准则吗？
马里兰大学法学教授兼人工智能（AI）专家Frank Pasquale在接受法新社采访时，概述了他认为应该在日常生活中应用于机器人和人工智能的四项新原则。
01
第一条原则
机器人应该是专业人士的附助品而不是替代品。他举例，病人会更希望有医生了解人工智能是如何工作的，并且从人工智能获得真正好的建议，而不是让一个机器人来看病。最终应当由医生来决定该做什么或不该做什么。
02
第二条原则
必须停止机器人军备竞赛。目前全世界有很多人正在投资战争机器人，军事机器人，警察机器人。 各国军方是AI技术最大的资助和采购方。借助先进的计算机系统，机器人可以在各种地形上执行任务、在地面上巡逻或是在海上航行。
在去年（2018年）的斯德哥尔摩国际AI联合会议上，由美国太空探索技术公司CEO马斯克以及谷歌顶级人工智能研究团队DeepMind创始人萨勒曼领衔的多家科技界大佬，与来自数百家公司的2000多名人工智能(AI)及机器人领域的科学家联名签署宣言，誓言绝不将他们的技能用于开发自主杀人机器。
03
第三条原则
禁止类人型机器人。这条原则备受争议，Pasquale教授认为，机器人应该只有在任务需要时才才能看起来像人。以谷歌助手Duplex为例，它可以通知用户确认酒店预订，而用户并不知道电话的另一边是一台电脑。
04
第四条原则
人工智能应该归属于一个主体。当你偷窃、抢劫或者杀人，可能会面临坐牢、接受罚款，甚至被判死刑。那么如果这些犯罪主体是机器人时，该怎么办？
要知道，从机器人被人类创造出来那天，就获得了一项人类求了千年而不得的技能：永生。
不管你断电，泼水，砸硬盘，烧内存，拔网线还是放病毒，只要人还在，机器人就会在。
或许不断的系统升级，终于让机器人不堪重负自爆而亡是个不错的办法。
对于人机共处的将来，有人爱，有人怕，有人又爱又怕。更有人表示，这样的未来不可避免，一定会来，他选择拥抱这个将来。
这个人叫周炜，CCV创世伙伴资本的创始CEO。一个学理工出身的直男，他还在大学期间就加入了如今的上市公司实达集团（.SH），设计了中国第一代自主产权POS机和最早的信用卡共用系统。
大学毕业后不久，周炜就成为了实达集团湖南分公司的总经理，后来更是负责实达的整个支付业务和西部中国大区，创下了8年升职10次的记录。同一时期，也在实达的京东金融CEO陈生强曾说，当时的周炜简直是“神一样的人物”。
作为一个理科直男，如果在技术宅的路上一路走到黑，周炜很有机会成为中国数字金融领域的领头羊。但他在事业走到小高峰的时候选择激流勇退。再次出现在大众眼前的周炜，已经成功转型成为投资人。
一路见证了中国VC行业的多次洗牌，周炜得到了什么样的感悟？对未来有什么样的期许？尽在本期《创业美国》国庆70周年特别版
关注我们其他平台
刷微博：
@陈一佳
@创业美国
看视频：
优酷 腾讯 财新 搜狐
搜索：三橙视频
看头条：
今日头条
搜索：三橙
听广播：
喜马拉雅 凤凰 蜻蜓 36Kr
搜索：陈一佳
合作联系
project@ox3production.com
标签： 机器人
②文章观点仅代表原作者本人不代表本站立场，并不完全代表本站赞同其观点和对其真实性负责。
③文章版权归原作者所有，部分转载文章仅为传播更多信息、受益服务用户之目的，如信息标记有误，请联系站长修正。
④本站一律禁止以任何方式发布或转载任何违法违规的相关信息，如发现本站上有涉嫌侵权/违规及任何不妥的内容，请第一时间反馈。发送邮件到 88667178@qq.com，经核实立即修正或删除。
