艾萨克·阿西莫夫提出的机器人三原则。
机器人三原则是由科幻小说家艾萨克·阿西莫夫在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则。这三个原则分别是:
1、机器人不得伤害人类,或看到人类受到伤害而袖手旁观。
2、机器人必须服从人类的命令,除非这些命令与第一定律相冲突。
3、机器人必须保护自己,但前提是这不与第一或第二定律相冲突。
这三个原则被认为是阿西莫夫除心理史学(Psychohistory)外另一个著名的虚构学说。
发展弊端:
机器人三原则理论提出的半个世纪以来,不断的被科幻作家和导演使用。但有趣的是,凡是出现三原则的电影和小说里,机器人几乎都违反了本条例。其中主要的一点就是机器人对“人类”这个词的定义不明确,或者是更改人类的定义。
比如某个极端主义者,像3K党有反对黑人倾向这样的组织,利用电脑病毒等手段,把机器人对人类的定义是:“只有白人是人类。”这样,机器人很有可能成为种族屠杀的工具。