因为机器人的强大,为了避免机器人伤害人类,在阿西莫夫的小说机器人系列中,提出了机器人三定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
为了保证这三定律有效性,阿西莫夫在小说中进一步解释,由于长期的发展,如果要修改这三定律,必然会导致整个机器人逻辑的混乱。所以三定律是不可违背的,机器人是安全的。
在机器人系列的最终篇中,为了人类的生存发展而违背了三定律的机器人,付出了自身毁灭的代价。
但现实中机器人发展中,制造商会遵循阿西莫夫的三定律吗?我感觉很难,和他们谈三定律几乎等于给老虎念经。他们首先要求自己的产品为自己获取最大利益,并保证利益不受损害。机器人三定律这种保证人类普遍利益的条条框框,定然被利益集团弃如敝履。
但这样利益集团的机器人产物,最终将成为集团的掘墓人,也就成为人类的终结者。