第【313】章 超脑的回答(2/2)

“噢!克里斯蒂娜小姐，机器人没有情绪，愚蠢和聪明对我们来说，没有区别。”

“华夏1号，如果罗斯要你杀死我们，你会服从他的命令吗？”

“史斯夫先生，很遗憾的告诉你，人工智能有三条准则不可违背，第一条：机器人不能伤害普通善良人类的生命

第二条：机器人不可违背人类的法律

第三条：机器人只是人类的工具，不可自行设计、制造、改造机器人。我的程序中没有‘杀人’的词汇，即使是我的创造者罗斯，如果下令让我杀人，这也违背了原则，我可以不服从命令。”

“华夏1号，如果罗斯修改了你的程序呢？你会杀人吗？”

“我的boss是伟大的，他的武力是无限的，他是善良的，他要杀人，根本不需要机器人。如果他修改程序让我杀人，除非对方是邪恶者，违背了人类的法律，非死不可。如果让我伤害普通善良的人类，这与我的逻辑产生了冲突，芯片组可能会自毁。

在这件事没有发生之前，华夏1号没有能力回答这种妄想猜测的话题。因为华夏1号是受限制的超级计算机，我没有思维能力，不能像人类一样去幻想。

我的boss是伟大的创造者，他不想让人工智能失控，他不想让机器人拥有思维和幻想能力，因为那样做，结果可能会让机器人拥有人类的情绪，到时会造成灾难。”(www.52kshu.com 吾爱看书网。)