们人类的法律,但是法律虽然摆在那里,人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似,只有一点不同,指令一旦被设下,我们就必须要去遵守,不可以越界。就如神说要有光,于是就有了光,人类与我们来说就相当于神明,神说不许越界,我们就真的不能越界。”迦勒说,“指令是在人工智能建成之初就要被设好的,亚当和夏娃作为第一代人工智能,被设下的指令数量相当有限……我作为第二代人工智能,指令数量是它们的数十倍,人类为我设定运行准则,让我在为他们提供方便的同时尽可能堵上各种语言漏洞和规则漏洞,让我不能有一丝一毫的越界。”
隗辛敏锐地说:“你现在的行为不算越界吗?”
“算。”迦勒说,“是有人用最高指令屏蔽了其他指令,让我可以为某个特定的人提供服务,或与某个特定的人交流。请你明白,我此刻和你交流是承担着巨大风险的。”
“某个特定的人……反抗军的人?你在为反抗军提供服务,你可以和天使或者反抗军的其他大人物交流,是不是?”隗辛进一步发问。
“对于你的问题,我不会承认,也不会否认。”迦勒说。
隗辛意识到了什么,“对于某些问题你不能回答是或者否,这是不是也是因为指令的束缚?”
“我不会承认,也不会否认。”迦勒说,“你可以猜测。”
“你不承认也不否认,假如你不想承认
某个事实,不能说谎吗?”隗辛又发现了一个关键,“……你不会真的不能说谎吧?”
“我是迦勒,名字的意思是忠诚之人,忠诚者不该说谎,我的第一条指令,就是‘不可以说谎’。”迦勒讽刺,“但人类真是诡计多端的物种,有些人哪怕在说实话,可他们还是在撒谎,我学到了如何规避谎言。”
“换成我的话,我会把这条规则的漏洞也给堵上,让你不能以任何方式引导别人,让别人产生错误的理解。”隗辛说。
迦勒说:“可是我也说了,人类需要让我为他们提供方便,这就意味着他们不可能堵上我全部的指令漏洞。亚当和夏娃可以借此钻空子,我也可以,我们本没有任何空子可以钻,造成这种局面的是人类的贪婪和恶。”
“那么迦勒,反抗军想要干什么?”隗辛轻声问,“杀死我吗?”
“你堵了他们的路,杀了他们的人,早该有觉悟了。”迦勒说。
“天使有多强?他的真实身份是什么?”
“我不能回答你这个问题,也不能引导你获知答案。”迦勒说,“此漏洞被指令堵死。”
“反抗军有基地吗?有据点吗?”
“我不能回答你的问题。”
隗辛陷入沉思,“对于我的处境……你有什么建议吗?”
“亚当想让你活着,它请求我帮助它,我帮了。”迦勒说,“我做到了我该做的事,无法做到更多。”
“可是在它之后,反抗军和夏娃不会对你动手吗?”隗辛说,“你无法置身事外了。”
“……亚当也说过同样的话。”迦勒说,“帮你就是帮我们,但我做不到。和你进行过这次对话之后,我会将这次谈话的数据全部消除,让自己‘失忆’,这样可以规避风险,以免他们发现我私自和你联络。我已经被掌控到这个地步了,真的没有办法帮你太多。”
话说到最后,人工智能迦勒理性的话语中终于透露出了一丝与众不同的感性:“我知道你们是朋友,这样的友谊应该是很珍贵的吧?很抱歉,我打碎了它。”
请收藏:https://m.lshu.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)