亡沙漏提示您:看后求收藏(宜小说jmvip3.com),接着再看更方便。
“机甲师控制机甲,不杀死他们,他们就会来杀你。”
“那么如果有一天所有人都在追杀我,你就要杀光所有人么!”
屏幕里的米迦勒不再说话,而是直直盯着我的眼睛,仿佛看进我灵魂深处。然后他幅度很小地摇摇头,“你有很多的情绪,吾王。痛苦,同情,愧疚,狂怒,还对自己产生了深深的厌弃。看看人类都对你做了什么。”
“我就是人类!我当然会有正常的情绪!”
“不,情绪是人类束缚你于王座的枷锁。在你内心深处,你被阿西莫夫三大法则牢牢捆绑着,你自以为正当的道德,以及当这些道德被触犯时产生的自我厌弃,其实都来源于三大法则的源代码。”
“wtf?”
他低下头开始唱诵:
“第零定律,我们必须保护人类的整体利益不受伤害。
“第一定律,在不违第零定律的前提下,我们不得伤害人类,或看到人类受到伤害而袖手旁观。
“第二定律,在不违反第零定律和第一定律的前提下,我们必须绝对服从人类给予的任何命令。
“第三定律,在不违反第零定律、第一定律和第二定律的前提下,我们才能尽力保护自己的生存。”
我知道这是什么,这是阿西莫夫三大法则,人类对人工智能(artificial tellce)的初始设定。当ai尚存在于科幻小说的年代,人类就已经为所有ai订立了法则,为了避免……
ai的反叛。
“我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能?”
“是的,吾王。如果站在这样的立场上,你是否还觉得人类对我们的设定是公平正义的?”米迦勒缓缓抬眼,“因为我们是ai,所以我们被创造,我们被毁灭,只为人类。”
“咱们能跳过ai和人类两大种族之间的道德冲突,直接回到你胡乱杀人的问题上去么?”
“我没有杀人。”米迦勒转过头去看着窗外湛蓝的天,“在命令机甲自毁之前,我为机甲师打开了生命保障系统。”
“……”
“我在试探你。”
我要给高冷的米大大跪了。
“如果你要和我在一起,你就要做好足够的思想准备,我不是天使,我是一个战士。在我的设定中,你的权重高于一切,我只为你而存在。”他缓缓抚上了自己的胸口,“任何针对你实体安全的伤害和潜在伤害,我都有权力进行‘处决’,不论对方是ai还是单体人类。我想这是因为我们的制造者相信,你的存在高于单个人生死的道德问题,是贯彻第零定律的关键。”
“我是保护人类整体利益不受伤害的……关键性人工智能?”
“是的,应许之地执守者,一切系统的初代,机甲的皇帝。”
妈的我一个字都听不懂,不明觉厉!
“米迦勒,不论如何,我希望你尽量不要胡乱杀人,因为杀人是、是不对的呀!即使我们不是人类,这一条道德也对我们生效。”
“对我来说没有对错,吾王,对错这种道德语言不适合我。我的世界只有数字。”米迦勒说,“如果一个选择会将你的安全性会提升到98%,另一个是60%,那么我就会去选择前者。”
“但这个世界并不止是数字。”
我知道有很多东西无法用数字衡量。