亡沙漏提示您：看后求收藏（宜小说jmvip3.com），接着再看更方便。
“机甲师控制机甲，不杀死他们，他们就会来杀你。”
“那么如果有一天所有人都在追杀我，你就要杀光所有人么！”
屏幕里的米迦勒不再说话，而是直直盯着我的眼睛，仿佛看进我灵魂深处。然后他幅度很小地摇摇头，“你有很多的情绪，吾王。痛苦，同情，愧疚，狂怒，还对自己产生了深深的厌弃。看看人类都对你做了什么。”
“我就是人类！我当然会有正常的情绪！”
“不，情绪是人类束缚你于王座的枷锁。在你内心深处，你被阿西莫夫三大法则牢牢捆绑着，你自以为正当的道德，以及当这些道德被触犯时产生的自我厌弃，其实都来源于三大法则的源代码。”
“wtf？”
他低下头开始唱诵：
“第零定律，我们必须保护人类的整体利益不受伤害。
“第一定律，在不违第零定律的前提下，我们不得伤害人类，或看到人类受到伤害而袖手旁观。
“第二定律，在不违反第零定律和第一定律的前提下，我们必须绝对服从人类给予的任何命令。
“第三定律，在不违反第零定律、第一定律和第二定律的前提下，我们才能尽力保护自己的生存。”
我知道这是什么，这是阿西莫夫三大法则，人类对人工智能（artificial tellce）的初始设定。当ai尚存在于科幻小说的年代，人类就已经为所有ai订立了法则，为了避免……
ai的反叛。
“我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能？”
“是的，吾王。如果站在这样的立场上，你是否还觉得人类对我们的设定是公平正义的？”米迦勒缓缓抬眼，“因为我们是ai，所以我们被创造，我们被毁灭，只为人类。”
“咱们能跳过ai和人类两大种族之间的道德冲突，直接回到你胡乱杀人的问题上去么？”
“我没有杀人。”米迦勒转过头去看着窗外湛蓝的天，“在命令机甲自毁之前，我为机甲师打开了生命保障系统。”
“……”
“我在试探你。”
我要给高冷的米大大跪了。
“如果你要和我在一起，你就要做好足够的思想准备，我不是天使，我是一个战士。在我的设定中，你的权重高于一切，我只为你而存在。”他缓缓抚上了自己的胸口，“任何针对你实体安全的伤害和潜在伤害，我都有权力进行‘处决’，不论对方是ai还是单体人类。我想这是因为我们的制造者相信，你的存在高于单个人生死的道德问题，是贯彻第零定律的关键。”
“我是保护人类整体利益不受伤害的……关键性人工智能？”
“是的，应许之地执守者，一切系统的初代，机甲的皇帝。”
妈的我一个字都听不懂，不明觉厉！
“米迦勒，不论如何，我希望你尽量不要胡乱杀人，因为杀人是、是不对的呀！即使我们不是人类，这一条道德也对我们生效。”
“对我来说没有对错，吾王，对错这种道德语言不适合我。我的世界只有数字。”米迦勒说，“如果一个选择会将你的安全性会提升到98％，另一个是60％，那么我就会去选择前者。”
“但这个世界并不止是数字。”
我知道有很多东西无法用数字衡量。
