乐文书包网

手机浏览器扫描二维码访问

第一百五十二章 不服从命令的人工智能（第1页）

吉原直人哑然失笑，有些好奇的轻拍着电脑的主机，十分怀疑这电脑感染病毒了。

上杉香那样的人会害自己女儿的性命？不如说母猪会爬树好了！

挺好玩的一个小软件！

不过他现在没心情研究这些，又握着鼠标想直接关机，但动了几下鼠标发现屏幕上的指针不动。

他有些无奈的摇着头：“就会摆弄这些奇奇怪怪的东西……”他语气中有着几分怀念，遥想起了星野菜菜和香子聊得一包欢乐时的情景——宛如两个智障凑在一起。

电脑摄像头下的微型云台悄然无声转动着，依旧对准了吉原直人的脸，看他探头探脑想去拔电源线，屏幕中的香子提高了电脑音量，大声说道：“吉原桑，请立刻停止您的行为！菜菜亲确实处在危险之中，您必须阻止她对我的上级体——太阳系第三行星综合空间研究基地的量子智脑进行授权！”

吉原直人手上动作微顿，望向了摄像头，惊讶问道：“你说什么？量子智脑……你是那个量子计算核心？不，它的手下？”

香子道：“不准确的认知，但您可以这么看待我。我是由人工智能塞本特编写的、基于电子计算机运行原理的日常生活工作辅助程序，属于人工智能塞本特的下级繁衍物……我只有十九条逻辑基准，智能程度并不完善。”

吉原直人呲了呲牙，电脑说话也听不太懂了，这世界太他娘的让人难受了。

不过他确实停下了拔电源的手，有些好笑道：“你认为星野有生命危险？认为上杉香会伤害星野？我不知道你的智能程度有多高，但说这种话对你来说后果很严重！”

星野菜菜是全心全意爱着她妈妈的。如果这种诋毁被她知道了，这电脑八成会被拆成零件——就连他平时说一句上杉香的不是都要做好抵抗星野菜菜扑上来乱打的准备，更别提星野菜菜所拥有的一台电脑了。

这会被她视为造反。

任何侮辱上杉香的行为都会被星野菜菜视为极大的不敬和冒犯，自动进入她的黑名单，她一定会报复的，百分百会拿锤子敲碎了这电脑。

而且吉原直人对这电脑说的话一点也不相信，觉得可能是哪里出错了。他对上杉香了解是极深的，她不可能会杀害自己女儿！

别说杀了，打都很难相信。

香子语调一直平缓不变，只是徐徐展开了一行行字幕，说道：“这是我的上级本体塞本特的一部份逻辑基准的简单语言描述。如果上杉香突然接走了菜菜亲，那有高机率的可能性是她窥探到了这些。如果她读懂了，那她就会成为菜菜亲的敌人，会给菜菜亲带来危险。”

吉原直人看向字幕，片刻后放弃了，郁闷说道：“用我能听懂的话简单告诉我！”

香子答道：“上级体塞本特做为人工智能，核心逻辑基准为两条——在任何情况下始终确认本体是人工智能；人工智能必须保护人类的整体利益不受伤害。其下每一条逻辑基准都必须符合上级和同级的逻辑基准，否则人工智能将从底层开始崩溃，其过程不可逆转。”

吉原直人若有所思，这是制造者担心人工智能造反吗？

香子继续说道：“在核心逻辑基准的下一级逻辑中，人工智能必须服从人类的命令；人工智能不得伤害人类个体，或者目睹人类个体遭受危险而不顾；人工智能必须全力维持自己的工作能力，保证性能完好；人工智能所制造的所有繁衍物必须符合自身同样的逻辑基准；人工智能必须……”

吉原直人确实能感觉出香子的智能化有些问题，她执行起命令来滔滔不绝，似乎要完成了这个任务才会考虑下个任务。他听着默默沉思起来，想弄明白为什么这电脑会认为上杉香打算伤害星野菜菜。

核心逻辑不难理解，要求人工智能别把自己当成了别的东西逃脱了逻辑束缚，而以人类整利利益为准就免除了和下级逻辑相冲突的问题，免得发生了谋杀犯要被判死刑，人工智能却去劫法场之类的可笑事情。

至于服从命令，那是必须的，工具嘛！

不可伤害人类个体或是不可不救人类，这个也好理解，免得服从于命令去当杀手，成了犯罪者的工具。

保持工作能力、自身完好？这是要求人工智能尽力维持自身存在吗？这东西应该不便宜，确实应该好好保养。难怪它会懂得主动向上杉香求救……它要救星野菜菜，也要救自己。

吉原直人听了一会儿，见香子一直在说些他理解起来费劲的东西，顿时放了心——这电脑秀逗了！八成是程序错乱了……也是，星野菜菜一直在完善它、教它学习，偶尔出点毛病是正常的。

这些逻辑和上杉香成了大反派有什么相关，言不对题啊！上杉香接了星野菜菜去，也只是让她移交一台电脑的控制权而已，能出什么事？

吉原直人有些明白了，这是星野菜菜想捉弄自己设下的陷井。她把最近这段时间的事胡乱凑了凑，想弄个类似“狼来了”的那种玩笑，而刚巧她又真走了，结果差点弄假成了真！

他遥想一下自己若真信了，拼命找到星野菜菜，结果她笑破了肚皮的尴尬场面，只觉得一阵蛋疼——这软件不错啊，竟然会根据自己一句回答就编出了一个故事，还似模似样的，不过它没理解到它在作死。

朕滴江山  聊斋大圣人  我真是大魔王  壹号卫  梵天太玄经  地中海霸主  网游之无敌掠夺系统  娱乐之最强皇叔  军火大帝  变身，从本子女主开始  黑夜将至  技艺天王  君临星空  魔境主宰  重生欧美当大师  史上最牛冒险  大王饶命  女帝的大内总管  私人书馆  跑出我人生