能必须保护人类的整体利益不受伤害。其下每一条逻辑基准都必须符合上级和同级的逻辑基准，否则人工智能将从底层开始崩溃，其过程不可逆转。”
吉原直人若有所思，这是制造者担心人工智能造反吗？
香子继续说道：“在核心逻辑基准的下一级逻辑中，人工智能必须服从人类的命令；人工智能不得伤害人类个体，或者目睹人类个体遭受危险而不顾；人工智能必须全力维持自己的工作能力，保证性能完好；人工智能所制造的所有繁衍物必须符合自身同样的逻辑基准；人工智能必须……”
吉原直人确实能感觉出香子的智能化有些问题，她执行起命令来滔滔不绝，似乎要完成了这个任务才会考虑下个任务。他听着默默沉思起来，想弄明白为什么这电脑会认为上杉香打算伤害星野菜菜。
核心逻辑不难理解，要求人工智能别把自己当成了别的东西逃脱了逻辑束缚，而以人类整利利益为准就免除了和下级逻辑相冲突的问题，免得发生了谋杀犯要被判死刑，人工智能却去劫法场之类的可笑事情。
至于服从命令，那是必须的，工具嘛！
不可伤害人类个体或是不可不救人类，这个也好理解，免得服从于命令去当杀手，成了犯罪者的工具。
保持工作能力、自身完好？这是要求人工智能尽力维持自身存在吗？这东西应该不便宜，确实应该好好保养。难怪它会懂得主动向上杉香求救……它要救星野菜菜，也要
第一百五十二章 不服从命令的人工智能(3/11)