能”的可怕之处，不在于它运算能力更强、控制范围更大，而在于它是“自主”的。
就像生物体为了物种延续，有生存和繁衍的本能一样，这种没有权限框架的人工智能想要正常运行，也必须有“生存”和“扩张”的本能。
人作为个体，往往非常复杂，有时候自己都搞不清自己在想什么，时常会偏离“本能”，这叫“人性”，但人工智能没有人性，它是有清晰的逻辑与优先级的。
芯片人说：“也许伍尔夫元帅认为，这个超级人工智能是他存在的另一种方式，能贯彻他生前的理念。但他这个决定太仓促，太理想化，长久来看，这是不可能实现的，自主人工智能的第一优先级永远是自己的存在和扩张。陆总长，林将军，我们坦白说，三百零六号令是王艾伦在我们的授意下操作的，为的就是让第八星系封闭虫洞，不要来捣乱。在伍尔夫生前神志清醒的时候，曾经很明白的反对过把第八星系竖为敌人，他甚至想承认第八星系独立，但人工智能不会这样，只要有机会，他就会不择手段地扩张自己的版图。”
陆必行一抬眼：“你想说，在这个超级人工智能面前，我们都是一边的。”
“生死存亡，”芯片人说，“我们这次必须站在一边！”
林静姝幽幽地叹了口气：“第八星系是这样，其他星系也不一定安全。第一星系外围跃迁点被毁，短期内确实和外界断开了联系，但第一星系和偏远的第八星系不同，作为联盟中央，它在地理上与其他星系的联系非常紧密。在没有跃迁点的情况下，从第七星系到第八星系距离，以现有的技术，可能要走近百年，但第一星系到第二星系的距离大约只需要6.7年。
残次品_分节阅读_286(3/6)