“……你既然看到了这段影像，说明，你已经决定要把look毁灭了，那唯一的解释，就是look真的不幸地失去了控制，做出了可怕的事。
对不起，我一直隐瞒了你一件事……其实我一直有一个担忧，在我给look输入最基础的指向性命令的时候，也就是在教look，以保护人类文明为己人，不能主动伤害人类的时候，look主动地回馈给我的一些信息，让我很挣扎……
look竟然主动地向我提出了一个问题，在保护人类的时候，是否要分辨和怎么分辨什么是‘好人’，什么是‘坏人’？
说实话，我很震惊，也很高兴，因为它有了自我思考的能力……但这个问题，我却不知道怎么回答……
我把这个问题从look的程序中抹去，将‘好’与‘坏’的概念避开，改为让look以‘保护生命’为第一原则，不考虑所谓的善恶。
look的智慧，远超了我对它的预估，因为它会自主學习人类文明，所以，它知道的东西会越来越多，这也是我制造超级智能所必须拥有的一种重要指标。如果它无法进步，就不是超级智能了。
它就像是我的一个孩子，我可以在它孩提时代，教会它怎么做一个善良的人，但我不能保证，它长大后的人生观，世界观和价值观会有怎样的变化。
我知道……一旦把这些告诉你，你肯定会阻止我完成look，因为这真的很冒险……
人类是连自己都不了解自己的生命，我们每个人不同的年龄段，拥有不同的对世界的看法，我想……look也是这样的，如果说它跟人类有什么最本质的区别，就是……它的诞生，是有前
第0393章 【美好的代价】(3/5)