架的范畴内进行,即便如兰伯特先生所言,随时间流逝,其自身状态越来越未可知,风险持续累计,也不至于越过虚幻与现实的界限,轻易对人类、也即自己构成威胁。
工程进度有条不紊,到1495年深秋,数据——思维——实践,强人工智能的三大模块中,前两部分已大致完成。
至于第三部分,研发,也在持续进行中,只不过一时半刻还用不上。
不仅如此,为防范“强人工智能”失控的风险,思虑再三,方然还是在一开始就启动了自称为“连锁安全机制”的并行研究,除nep_791外,还指示另外两处研究机构进行“强ai”的研究。
目的,不是要多个方案、优中选优,而是让目标不同的ai彼此制衡。
791研究机构里的“强ai”,初号机的目标,一开始被指定为“数学基础理论研究”,后续目标则是“科学技术的创造性、探索性研究”。
77研究机构的“强ai”,目标则是“防范自主系统的越权企图”,简单说来,这一强人工智能要去解决的问题,是利用自身的思维、认知能力,全力防范一个“自主系统”的独走,给出反制的措施。
最后,还有一个30研究机构,同样进行“强ai”的研发,初号机的目标是“安保系统权限与行为审查”。
不消说,这一强ai要盯防的,正是nep_77正在研究的强人工智能。
一环扣一环,三大研究机构的开发团队,实力大致相若,获得的资源也差不多一样,“以人工智能提防人工智能”的策略,则在逻辑上确保了项目整体的安全性。
原因很
第四九六章 学数(3/4)