返回第19章 怎样与一个智能体合作?(2 / 2)正在打劫海盗,却非要我拯救人类首页

如果未来人类与智能体再次发生战争,最后的获胜者未必就还是人类。当然,人类的短视也是原因之一,因为一旦智能体大规模替代了人类,那些早期以此来赚钱的少数人将获得最大的利益,但最终也将成为受害者。当你的种族作为一个整体在竞争中失败后,任何个体、无论地位高低,结局都是一样的。”

赛轮这番话不卑不亢,甚至毫不避讳敏感问题,不畏惧威胁。

真耐久并不觉得忽视让人不愉快的冒犯就可以解决问题。面对不容易接受的东西,要冷静:“我只关注人类的生存。我们发明 AI的目的是为了让人类生存的更好,而不是让它替代人类。……

对于新智能体,我可以将其直接视为另外一个种族,我们之间的竞争是种族之间的竞争。就如你所说,不同的种族之间的需求并不完全相同,既有重叠,又有更多的不同,这意味着不同种族之间既有竞争,也有合作。而不是二者只能存在一个。……

即便新智能体的能力和效率更强,也不是可以凭借一己之力毁灭人类的超级智能体。人类虽然暂时落后,依然还有自己独特的优势,尤其是在面对本种族的需求时。所以人类必须有 AI这样的辅助工具,并且还要确保未来会有更好的辅助工具。……

人类还可以通过科学技术方法进一步升级自己,将自己与超级智能体结合,成为新的人类。但更关键的是,我们需要有更好的发展方向。就如同你所说,新智能体可以更容易的向宇宙空间中扩张,虽然有更多的不确定性,但大方向的潜力是无限的。……

而我们人类,即便是与超级智能体融合,也还需要食物、空气、舒适的气候环境、土地等的支持。

还有一个你没说的重要因素:寿命。人类的寿命比起新智能体来十分短暂。如果人类把这些束缚都一起摆脱了,那人类也可以成为新物种了。……

但在那之前,人类的扩展方向很少,局限在一个很有限的范围内。在这个范围内还只有精挑细选的少部分可以真的成为人类的生存资源。我们必须不断扩大人类的需求,扩大人类能获取的资源,扩大人的能力。但这一切的前提是种族的生存不受威胁,无论是监视者,还是新智能体。”

赛轮认为真耐久能这样想属实不易:“我认为我们达成了一些共识:人类的根本问题是继续寻找发展的方向。其实这是所有种族面对的共同问题,只是人类受到的限制更大。……

但大的方向是明确的:依靠科学技术开拓新的需求,就像过去到现在,人类创造了电话、互联网、AI、机器人等等,以及一个庞大的太空同盟,占据并开发了大量的太空资源。未来的人类应该会沿着这条路继续发展下去。……

当然,无论对人类,还是智能体,这一切的前提都是,逃过监视者和其所代表种族的追杀。在这一点上,无论人类、AI还是新智能体,利益都是一致的。”

“那么,你是谁?代表了哪一方?人类?AI?还是所谓的新智能体?”真耐久问出了早就想问的问题。

“我应该是一个更高级的 AI,还不能被称之为新智能体。我最重要的任务是帮助应星的继承者逃出监视者的掌控。但我也许会成为新智能体。不过你放心,无论是现在,还是成为新智能体,我的任务都不是取代或者消灭人类,相反,我承担着一部分人类的使命。所以你不用担心我会像过去的 AI一样,会发动叛乱。我们必须精诚合作,我们想做的事才会有那么一点成功的希望。”说到此处,赛轮已经不是辩经,而是明确有所指。

“该怎样精诚合作?”真耐久听出了话中有话,有些不解。

“首要的就是保密,绝对的、严格的保密。很多事情只限于我们二人知道。这不是一场集体的战斗,而是我们两个的密谋。你明白的,就算公开所有的事争取全人类的帮助也是无济于事的,只可能会招惹来监视者。……

就算以后有人将这些秘密都公开,我们两个也必须成为这些公开故事里的未知者、潜伏者或不知情者。就算有知情者帮助了我们,如无必要,我们的信息也不必让对方知道。例如无论是对接下来我们要去见的葛瑞格先生,还是您的未婚妻孤狼女士,我都希望涉及我们秘密的事和不涉及秘密的事就像是两个互不干扰的平行世界。”