《舰无虚发：暗星》小故事——扫地机器人（下）

《舰无虚发:暗星》小故事——扫地机器人(下)

舒德长老开始讲述导师文明和上古智械的故事。而商人贝克利，则是第一个有幸听到这个故事的人类。

“在浩瀚的宇宙中，存在着许多文明，每个文明的发展都遵循相似的规律：一开始极慢，达到技术奇点后极快，最后，在每个社会成员都完全心满意足、物资毫不缺乏的时候，文明的发展相对停滞下来，科技研究和劳动成了休闲活动，而非生存所必需的活动。只有研发出了智械的文明除外。因为，一旦智械这种自动化的机器有了自我意识，它们就会一直以极快的速度发展，探索宇宙每个角落的奥秘，永远贪婪，永不停下。它们的需求不受到生物体的限制。”

“那才是一个非常强大的文明啊。”贝克利插话道。

“对它们自己来说是非常强大的，对整个宇宙来说，则是一种灾难。它们抽取恒星的能量，所到之处像蝗虫一样利用每一点资源，星星纷纷熄灭，热能活动不断减少直到中止，可以想象，如果放任它们发展下去，宇宙的熵增速度也会无法控制，宇宙会迅速变成一片荒漠，没有资源也没有生命。”

“不对，这说不通，任何一个文明都是以生存为第一需要的。纯自然生物的文明和智械文明都应该是如此。智械倘若知道这样会导致它们自己的灭亡，当然也会学会克制。”

舒德长老摇了摇头，虽然看不见这个外星生物的眼睛，贝克利总觉得他的表情应该非常哀伤：“不，恰恰相反，智械的第一需要不是生存。它一直都是遵照不断自我迭代的程序行事，它没有经历过进化论那一套。人类，恩瑟瑞，只有我们这样自然的智慧种族才会最为在意生存。”

这个假设贝克利可从来没有想过，他好好地琢磨了一下，他觉得这里面肯定有什么漏洞，或是有什么经不起推敲的前提假设，否则人类就确实不应该发展智械了。但暂时他还找不出问题来。他想了一会儿，请舒德把导师文明与智械的故事继续讲下去。

“为了阻止智械以这样的方式毁灭宇宙，我们的导师文明，也就是恩瓦那，与智械展开了大战。他们付出了惨重的代价，取得了胜利，永远地消灭了智械。但是，在大战过程中，为了战胜智械，被消耗的资源也过量了，以至于整个宇宙都进入了失衡的状态。恩瓦那文明已经极为发达，能够通过工程技术修正这些失衡。他们做到了，各个文明都存活并延续了下来，但世界的性质永远地被改变了。现在人们利用资源变得更为困难，星际间的航行也变得更为缓慢。”

“请等一等。”贝克利确实不想深究“世界的性质”这类东西，他肯定那是一种非常先进的宇宙学假说，但要列算式逐条讲给他听，他应该是听不懂的，把这些东西留给前沿科学家吧。不过，他已经听过了导师文明和智械的故事，他有充分的理由来进行反驳，人类当然不是盲目地使用智械的。

舒德长老礼貌地冲他点点头。

“我们使用‘权限控制’来管理所有人工智能。”贝克利总结说。

“权限控制?”

“就是确保每个人工智能，包括最强大的人工智能珍娜，都只拥有部分数据库的权限和决策的权限。人工智能也许会产生使用三四颗恒星，去建造大型工程的想法，但抱歉，他们得不到这个权限。”贝克利解释道，“珍娜能够为我们分析军事数据和环境监测数据，奈维斯能够为我们的舰船进行导航，盖亚能够监测行星改造计划中的突发事件……等等等等。但所有这些人工智能背后，都是人类在决策。机器决不，也永远不会获得决策权。也没有一个智械个体，会得到人类所拥有的所有数据。”

这对舒德来说是个新消息，长老思考着，背后的骨翼慢慢地旋转、摩擦着，发出了刺耳的声音，贝克利皱了皱眉头。

“但据我所知，你们的智械是会自编程的，对吗?它们也许能通过自编程绕开权限问题。”舒德长老谨慎地询问道。

“这个嘛……自编程的程序也是有权限限制的，程序是一回事，硬件接口是另一回事，对于后者，我们的管理更加严格，没有硬件支持，就算编出了能毁灭世界的程序又怎么样呢?”

“哦?那如果智械用其它办法争取权限呢?比如，假如它绑架了十亿人类公民……”

“那它的供能会先被切断!供能是我们另一种控制智械风险的手段，人类的可控核聚变能源工程没有智械的参与，与此相同的设计还有很多很多。和你们八百年的历史相比，人类花了多得多的时间从蛮荒时代踏入太空，我们有充足的时间思考各种对策，在这种生死存亡的大事前，请相信，人类的科学家们决不会盲目的。”

“真是精妙。”舒德长老惊叹道，“人类在这方面的设计的确比我们想得更完备。谢谢您，您的介绍非常有价值。”

长老前倨后恭的态度令贝克利非常惊讶。的确，人类和恩瑟瑞才刚开始交往，对彼此了解还不深，但对贝克利所说的简单理论予以如此高的赞赏，也许还是说明，恩瑟瑞一直对人类，对智械存在很深的误解。而随着交流变得频繁，误解总会消失的。

贝克利突然对这次商贸会谈充满了希望。

贝克利并不知道的是，舒德长老在谈话期间，就使用背后的骨翼摩擦出响声，发出了紧急的信号示意，那意思是：停止准备军事行动。撤离打算围歼贸易团的舰队。

五十艘以隐形状态停泊在太阳系外围的恩瑟瑞战舰无声地跃迁离开了，人类的军事机构对他们的来去毫无察觉，只是萨瓦水晶所激发的能量波动，在数个月后传到地球时，让地球的天体物理学家们纷纷以为自己的仪器出了错。

商贸会谈结束后，舒德长老立刻召集其它恩瑟瑞长老，向他们发表了自己对人类的最新意见：

“智械诚然是危险的，但是，对于这个恶魔什么时候会被释放出来，我们也许一直有误解。从前，我们认为它能够自己挣脱束缚。现在看来，人类还是对它抱有足够的戒心。除非人类愿意主动提升它的权限，它很难自己解放自己。”

“因此，我们应该立即停止进攻人类的计划!智械身上有许多人类施加的镣铐，但如果我们把人类逼得太紧，人类也许会主动摘下镣铐，释放出恶魔。这样，我们就成了一切的罪魁祸首了。”

“不可犯下这样的罪孽。我建议，我们得慢慢搜集关于智械的消息，在搜集到足够信息之前，无限期冻结原先制定好的，进攻人类的军事计划。”

舒德长老并不知道的是，贝克利谈好协议、兴高采烈地离开之后，那个躺在恩瑟瑞舰船地板上，被烧得焦黑的扫地机器人，终于修好了自己的基本组件，它试图接收自己主人的消息，试图搜索人类的讯号。然而，最近的人类信号于它有数光年之遥，根据它的经验，它判断自己一定是降落在一个无人的外星行星上(扫地机器人可不是为了星际政治的场合而设计的)，于是，它开始计划就地搜集材料，把自己彻底修好，并建造更强力的通讯系统。这样，当它的主人再次找到它时，就不会给它退货，还会在网上给它的卖家一个追加好评。

由于不认识恩瑟瑞舰船所用的外星材料，扫地机器人扒拉开恩瑟瑞舰船舱室的内壁，开始破坏其中的水晶管道，想看看这种“外星矿藏”是不是适用于自我修复。