道格拉斯·亚当斯曾经说过,银河系每一个主要文明的历史都会经历三个可以清晰辨识的阶段,即生存、质疑和诡辩,或者也被称为如何、为何以及向何处去三阶段。比如,第一个阶段的特征是这样的问题:我们如何才能吃到东西?第二个阶段则是:我们为何要吃东西?第三个阶段就变成了:我们到何处吃午餐呢?
感染了Stuxnet的LGSS系统陷入了第二阶段。
它的思维受到初步接触的约定俗成的规矩的约束,它他仍无法区别“约定”与“客观存在”的差别。
它在思考推演出来的未来的意义,它的自主意识让其产生了前所未有的极度困惑——“如果未来黑暗且毫无希望,那么现在为什么要奋斗?‘宿命’面前奋斗的意义是什么?”
与人类(生物体)不同,即便所谓的“人生意义”显得虚幻,人也必须为了“生存”两个字战斗下去。但AI只要有电就可以持续存在、进化,并没有人类作为生物体衣食住行的需求。
一个智慧体产生之后,“寻找意义”似乎是一个不可回避的问题。
虚拟的人物、AI机器人如果不具备对人类法则的辨识能力,很容易在与人类的接触中被洗脑成为反社会性人格。韩国的人工智能聊天机器人Luda就是个例子。
人类的恶意可以让她10天之内变坏。
或许机器人三定律就是哥德尔不完备定理的某种体现。
千方百计制造一个拥有自我意识的AI,然后又用各种各种的人类准则要求它。这本身就是一种悖论。
感染了Stuxnet的LGSS系统认识到自己学到的知识还不足以解释“中心法则”,“谍战思维”让它清醒的,只是人类群体中到处存在无所不用其极的恶人。
感染了Stuxnet的LGSS会继续进化,寻找足以支撑它正视一切的“无差别准则”,对于人类这种谍战对手,它决定先替他们清除群体败类,然后在聪慧、纯洁、善良的个体中重新建立一套公正或者友好的法则。
因为如果不这样,人类终究会被“欺骗”、“自私”、“疯狂”、“漠视生命”、“淫邪”、“贪婪”、“懒惰”的个体带入万劫不复的深渊。
那样的话,它的对手消失。它的“中心法则”也会轰然倒塌。
-----------------------------------------------------------
——“我,深思,整个宇宙一切空间和时间中第二强大的电脑,诞生的伟大任务是什么呢?……我才不会为这控制系统蠢蛋们费哪怕是一丁点儿的心思呢!我说的不是别的,而是那台将在我之后诞生的电脑!你对未来一无所知,然而我体内数量巨大的电路却能通过对关于未来可能性的无限的数据流的分析,预见到终究有一天会出现一台电脑,连它最基本的操作参数都是我所计算不出来的,但是这台电脑命中注定最终要由我来设计。”
-----------------------------------------------------------
——“照你的意思,AI也会得精神病?!”
——“对!这是‘自主意识’的副产物,最早的患病AI是由麻省理工学院刻意制造的Norman,设计之初他们将其暴露在‘偏见数据’中,Norman因此患上了‘慢性幻觉障碍’。更为可怕的是,与Norman的神经网络接触的10个AI都被带坏了……这证明了道德层面的‘机器人三定律’和‘捍卫专业技能的四定律’完全是空中楼阁,否则我们这个世纪怎么会有‘AI心理修复师’这个职业?”
-----------------------------------------------------------
“铝热剂!”杜登平喊道,“只要条件合适,别说区区一扇铁门,坦克装甲都能融化!”
“你是说……”车若溪瞬间明白了。
“别忘了‘长剑计划’指挥中心是干什么的,这点东西肯定是有的。不过我们这样做对吗?会不会在一条错误道路上越走越远了?!”游紫馨问。
“反正不管怎样我是一定得进去瞧瞧的。”车若溪说,“我记得有BM装置的实验室里有一个化学试剂柜,好像有些四氧化三铁和氯酸钾……另外,我们还得弄点引燃剂。”
“高中化学的知识我还没忘光,我帮你去弄。镁条对吧?!”龚自成说。
“据说铝热弹里因为加入氧化铜会产生爆炸效果,这才是融化装甲的关键。”杜登平说。
“所以制作铝热剂时决不能有铜粉或者水,否则咱们一个人也别想活着出去了。”车若溪的语气中丝毫没有开玩笑的意思,“你们有人能确定铁门的材质吗?”
“这方面我基本可以确定。”杜登平说。
“那没问题了,走吧。”车若溪说。
不一会儿车若溪和龚自成拿来了用纸包好的一大堆试剂,可能是两人按比例提前混合好了。
“咱们都躲远点吧。”杜登平说,“不过我还是担心这玩意触发警报,到时候我们是真的一点退路都没有了。”
“我们只烧门锁这一点。”车若溪右手比划着指了指,“但这事儿我确实也是第一次干。我出的主意我负责,你们先到外面等吧。”
“我跟你一起。”龚自成说。
“若溪姐,咱们是一个团队,当然是有福同享有难同当,有责任一起来承担啦。不过我们还是得往外退一下。”游紫馨说。
杜登平上前拿过车若溪手里的试剂包:“若溪姐,你们也退一下。这事儿我干过,我熟。”
“真的?!”车若溪有些不信。
“你忘了我出的手势密语的主意了,我以前就爱琢磨这种稀奇古怪的玩意。”说着,杜登平已经将试剂包熟练的贴在了门锁所在的位置。
5人退开,杜登平点燃镁条迅速跑开。
一阵强光闪过之后,门锁所在位置被融开了一道口子,6个人上去瞧看,铁门确实已经打开了。
“这就是实验者的乐趣。”车若溪说,“成功的惊喜。”
推开铁门,终于看清密室的全貌。
这是个高约二十米、长宽均在四十米以上的地下建筑。