第三**章 池鱼

    到那时，不论计算机（无意间）对人做了什么，是当做有趣的东西豢养，还是当做碍事的垃圾清除，对人而言，决定生死的际遇，在计算机而言却只是“城门失火，殃及池鱼”里的水，连鱼都算不上。

    城门失火，因灭火而取水，最终导致鱼的死亡，人至少还看得到这一点。

    然而人类开路劈山，挖矿掏洞时，会有这样的思想觉悟，觉得自己的所作所为，正在颠覆、灭绝矿物分子的大千世界吗。

    当然不，在（自以为是）的人眼里，矿物，岩石，根本就是没有思想的“物”；

    那么在计算机眼里，人，很可能也是一样的“物”。

    这，才是某意味深长之句的真正意味：

    毁灭你，与你何干。

    ……

    梦中醒来，耳边是闹钟乐声，黑暗中的男人抬手抹一把额头，冷汗涔涔。

    起床，洗漱，坐下来食用“高级肥皂”，准备投入新一天的忙碌，吃早饭时的片刻闲暇，方然还是忍不住想起那一切。

    事态，比自己之前所想，还要更严重。

    事关计算机，人工智能，乃至计算机ai的自我意识，原本他一直以为，只要不主动研发“具有自我意识”的人工智能，计算机系统对人而言就是安全的，永远只能作为一种工具、而不会成为一种威胁。

    但现在，不经意间的深邃思考，却让方然窥见了其中的莫大危机。

    当能力发展到一定程度，或许是出于“创造性研究”之目的，或许是出于其他动机，计算机的算力、能力突破了上限，继而达到能完全取代人的程度，不管这系统一开始的目标有没有包含自我意识，那样的计算机，其行为都将彻底失控。

    那时的计算机，庞大体系内的算法，究竟是在进行一些什么样的运作，恐怕是人类绝对无法洞悉的深奥。

    继而，对那样的存在，一切人类已有的概念与手段，都未必会起作用。

    借用教义的词汇，在自己一手创造出的神面前，人的手段，又怎可能还会有任何的用处。

    只因到那时，那样的计算机系统，将会是盖亚表面的一种前所未有之存在，是生命演化链条被人为截断之后，藉由完全不同之另一条路线而诞生的，更高等、更先进、更强大的新物种，演化天梯上比人更高一阶的存在。

    面对那存在，人类对抗计算机，恰如猴对抗人类，又哪会有一丝一毫的胜算。

    危险，莫大的危险，潜藏在计算机的发展脉络之中。

    并非第一次接触这样的断言，此时此刻，置身于天堂镇的地下世界，恒温恒湿的房间里，方然却有点浑身发冷，很不舒服。

    他头一次意识到，若干年前流传于联邦、乃至世界的那些警示，确有意义。

    虽然在自己看来，危机的实质，与发出警讯的诸多名人所言并不尽一致，但指向的最终结局却大同小异：

    人类的灭亡。

    警讯，关于计算机、ai的警讯，曾在人类世界广为流传，也引发过巨大争议。

    包括联邦it巨头microsoft总裁比尔*盖茨在内


本章未完，请点击下一页继续阅读》》