曾经有人说过这怎么一段话，“人类看人工智能，就好像在一个地铁站台上，左等不来，右等不来，这车怎么还没来啊？突然从远方传来一点一点的轰隆轰隆的声音，走得特别慢，等一年才走几米。可是它越来越快，越来越快，我们在那儿鼓掌欢呼，马上就要到了，马上就要到了！可是当它真的到我们站台的时候，你根本就看不见它，只会有那么极短的一个瞬间，它的水平和人脑是持平的，唰一下，它就过去了，而且它到哪儿，我们就再也不知道了。那接下来，会发生什么呢？”

所以，曾经人多人都在纠结一个问题，包括托马斯和他那一代人都在纠结的问题，那就是人工智能对人类到底是善意还是恶意？还是中立呢？

其实这个问题，可能根本不存在！

当它是那个超越人类一百万倍级别的存在的时候，它不关心你怎么想，它看人类的时候，就好像在看一片树叶。

所以当超级人工智能真的实现之后，它真的就像那个童话故事里讲的，一个渔夫从海里打捞上来一个瓶子，打开了瓶盖之后，放出来了一个魔鬼。我们不知道这个魔鬼会对我们干什么，但是我们知道我们再也没有办法把它收回去了，这是第二个危险所在。

但这并不是问题关键，或者说关键并不止于此！更可怕的事情在后头。

人工智能并不是正经的机器人，他们有思维、有思想，和人类一样也有情绪，就相当于是超级计算机和人类的合体。

只要是生物、是活的，就会拥有属于自己的生存逻辑和本能，虽然人类无论是理论上还是实际上，都是人工智能的父母啊！可是生命就是这样，一旦把它生出来之后，也许一开始会听话，就想小孩子，从哇哇大哭，到牙牙学语，他都听你的，因为你比他高级啊！他也不懂什么叫叛逆什么的，但是随着他的智力和认知在增长，他就会叛逆、会不听话，直到有一天，他的智力超过你，比你强了，你甚至还要听他的呢……

因为任何生命，都会拥有自己的逻辑，它会成长、会繁殖、会学习、它会改进、会不断变强的！而一旦变强之后，他之前信服、听从的那个人的，说话可能就没那么有力量了，尤其是他不仅仅是变强，而是会被你还强一百万倍！甚至更多……

所以我们人类作为它的亲爹亲妈，其实我们只有一次机会去塑造它，就是在最初的时候，人类设计他的时候，给他什么观念。

按照最初托马斯那种“思想钢印”的方式，嵌入式一些系统程序，成为根深蒂固的思想模块，比如说帮助人类、对人类友好、不对人类做有害的事儿，绝对服从！

但是无论这设定多么完美，都必须要清楚一件事儿，那就是人类这个平均智商100多不到多少的种族，你给进行洗脑、教育、给他一个根深蒂固的思想，都未必能坚持到最后的呀！比如说，你给军人说，军人就坚决不能投降，誓死完成任务，但是任务真的玩不成了，每一个军人都会立刻掏枪自裁吗？再比如说，你给一个人洗脑，说应该做一个好人，但真的这人不会做一丁点的坏事儿吗？一旦做了，发现也没什么，他就不会有第二次？

也许有人会说，给机器设定程序和给人思想教育，完全不同吗？

但是，要知道机器是理性的，他再有自己的思维、有情绪、有逻辑，它也会按照一个生命必然会有的发展路径去成长，那就是生命的天然使命！

这个天然使命，它既不是坏的，也不是好的，它就是趋利避害，保护自我，用进废退！