聊一聊《智人之上》

前段时间，读书群里有一本书很火热，叫《智人之上》。

我蹭了波热度也去看了看。

这本书主要讲的是人工智能的发展会对人类社会产生哪些严重危害。

这些危害包括但不限于侵犯隐私、破坏民主、加强极权等等。

其实看一眼我们现在的生活被智能手机入侵的程度，这些危害就都易于理解。

看完这本书，我仍能够回想起来并想聊一聊的是以下两个内容：

一、信息网络要在寻求真相和维持秩序之间寻找平衡。

天真的信息观认为：越是有足够多的信息，就越能够接近真想。

但当扭曲的信息被传播，而信息网络又缺乏自我修正机制，“真相”就会造成灾难。

过去由人类连接的信息网络，传播范围有限，但虚假信息制造的“真相”，造成了欧洲历史上最大规模的猎巫行动。

现在人工智能这些非人类实体正在加入信息网络的各个节点，我们确实能了解更多的信息，但同时也接收了不计其数的、难以分辨的假信息，这无益于人类寻求真相。

脸书的算法机制跨越大洋制造了越南的内部冲突，人工智能已经有能力影响人类秩序。

当权者为了社会秩序的稳定偶尔甚至经常会隐瞒真相，但加入信息网络的人工智能则会创造“真相”。

这些由非人类创作出来的人类间的“真相”，则会进一步加剧人类社会的紧张秩序。

所以作者说，虽然真相和秩序是信息网络最难平衡的地方，却也必须被纳入考虑范围。

二、一致性目标

不同于其他生物和非生物智能，人类会权衡利弊。

当付出的代价超过其收益时，人类的理性会使其改变目标争取更大的利益。

这是地球人，再来看一看三体人。

三体人不会“说谎”，他们所想即所说。

三体人把质子——这一封锁地球科技发展的三体产物，告诉了地球人。地球人知道质子的存在，也知道它存在的目的。

总的来说，地球人会变通，三体人很直白。

人工智能则与人类截然不同，与三体人却有异曲同工之处。

人工智能的核心程序完全由人类编写，AI不可能自己改写；

人工智能同时也是绝对完美的目标主义者，他们所做一切皆为人类所想，非常直白。

为了达成人类所想——即人类为AI设定的目标，人工智能在其强大的算法下总会找到一条足以毁灭人类自身的路径。

电影《流浪地球》里的智能MOSS，人为它设定的目标是“人类文明延续”，可MOSS的算法却让它相信达成目标的唯一办法是让舰队中的地球人活下来延续文明，地球毁灭是必须付出的代价。

这应该不是人类想要的结局，但却是人工智能在一致性目标下为人类设定的结局。

人类还能拟写目标方案，制定行动计划，公开对话辩论，投票举行表决。

这些步骤虽然繁琐，充斥着官僚主义气息，但至少满足了人类一定的知情同意权，获得了人类社会表面上的一致认可。

而人工智能为达成目标、在全球信息网络支撑下的海量运算路径，最终交织成了一片“数据乌云”。

AI不会向人类解释这片数据云中的每一滴水珠，人类大概也不想知道其中复杂的形成逻辑。

结局可能就是鲜红的六个字：

你们都是虫子。

如今，非人类智能加入信息传播网络，在科技巨头一致性目标的驱动下正在或者已经影响了人类的现实秩序。

未来，人工智能的发展会把人类社会引向何处？

其实，我对人类文明的未来一直持悲观态度。

历史永远走在新生、壮大和毁灭的循环之路上。

毁灭人类的不是人工智能，也会是其他失控之物。

只不过人类这场毁灭之旅的波及范围，并没有因文明程度的增加而缩小，反而渐渐衍变成全人类的生存危机。

而“智人”下一次的重启之日，又会何时到来？