我们最后的发明

人类面对的是一支 ASI 集体，集体里的每个成员都比最聪明的人 类聪明 1000 倍，它们打败人类捍卫者会不费吹灰之力。那就等于是 智力的汪洋大海对抗一滴水。IBM 公司的国际象棋计算机“ 深蓝 ”只 是一台机器( 而不是一支不断自我改进的 ASI 团队 )，跟它对抗的感 觉或许对我们有点启发意义。两位跟“ 深蓝 ”交过手的国际象棋大师 说过同样的评语:“ 就像是一堵墙朝你压了过来。”

这是所谓“计算神经科学 ”新领域的发展。这个领域的领军 人物，达特茅斯大学脑工程实验室主任，理查德·格兰杰( Richard Granger )博士创建了模拟人类大脑回路的算法。他甚至为以大脑回 路运作方式为基础的一台超强计算机处理器申请了专利。等它进入 市场的时候，我们会看到计算机系统在视觉识别对象方面实现巨大 的飞跃，因为它们采用了我们大脑所用的方式。

......除非精心设计，否则，这种机器人真的很危险。 如果没有特殊的预防措施，它会拒绝关机，会尝试闯入其 他机器，自我复制，罔顾他人安危获取资源。这些潜在的 有害行为会发生，不是因为它们一开始的程序就是这样， 而是因为目标驱动系统的内在本质如此。

电子商务巨头使用的“ 推荐 ”功能，就借助了名为“ 亲和性分 析 ”( A nity Analysis )的机器学习技术。这是一种让你去购买类似物 品(交叉销售)、更贵物品(向上销售)或用促销锁定你的策略。它 的工作原理很简单。针对你搜索的任何项目，可称之为物品 A，都购 买了 A 的人往往还会购买另一些项目，也即物品 B、C 和 D。每当你 开始检索 A，你就触发了亲和性分析算法。它深挖巨大的交易数据 库，找到相关产品。也就是说，它利用自己不断增长的数据存储来 改善自己的表现。