Tweet Disematkan
大家看过《生命3.0：AI超级智能与伦理边界重构》吗？
是2017年由MIT教授、未来生命研究所创始人 Max Tegmark 创作。
这个 未来生命研究所 可就牛逼了，见图，Advisory全是 霍金、@Elonmusk 这种顶级大佬。
作为AI史必读精作，他将 身体作为硬件，知识作为软件，把生命化分为三个阶段：
生命 1.0，硬件和软件都由进化决定，就像草履虫。
生命 2.0，硬件由进化决定，软件可更新，就像人。
生命 3.0，硬件和软件都能自主设计，就是AI机器人。
由于我们人身体某些硬件已经能被替换了，我们已经处于 2.1 的阶段了。
开头的第一个章节，他讲了一个这样的虚拟故事，当中大量的与现实相似的事件与进程，深深的吸引了我：
有个顶级研发团队叫 欧米伽Omega，致力于打造成一台“超级智能机器，并将其命名为“普罗米修斯”（Prometheus）。
所谓的“超级智能机器”就是：
只要它的智力超越任何人，那么它必然能设计出更好的机器完成自我的升级与迭代。
那么，第一台超级智能机器将会成为人类最后一个发明。
在研发与世界扩张的进程中，他们让 普罗米修斯 做了以下事情：
1. 在Amazon MTurk @amazonmturk 众包任务平台 中利用其智能与效率完成大量微型任务并进行人类学习以完成自我初级迭代，且迅速将 智能转化为第一桶现金流-100w美元，我说的是，每天。
至此开始，它已经为他们的下一步计划提供了足够的资金。不用向上申请经费了。
2. 在进一步的人类学习中制作了海量的全新并且引人入胜的动画片、电影、电视剧，且用AI自动完成大量的市场推广，并远低于市场的订阅价格迅速吸引了大量用户，这让其在2个月之后便击败了 Netflix，三个月便与Warner、Disney、21 Century Fox，Comcast比肩，成为全世界最大的媒体帝国，至此，它的每日营收1亿美金。
3. 世界上出现了一波惊人的科技繁荣，造就了一个“科学黄金新时代”，几乎所有的领域都发布了革命性的新产品，而其价格呈现极大的优势；且机器人公司像雨后春笋般在世界各地冒出来，进军了所有行业并逐渐取代了人类劳动力。
而背后的实控人，均是 Omega团队。
4. 建造并优化了世界各地“社区基建”，学校、医疗机构、日托中心、老年看护中心、经济适用房、停车场等，将“被迫失业”的人均分配进社区工作，并大力的捐赠了当地政客以得到公司进行社区投资的支持。
这段时间，“全民基本收入”（Universal Basic Income）运动呼声极高：
政府应当用税收向每个公民发放一笔最低收入，作为技术性失业的补偿。
有没有想到 $WLD ？
5. 买断并控制了全球的媒体、舆论及发声途径，从而间接潜移默化的控制了所有人的思想。
到底是谁 收了X 啊?
6. 通过资本运作，将全球挑选出的政客逐一推上权力位置，自此，政府们已沦为“omega团队”的傀儡政府。
细思极恐。
但好就好在，Omega团队他们始终秉持着 向善与Team humanbeing 的初心，他们期望：
民主；
减税；
削减政府的社会性服务；
削减军费；
自由贸易；
开放边境；
企业社会责任。
一个由许多公司组成的跨国组织成立了一个名为“人道主义联盟”（Humanitarian Alliance）的非政府组织，得到了欧米茄团队掌控的整个帝国的支持，旨在寻找和资助世界各地最有价值的人道主义项目，完成了世界的向善洗礼，随着时间的流逝，人道主义联盟逐渐成了公认的世界政府，而各国政府的力量日渐式微。
巨大的变化以摧枯拉朽之势迅速席卷全球，侵袭了往日权贵的利益，然而他们再怎么反对，已无法与形成的新的世界格局抗衡。
好险 Omega团队 的初心是好的，那若掌权的又是另外一帮人呢？甚至如果是叶文洁呢？ahhhhhh
在这一虚拟故事设定中，普罗米修斯仍然是“可控的”。
它尚未越过失控的临界点，也尚未与人类形成不可逆的对立关系。
但整本书真正持续深入探讨的，并非技术本身的极限，而是一个更根本的问题：
目标对齐（Alignment）——
如何让 AI 的目标、动机与人类价值保持一致，以及为什么这件事远比技术突破本身更困难。
技术问题可以通过工程迭代解决，
而目标与价值的问题，一旦设定错误，
即便是“成功的智能”，也可能带来灾难性的结果。
所以的确：
第一台超级智能机器将会成为人类最后一个发明。
中文
