Vitalik眼中的「AI 2027」：超级AI真的会毁灭人类吗？

原文作者：Vitalik ButerinGSb数字认知网 - 区块链数字货币实时行情平台

原文编译：Luffy，Foresight NewsGSb数字认知网 - 区块链数字货币实时行情平台

今年 4 月，Daniel Kokotajlo、Scott Alexander 等人发布了一份报告《AI 2027 》，描绘了 「我们对未来 5 年超人类 AI 影响的最佳猜测」。他们预测，到 2027 年，超人类 AI 将诞生，而整个人类文明的未来将取决于类 AI 的发展结果：到 2030 年，我们要么迎来乌托邦（从美国视角看），要么走向彻底毁灭（从全人类视角看）。GSb数字认知网 - 区块链数字货币实时行情平台

此后几个月，针对这一场景的可能性，出现了大量观点各异的回应。在批判性回应中，多数聚焦于 「时间线过快」 的问题：AI 的发展真的会如 Kokotajlo 等人所说的那样持续加速，甚至愈演愈烈吗？这场辩论在 AI 领域已持续数年，许多人对超人类 AI 会如此迅速地到来深表怀疑。近年来，AI 能够自主完成的任务时长大约每 7 个月翻一番。若这一趋势延续下去，AI 要能自主完成相当于整个人类职业生涯的任务，得等到 2030 年代中期。这一进展虽然也很快，但远晚于 2027 年。GSb数字认知网 - 区块链数字货币实时行情平台

那些持有更长时间线观点的人倾向于认为，「插值 / 模式匹配」（当前大语言模型所做的工作）与 「外推 / 真正的原创思维」（目前仍只有人类能做到）存在本质区别。要实现后者的自动化，可能需要我们尚未掌握甚至无从入手的技术。或许，我们只是在重蹈计算器大规模应用时的覆辙：错误地认为，既然我们已快速实现某类重要认知的自动化，其他一切也将很快跟进。GSb数字认知网 - 区块链数字货币实时行情平台

这篇文章不会直接介入时间线之争，也不会涉及 「超级 AI 是否默认具有危险性」 这一（非常重要的）争论。但需说明的是，我个人认为时间线会比 2027 年更长，而且时间线越长，我在这篇文章中提出的论点就越有说服力。总体而言，本文将从另一个角度提出批判：GSb数字认知网 - 区块链数字货币实时行情平台

《AI 2027 》场景隐含一个假设：领先 AI（「Agent-5 」 及后续的 「Consensus-1 」）的能力会迅速提升，直至拥有神一般的经济与破坏力量，而其他所有人的（经济与防御）能力则基本停滞不前。这与情景本身 「即便是在悲观世界里，到 2029 年我们也有望治愈癌症、延缓衰老，甚至实现意识上传」 的说法自相矛盾。GSb数字认知网 - 区块链数字货币实时行情平台