人们对埃隆·马斯克的人工智能乌托邦越来越持怀疑态度。

科技领袖们日益强调，人工智能即将创造一个资源丰富的世界，能够解决人类面临的最大挑战，从气候变化到经济匮乏。他们所说的“科技领袖”指的是由科技公司、科学家、发明家、投资者和行业记者组成的庞大生态系统，他们的创新已经重塑了现代生活，使其更加快捷，但未必更加美好。

埃隆·马斯克在最近接受《经济学人》采访时表示，一旦人类拥有“数量庞大、具备强大数字智能的机器人”，全球经济将变得“几乎无限”。他认为，在这样的世界里，“任何人都能拥有他们想要的一切”，到2036年，金钱将变得无关紧要，因为每个人都能享受高收入而无需工作。马斯克将这种未来比作《星际迷航》中描绘的后稀缺社会。

无限富足的梦想

马斯克的愿景反映了科技行业更广泛的愿景：未来几乎任何东西都可以通过轻按按钮或简单的语音指令创造出来。这与《星际迷航》所描绘的愿景不谋而合，在这个愿景中，贫困消失，金钱不再必要，人们的需求都能轻松得到满足。

作者回忆起一位朋友曾经问他：“如果你拥有一台可以制造任何你想要的东西的机器，还有一个完全沉浸式的虚拟现实房间，你为什么还要旅行呢？”然而，《星际迷航》中的角色们却将大量时间用于探索新的文明和遥远的世界。

马斯克认为，即使在后稀缺社会中，有些人仍然会选择工作，就像有些人即使能在超市买到食物，仍然会继续种花种菜一样。

一个未解之谜

然而，马斯克愿景中最引人注目的一点是，他预计人工智能可以在大约十年内统治世界，而人类的参与将降至最低。

这就引出了一个显而易见的问题：如果一切都由智能系统管理，公司如何继续盈利？公司还能继续存在吗？

作者认为，马斯克没有给出明确的答案。

另一个问题自然而然地随之而来：如果人们不再工作，他们的收入来源是什么？

马斯克的回答很简单：政府只需向公民发放支票即可。

作者认为这项提议颇具讽刺意味。马斯克此前曾加入美国总统唐纳德·特朗普的政府，通过政府效率部帮助削减政府开支。然而，他现在所描述的未来却类似于一种人工智能驱动的社会主义，尽管这与他目前的政治立场格格不入。

“将会发生”的测试

作者指出人工智能批评家埃德·齐特龙提出了一个挑战，他要求人工智能爱好者在不使用“将”或“会”等词语的情况下解释当今的人工智能模型究竟能做什么。

作者认为，大多数人工智能倡导者难以做到这一点，因为他们的论点主要依赖于未来的承诺，而不是当前的能力。

当今的人工智能模型能够统治世界吗？

作者认为，如今的大型语言模型距离实现马斯克所设想的未来还相差甚远。

在他看来，这些系统仍然经常出错，所谓的幻觉不仅仅是暂时的缺陷，而是深深植根于模型的运行方式之中。

他还指出，仅靠大型语言模型无法达到管理关键经济系统和基础设施所需的智能水平。他警告说，将社会的重要部门委托给它们，可能会带来灾难而非繁荣。

谁才是真正的受益者？

作者同样对“一旦普遍繁荣到来，当今的科技巨头就会消失”这种观点持怀疑态度。

相反，他认为这种说法旨在安抚公众，同时转移人们对扩大人工智能部署所带来的真正后果的注意力。

在他看来，人工智能目前最有利可图的应用领域是监控系统和军事技术，各国政府似乎愿意承担高昂的成本，以换取更强大的安全和防御能力，即使这些系统仍在不断犯错。

高成本和不确定的盈利能力

作者承认，人工智能已经在某些领域使企业和消费者受益，尤其是在改善互联网搜索方面。

然而，他认为这些好处的真正成本远远高于用户目前支付的成本。

每增加一个用户，就需要更多的计算能力和新的数据中心，这意味着人工智能似乎无法像传统数字业务那样享受规模经济效益。相反，随着用户群的扩大，成本反而持续上升。

因此，他认为，目前的 AI 模型最终可能只有在客户愿意支付全部经济成本的特定应用领域才能盈利。

结论

作者总结道，科技领袖们多年来一直在重复着同一个信息：相信我们，让我们引领你走向更加繁荣的科技未来。

在他看来，如今围绕人工智能的各种承诺，是旨在说服公众接受其快速发展，却没有充分讨论其风险和潜在滥用的更广泛努力的一部分。

他指出，许多社区已经开始反对建设更多的人工智能数据中心，因为这些数据中心成本高昂，而且会对当地社区造成影响。他认为，同样的争论也应该延伸到人工智能本身的用途以及如何防止其被滥用。