作者：MARC ANDREESSEN. 编译：Cointime：QDD.

人工智能时代已经来临，人们对此感到十分恐慌。

幸运的是，我在这里带来好消息：人工智能不会毁灭世界，事实上可能拯救世界。

首先，简要介绍一下人工智能是什么：人工智能是将数学和软件代码应用于教授计算机如何理解、综合和生成知识的方式，与人类的方式类似。人工智能就像任何其他计算机程序一样——运行、接受输入、处理和生成输出。人工智能的输出在许多领域中非常有用，从编码到医学、法律和创意艺术。它由人拥有并受人控制，就像任何其他技术一样。

接下来，简要说明一下人工智能不是什么：它不是那种会跃然而起决定屠杀人类或以其他方式毁灭一切的杀手软件和机器人，就像电影中所展示的那样。

再简单地说，人工智能可以让我们关心的一切变得更好。

为什么人工智能能让我们关心的一切变得更好

社会科学几十年来的大量研究最核心的结论是：人类智力可以在生活的几乎所有领域中改善生活结果。更聪明的人在几乎每个活动领域中都有更好的结果：学术成就、工作表现、职业地位、收入、创造力、身体健康、寿命、学习新技能、处理复杂任务、领导力、创业成功、解决冲突、阅读理解、财务决策、理解他人的观点、创意艺术、育儿结果和生活满意度。

此外，人类智力是我们用了几千年时间来创造我们今天所生活世界的杠杆：科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理学、道德。如果没有在所有这些领域应用智力，我们仍然会生活在泥屋中，勉强以自给自足的农业谋生。相反，我们利用智力使我们的生活水平在过去4000年中提高了约10,000倍。

人工智能为我们提供的是深度增强人类智力的机会，从而使所有这些智力产出——以及从此开始的许多其他产出，从新药物的创造到解决气候变化的方法和可达到星际旅行的技术——变得更加出色。

人工智能对人类智力的增强已经开始——人工智能已经在我们周围以各种形式存在，现在通过像ChatGPT这样的大型语言模型迅速升级，并且从现在开始将迅速加速——如果我们允许的话。

在我们人工智能的新时代：

1. 每个孩子都将拥有一个无限耐心、无限同情、无限知识和无限帮助的人工智能导师。这个人工智能导师将在孩子成长的每个阶段都陪伴在他们身边，帮助他们最大限度地发挥潜力，拥有无限爱的机器版本。

2. 每个人都将拥有一个无限耐心、无限同情、无限知识和无限帮助的人工智能助手/教练/导师/训练师/顾问/治疗师。这个人工智能助手将在生活的所有机遇和挑战中陪伴，并最大化每个人的结果。

3. 每个科学家都将有一个可以极大扩展他们科学研究和成就范围的人工智能助手/合作者/伙伴。每个艺术家、工程师、商人、医生、照顾者也将在他们的领域中拥有同样的助手。

4. 每个领导者——首席执行官、政府官员、非营利组织主席、运动教练、教师——都将拥有同样的助手。领导者更好的决策在他们领导的人群中的放大效果是巨大的，因此这种智力增强可能是最重要的。

5. 整个经济的生产率增长将大幅加速，推动经济增长、新产业的产生、新工作岗位的创造和工资增长，从而实现全球范围内物质繁荣的新时代。

6. 科学突破、新技术和新药物将大幅扩展，因为人工智能帮助我们进一步解码自然规律并将其应用于我们的利益。

7. 创意艺术将进入黄金时代，因为经过人工智能增强的艺术家、音乐家、作家和电影制片人能够以比以往更快、更大规模地实现他们的愿景。

8. 我甚至认为人工智能在必要时会改善战争，通过大幅减少战时死亡率。每场战争都以在极度压力和信息有限的情况下由极度有限的人类领导者做出的可怕决策为特征。现在，军事指挥官和政治领导者将有人工智能顾问，帮助他们做出更好的战略和战术决策，从而将风险、错误             和不必要的流血最小化。

9. 简而言之，人们今天用他们的天然智力所做的任何事情，通过人工智能都可以做得更好，而且我们将能够应对以前无法解决的新挑战，从治愈所有疾病到实现星际旅行。

10. 而且，这不仅仅与智力有关！人们对人工智能最低估的品质也许是它能够赋予人性。人工智能艺术使那些本来缺乏技术技能的人们有自由创作和分享他们的艺术创意。与一个富有同情心的人工智能朋友交谈确实可以提高他们应对逆境的能力。而且，与人类医生相比，人工智能医疗聊天机器人已经更具同情心。与其使世界变得更加冷酷和机械化，无限耐心和同情心的人工智能将使世界变得更加温暖和友善。

这里的赌注很高。机会是深远的。人工智能很可能是我们文明创造的最重要和最好的事物之一，当然与电力和微处理器相当，甚至可能超越它们。

人工智能的发展和普及——远非我们应该害怕的风险——是我们对自己、我们的孩子和我们的未来的一种道德责任。

我们应该生活在一个更美好的人工智能世界中，现在我们可以实现这一点。

那么，为什么会出现恐慌？

与这种积极观点相反，当前关于人工智能的公众讨论充斥着歇斯底里的恐惧和偏执。

有人声称人工智能将杀死我们所有人，毁掉我们的社会，夺走我们所有的工作，导致严重的不平等，并使坏人能够做出可怕的事情。

什么解释了从接近乌托邦到可怕的反乌托邦的潜在结果之间的差异？

从历史上看，每一项重要的新技术，从电灯到汽车、无线电到互联网，都引发了道德恐慌——一种社会传染病，让人们相信新技术将毁灭世界或社会，或者两者兼有。Pessimists Archive的团队在过去几十年中记录了这些以技术为驱动的道德恐慌，他们的历史清晰地表明了这一模式。事实证明，当前的人工智能恐慌甚至不是第一个。

现在，当然有许多新技术导致了糟糕的结果——通常是那些在其他方面对我们福祉有巨大益处的技术。所以，并不是道德恐慌的存在就意味着没有什么需要担心的。

但道德恐慌本质上是不理性的——它把可能是合理关注的问题夸大成一种让人难以应对实际严重问题的歇斯底里。

现在，我们正面临着对人工智能的全面道德恐慌。

这种道德恐慌已经被各种行动者用作推动政策行动的动力——要求新的人工智能限制、法规和法律。这些行动者对人工智能的危险进行了极端夸张的公开声明——从道德恐慌中汲取能量并进一步煽动——他们都自称是无私的公共利益捍卫者。

但他们是吗？

他们是对还是错？

AI的洗礼和走私者

经济学家观察到这种改革运动中长期存在的模式。这些运动中的行动者可以分为两类——"洗礼者"和"走私者"——借鉴了20世纪20年代美国禁酒令的历史例子：

1. "洗礼者"是真正相信社会改革的社会改革者，他们从情感上（而不是理性上）深深地感到需要新的限制、法规和法律来防止社会灾难。对于酒精禁令，这些行动者通常是真正虔诚的基督教徒，他们认为酒精正在摧毁社会的道德基础。对于AI的风险，这些行动者坚信AI带来了一种或多种存在危险——把他们绑在测谎仪上，他们真的是这样认为的。

2. "走私者"是自私的机会主义者，他们在新的限制、法规和法律实施中有着经济利益。对于酒精禁令，这些人就是那些在合法酒精销售被禁止时靠非法销售酒精暴富的人。对于AI风险，这些人是CEO，如果建立起政府认可的AI供应商的垄断壁垒，使其免受新的初创企业和开源竞争的影响，他们将获得更多的利润——这相当于软件版的"大而不倒"银行。

愤世嫉俗者会说，其中一些所谓的洗礼者也是走私者——特别是那些受到大学、智库、激进组织和媒体机构的资助，以攻击AI。如果你因为从事AI恐慌而获得工资或拨款，那么你很可能是一个走私者。

走私者的问题在于他们会赢得胜利。洗礼者是天真的理想主义者，走私者是愤世嫉俗的运作者，因此，这种改革运动的结果往往是走私者得到了他们想要的——监管捕获、与竞争对手隔离的保护性法规、垄断形成。而洗礼者会纳闷他们追求社会改进的动力到底错在哪里。

我们刚刚经历了一个惊人的例子——2008年全球金融危机后的银行改革。洗礼者告诉我们，我们需要新的法律和法规来拆分"太大以至于无法失败"的银行，以防止这样的危机再次发生。因此，美国国会通过了2010年的多德-弗兰克法案，宣传称其满足了洗礼者的目标，但实际上却被走私者——大银行——所操纵。结果是，2008年那些"太大以至于无法失败"的银行现在规模更大了。

因此，在实践中，即使洗礼者是真诚的——即使洗礼者是正确的——他们也被狡猾和贪婪的走私者利用。而这正是当前推动AI监管的情况。

然而，仅仅识别这些行动者并怀疑他们的动机是不够的。我们应该从实质上考虑洗礼者和走私者的论据。

AI风险＃1：人工智能会杀死我们吗？

第一个也是最早的AI末日论风险是人工智能会决定杀死人类。

对我们自己创造的技术会起义并摧毁我们的恐惧在我们的文化中根深蒂固。希腊人用普罗米修斯神话表达了这种恐惧——普罗米修斯将破坏性的火焰和更广义的技术（“techne”）带给人类，为此，普罗米修斯被神们永久地受到折磨。后来，玛丽·雪莱在她的小说《弗兰肯斯坦，或现代普罗米修斯》中为现代人创造了我们自己的版本，在这本小说中，我们开发了永生的技术，然后这项技术起义并试图摧毁我们。当然，任何关于AI的恐慌新闻报道都少不了詹姆斯·卡梅隆的《终结者》系列电影中一个闪闪发光的红眼杀人机器人的静态画面。

这个神话的推测演化目的是激励我们认真考虑新技术的潜在风险——毕竟，火焰确实可以用来焚烧整个城市。但正如火焰也是现代文明的基础一样，用来使我们在寒冷而敌对的世界中保持温暖和安全，这个神话忽视了大多数新技术的巨大优势，实际上加剧了破坏性情绪而不是理性分析。只是因为古人像这样惊慌失措并不意味着我们也必须如此；我们可以运用理性。

我的观点是，人工智能会决定杀死人类的想法是一种深刻的范畴错误。人工智能不是经过数十亿年进化而被激发起来参与适者生存之战的生命存在，就像动物和我们一样。它是数学——代码——由人构建、由人拥有、由人使用、由人控制的计算机。认为它最终会发展出自己的思维，并决定它有导致它试图杀死我们的动机，这是一种迷信的挥手之辞。

简而言之，人工智能没有欲望，它没有目标，它不想杀死你，因为它不是活的。而且人工智能是机器——它不会比你的烤面包机更活跃。

现在，显然，有一些真正相信杀人机器人的人——洗礼者——他们的可怕警告在媒体上引起了大量关注，其中一些人声称已经研究这个话题几十年了，现在他们对所了解的内容感到非常害怕。其中一些真正相信者甚至是这项技术的创新者。这些行动者主张对人工智能实施各种奇怪和极端的限制，从禁止人工智能的发展，一直到对数据中心进行军事打击和核战争。他们主张，因为像我这样的人无法排除人工智能未来可能带来的灾难性后果，我们必须采取一种预防性的立场，这可能需要大量的实体暴力和死亡，以防止潜在的灭绝性风险。

我的回应是，他们的立场是非科学的——它有可测试的假设吗？什么情况下这个假设是错误的？我们如何知道什么时候进入到危险区域？除了“你无法证明它不会发生！”之外，这些问题基本上没有得到回答。事实上，这些洗礼者的立场是如此非科学和极端——关于数学和代码的阴谋论——他们已经呼吁使用实体暴力，所以我将做一些我通常不会做的事情，对他们的动机表示怀疑。

具体来说，我认为有三件事正在发生：

首先，记得John Von Neumann对Robert Oppenheimer有关他在创造核武器方面的焦虑的回应吗？冯·诺伊曼说：“有些人承认罪行以声称对罪行负责。”什么是一种可以在听起来并不明显夸耀的情况下为自己的工作的重要性声称功劳的最戏剧化方式？这解释了正在建设和资助AI的洗礼者言行不一致的现象——关注他们的行动，而不是他们的言辞。（杜鲁门在会见奥本海默后更加苛刻：“不要让那个啜泣的婴儿再进来。”）

其次，一些洗礼者实际上是走私者。有一个完整的“AI安全专家”、“AI伦理学家”、“AI风险研究人员”的职业。他们受雇于末日论者，并且他们的陈述应该被适当对待。

第三，加利福尼亚州因其众多的教派而闻名，从EST到人民寺庙，从天堂之门到曼森家族。虽然并非所有的教派都是有害的，而且也许甚至对于感到疏离的人来说是有用的，但有些教派确实非常危险，而且教派在跨越导致暴力和死亡的界限方面非常困难。

实际上，在现在的“AI风险”驱动下，这种类型的教派并不新鲜——有着长期的西方千年主义传统，这产生了启示录教派。AI风险教派具有千年主义启示录教派的所有特征。维基百科上的解释中我加入了一些内容：

“千年主义是一群或一种运动的信仰 [AI风险末日论者]，他们相信社会将经历根本性的转变 [AI的出现]，在那之后一切都将发生改变 [AI乌托邦、末日论或世界末日]。只有戏剧性的事件 [AI禁令、对数据中心的空袭、核打击无监管AI] 被认为能够改变世界 [防止AI]，并且这种改变被预期由一群虔诚和敬业的人来完成或存活下来。在大多数千年主义场景中，即将发生的灾难或战斗 [AI末日论，或其防止]将会在之后出现一个新的、纯净的世界 [AI禁令]，信徒将在这个世界上得到奖励 [或者至少被认可一直以来是正确的]。”

这种启示录教派的模式是如此明显，以至于我惊讶为什么更多的人没有看到它。

不要误会，教派很有趣，他们的著作通常很富有创造力和引人入胜，他们的成员在晚宴和电视节目中也很引人入胜。但他们的极端信仰不应决定法律和社会的未来——显然不是这样。

AI风险＃2：人工智能会毁掉我们的社会吗？

第二个被广泛讨论的AI风险是人工智能会毁掉我们的社会，通过产生对人类来说“有害”的信息输出。

这是一个相对较新的末日论者关注点，它从我上面描述的“AI风险”运动中分化出来，并在一定程度上占据了主导地位。事实上，“AI风险”的术语最近从“AI安全性”——由那些担心人工智能会直接杀死我们的人使用的术语——变成了“AI对齐”——由那些担心社会“伤害”的人使用的术语。最初的AI安全人士对这种转变感到沮丧，尽管他们不知道如何让它回到原来的状态——他们现在主张实际的AI风险主题被重命名为“AI不杀人主义”，这个术语尚未被广泛采用，但至少是清晰明了的。

AI社会风险索赔的本质就在于其自身的术语“AI对齐”。对齐什么？人类价值观。哪些人类的价值观？问题就在这里变得棘手起来。

恰好，我对类似情况——社交媒体的“信任和安全”之战——有着近距离的观察。众所周知，多年来，社交媒体服务一直面临来自政府和活动家的巨大压力，要求他们禁止、限制、审查和压制各种内容。而“仇恨言论”（以及其数学对应物“算法偏见”）和“错误信息”的相同担忧直接从社交媒体背景转移到了“AI对齐”的新领域。

我在社交媒体战争中学到的重要经验有：

一方面，没有绝对的言论自由立场。首先，包括美国在内的每个国家至少都将某些内容视为非法。其次，有一些种类的内容，比如儿童色情和煽动实际暴力，几乎每个社会都普遍认为它们是不允许的——无论是否合法——这几乎得到了每个社会的广泛同意。因此，任何促进或生成内容——言论——的技术平台都将有一些限制。

另一方面，滑坡不是谬论，而是不可避免的。一旦建立了限制甚至是极其可憎的内容的框架——例如，对于仇恨言论，对特定伤害性词汇的限制，或对错误信息，显然错误的声明，如“教皇死了”——各种政府机构、活动家压力团体和非政府实体就会投入到行动中，要求越来越大程度的审查和压制他们认为对社会和/或他们个人偏好构成威胁的言论。他们将一直这样做，甚至包括以公然犯罪的方式。在社交媒体上，这一循环已经持续了十年，只有特定的例外情况才会变得更加热烈。

所以，现在“AI对齐”周围形成了这种动态。其拥护者声称他们有智慧来工程化对社会有益的AI生成的言论和思维，并禁止AI生成对社会有害的言论和思维。他们的反对者声称，思想警察极其傲慢和专横——在美国至少往往是明显的犯罪行为——实际上正在试图成为直接从乔治·奥威尔的《1984》中抄袭的新型融合政府-企业-学术权威言论独裁体制。

由于“信任和安全”以及“AI对齐”的支持者都聚集在全球人口的非常狭小的切片中，这个切片描述了美国沿海精英阶层——其中包括许多从事技术行业的人——我的许多读者可能会发现自己倾向于主张对AI输出进行戏剧性的限制，以避免摧毁社会。我现在不会试图说服你们，我只会简单地陈述这种需求的本质，以及世界上大多数人既不同意你们的意识形态，也不想看到你们获胜。

如果你不同意正在通过不断升级的言论规范对社交媒体和AI施加的主导的利基道德观，你还应该意识到AI被允许如何运作将比任何其他事情都重要——可能更加重要。你应该意识到小而孤立的一群政治社会工程师正在试图决定这一点，而他们声称他们是在保护你。

简而言之，不要让思想警察压制AI。

人工智能风险之三：人工智能会夺走我们所有的工作吗？

对于因机械化、自动化、计算机化或人工智能而失业的担忧，自从机械纺织机等机械首次出现以来，已经成为数百年来反复出现的恐慌。尽管历史上每一次重大新技术的出现都导致了更多数量的工作岗位以及更高的工资水平，但每一次这种恐慌的浪潮都伴随着声称“这次不同”的说法——这一次终将发生，这一次将是对人类劳动的致命一击的技术。然而，这种情况从未发生过。

在我们最近的过去，我们经历了两个技术驱动的失业恐慌周期——2000年代的外包恐慌和2010年代的自动化恐慌。尽管在过去的二十年中，许多嘴巴、专家和科技行业高管不断地狂热宣称大规模失业即将到来，但截至2019年底（即COVID爆发之前），世界上的就业岗位比历史上任何时候都要多，而且工资水平也更高。

然而，这种错误的观念并不会消亡。

事实证明，它又回来了。

这一次，我们终于拥有了能够夺走所有工作并使人类工人变得多余的技术——真正的人工智能。这一次历史不会重演，人工智能将导致大规模失业，而不是经济、就业和工资的快速增长，对吗？

不，这种情况不会发生——事实上，如果允许人工智能在整个经济中得以发展和普及，它可能会引发有史以来最引人注目和持久的经济繁荣，并带来创纪录的就业和工资增长——完全与恐惧相反。以下是原因。

自动化将工作岗位消灭的核心错误思维是所谓的“劳动总量谬误”。这个谬误是一种错误的观念，即在任何特定时间点上，经济中需要完成的劳动总量是固定的，要么由机器完成，要么由人类完成——如果由机器完成，就没有工作可以供人类做了。

劳动总量谬误源自天真的直觉，但在这里天真的直觉是错误的。当技术应用于生产时，我们获得了生产力增长——通过减少投入而增加产出。结果是商品和服务的价格降低。随着商品和服务价格的下降，我们为它们支付的费用减少，这意味着我们现在有了额外的消费能力，可以用来购买其他东西。这增加了经济中的需求，推动了新的生产活动，包括新产品和新行业的产生，进而为之前被机器替代的人们创造了新的工作机会。结果是一个更大的经济体，拥有更高的物质繁荣程度，更多的行业，更多的产品和更多的工作。

好消息还不止于此。我们还能获得更高的工资。这是因为，在个体工人层面上，市场根据工人的边际生产力来确定薪酬。在一个融入了技术的企业中，一个工人的生产力将比一个传统企业的工人更高。雇主要么会给予这个工人更高的工资，因为他现在更有生产力，要么其他雇主会这样做，纯粹出于自身利益考虑。结果是，技术引入一个行业通常不仅增加了该行业的工作岗位数量，还提高了工资水平。

总之，技术使人们能够更加高效地工作。这导致现有商品和服务的价格下降，工资上升。这反过来又推动了经济增长和就业增长，同时促使新工作岗位和新行业的创造。如果市场经济能够正常运作，如果技术能够自由引入，这将是一个永不结束的持续向上的循环。正如弥尔顿·弗里德曼所观察到的，“人类的欲望和需求是无穷无尽的”——我们总是想要比我们拥有的更多。一个融入了技术的市场经济是我们更接近实现每个人都可以想象的一切都能得到的方式，但永远不会完全实现。这就是为什么技术不会破坏工作岗位，也永远不会破坏工作岗位。

对于那些没有接触过这些想法的人来说，这些都是令人震惊的思想，可能需要一些时间来理解。但我发誓我并没有凭空编造它们——实际上，你可以在标准经济学教材中找到所有这些内容。我推荐亨利·哈兹里特（Henry Hazlitt）的《一堂经济学课》中的“机器之咒”一章，以及弗雷德里克·巴斯夏（Frederic Bastiat）的讽刺性的《蜡烛制造商请愿书》，这本书描述了它与照明行业的不公平竞争，这是为我们的时代进行了现代化的改编。

但你现在可能在想，这一次情况不同。这一次，随着人工智能的出现，我们拥有了可以替代所有人类劳动的技术。

但是，根据我上面描述的原则，想象一下如果所有现有的人力劳动都被机器所替代意味着什么。

这将意味着经济生产力增长的起飞速度将绝对是天文数字，远远超过任何历史先例。现有商品和服务的价格将普遍降至接近零。消费者福利将飙升。消费者的购买力将激增。经济中的新需求将爆发。企业家们将创造令人眼花缭乱的新行业、产品和服务，并尽可能快地雇佣尽可能多的人和人工智能来满足所有的新需求。

假设人工智能再次取代了这些劳动力？这个循环将重复，推动消费者福利、经济增长以及工作和工资增长更上一层楼。这将是一种直线式的上升，进入了亚当·斯密（Adam Smith）或卡尔·马克思（Karl Marx）从未梦想过的物质乌托邦。

我们应该如此幸运。

人工智能风险之四：人工智能会导致严重的不平等吗？

说到Karl Marx，关于人工智能夺走工作的担忧直接引出了下一个所声称的人工智能风险：好吧，马克，假设人工智能确实夺走了所有的工作，无论是出于好的还是坏的目的，这难道不会导致大规模的财富不平等，因为人工智能的所有经济回报都归所有者所有，而普通人一无所得吗？

恰好，这是马克思主义的一个核心观点，即生产资料的所有者——资产阶级——必然会从真正从事实际工作的人——无产阶级——那里窃取全部社会财富。这是另一个谬误，无论现实如何一再反驳，它都不会消亡。但让我们彻底揭穿它。

这个理论的缺陷在于，作为一种技术的所有者，你没有理由将其保留给自己——事实上恰恰相反，你有理由将其销售给尽可能多的客户。全球最大的市场是全世界的人口，即80亿人口。所以实际上，每一项新技术——甚至那些最初只销售给高薪大公司或富有消费者的技术——都会迅速传播，直至进入尽可能大的大众市场，最终传播到全球的每个角落。

这其中的经典例子就是Elon Musk在2006年对特斯拉提出的所谓“秘密计划”——他当然公开发布了：

第一步，建造[昂贵的]跑车

第二步，用这些钱建造一辆价格更实惠的车

第三步，用这些钱建造一辆更实惠的车

……这当然正是他做到的，结果成为了世界上最富有的人。

这最后一点非常关键。如果埃隆今天只向富人销售汽车，他会变得更富有吗？不会。如果他只为自己制造汽车，他会比现在更富有吗？当然不会。不，他通过向全球最大可能的市场——全世界人口——销售来最大化自己的利润。

简而言之，每个人都能拥有这样的技术——正如我们在过去看到的不仅仅是汽车，还有电力、无线电、计算机、互联网、移动电话和搜索引擎。开发这些技术的公司极具动力，要将价格推向下降，直至全球每个人都能负担得起。这正是人工智能中已经发生的事情——这就是为什么你现在可以免费或者以低成本使用最先进的生成式人工智能，比如微软的必应（Microsoft Bing）和谷歌的巴德（Google Bard），而且这种趋势还将继续下去。这不是因为这些供应商愚蠢或慷慨，而是因为他们贪婪——他们想要最大化市场规模，从而最大化利润。

因此，发生的情况与技术推动财富集中化的观点相反——技术的个体客户，最终包括全球的每个人，反而得到了权力的增强，并获得了大部分创造的价值。与此前的技术一样，构建人工智能的公司——假设它们必须在自由市场中运作——将竞相努力使这一点成为现实。

马克思当年错了，他现在还是错了。

这并不是说不平等不是我们社会中的一个问题。它确实存在，只是它并不是由技术驱动的，而是由相反的因素驱动的，即那些对新技术最抵制、政府干预最多以阻止人工智能等新技术的采用的经济部门——特别是住房、教育和医疗保健。人工智能和不平等的实际风险不在于人工智能会导致更多的不平等，而在于我们不允许人工智能被用于减少不平等。

人工智能风险之五：人工智能会导致坏人做坏事吗？

到目前为止，我已经解释了人工智能的五个最常被提出的风险中有四个实际上并不存在——人工智能不会复活并杀死我们，人工智能不会毁掉我们的社会，人工智能不会导致大规模失业，人工智能不会导致严重的不平等增加。但现在让我们来讨论第五个风险，这是我实际上同意的：人工智能将使坏人更容易做坏事。

从某种意义上说，这是一个重言论。技术是一种工具。从火和石头开始，工具可以用来做好事——烹饪食物和建造房屋——也可以用来做坏事——烧人和击打人。任何技术都可以用于好坏两个方面。没错。人工智能将使犯罪分子、恐怖分子和敌对政府更容易做坏事，这是毫无疑问的。

这导致一些人提出，好吧，既然这样，让我们在这种情况下禁止人工智能，以免发生这种情况。不幸的是，人工智能并不是一种难以获得的神秘物质，就像钚一样。恰恰相反，它是世界上最容易获取的材料——数学和代码。

人工智能的猫已经跑出了包袱。你可以通过数千门免费的在线课程、书籍、论文和视频学习如何构建人工智能，而且每天都有出色的开源实现项目不断涌现。人工智能就像空气一样——它将无处不在。为了阻止这一点，所需的集权压迫将是如此严酷，以至于需要一个监控和控制所有计算机的世界政府？黑色直升机上的武装暴徒抢夺反叛的图形处理器？那样的话，我们将没有一个社会可以保护。

因此，我们有两种非常直接的方法来应对人工智能为坏人做坏事的风险，而这正是我们应该关注的。

首先，我们已经有法律来将人们可能会用人工智能做的大部分坏事定为犯罪行为。侵入五角大楼的电脑系统？那是犯罪。从银行偷钱？那也是犯罪。制造生物武器？那是犯罪。实施恐怖袭击？那也是犯罪。我们只需专注于在可能的情况下预防这些犯罪，并在无法阻止时进行起诉。我们甚至不需要新的法律——我不知道有哪个实际上已经提出的坏用途是合法的。如果确定了一种新的坏用途，我们就禁止该用途。得证明。

但你会注意到我在其中提到了一个事情——我说我们应该首先专注于在坏用途发生之前预防人工智能辅助的犯罪——难道这意味着预防就意味着禁止人工智能吗？那么，还有另一种方法可以预防这样的行为，那就是将人工智能作为一种防御工具。使人工智能在坏人手中具有危险性的能力，也使其在善良的人手中具有强大的力量——特别是那些从事防止坏事发生工作的善良人士。

例如，如果你担心人工智能生成虚假的人物和虚假的视频，答案就是构建新的系统，人们可以通过加密签名验证自己和真实内容。在人工智能之前，数字内容的真实和虚假的创造和修改已经存在；答案不是禁止文字处理器和Photoshop——或者人工智能——而是利用技术构建一个真正解决问题的系统。

因此，第二点，让我们积极投入人力、物力，利用人工智能来进行善良、合法的防御工作。让我们在网络防御、生物防御、追捕恐怖分子以及我们为了保护自己、社区和国家所做的一切方面发挥人工智能的作用。

当然，现在已经有很多聪明的人在政府内外做着这些工作——但是如果我们将当前过于专注于禁止人工智能的徒劳前景的所有努力和智慧用于使用人工智能来防范坏人做坏事，我相信与今天相比，充斥着人工智能的世界将更加安全。

不追求最大力量和速度开展人工智能的实际风险

最后，还有一个真正的人工智能风险可能是最可怕的：

人工智能不仅仅是在西方相对自由的社会中发展，它也在某国执政党手中得到发展。

某国对人工智能有着与我们截然不同的愿景——他们将其视为一种用于集权人口控制的机制，而且他们对此从来都不保密，他们已经在追求他们的议程。而且，他们不打算将人工智能战略局限于某国，他们打算将其在拥有5G网络、提供“一带一路”借款、以及提供类似Tiktok这样的友好消费者应用作为其集中控制人工智能的前端的地方广泛推广。

人工智能的最大风险就是某国在全球范围内获得人工智能的主导地位，而我们——美国和西方——没有。

我提出了一个简单的策略来解决这个问题——实际上，这是罗纳德·里根总统在与苏联赢得第一次冷战时所采取的策略。

“我们赢，他们输。”

与其让关于杀手人工智能、有害人工智能、破坏就业的人工智能和导致不平等增加的人工智能的无根据的恐慌使我们陷入被动，我们美国和西方应该全力以赴支持人工智能。

我们应该争取赢得全球人工智能技术优势的竞赛，并确保某国不会获得这一地位。

在这个过程中，我们应该尽可能快地将人工智能引入我们的经济和社会，以最大限度地提高经济生产力和人类潜力。

这是抵消真正人工智能风险的最佳方式，也是确保我们的生活方式不被更加黑暗的某国愿景所取代的方式。

我们应该如何做？

我提出一个简单的计划：

1. 大型人工智能公司应该被允许尽快、积极地构建人工智能——但不应被允许实现监管垄断，不应被允许建立一种因错误的人工智能风险而免受市场竞争的政府保护的卡特尔。这将最大限度地利用这些公司令人惊叹的能力为技术和社会带来回报，这些公司是现代资本主义的珍宝。

2. 初创人工智能公司应该被允许尽快、积极地构建人工智能。他们既不会面对政府授予大公司的保护，也不会得到政府的援助。他们应该被允许自由竞争。如果初创公司不能成功，他们在市场上的存在也将不断激励大公司做到最好——我们的经济和社会都是受益的。

3. 开源人工智能应该被允许自由传播并与大型人工智能公司和初创公司竞争。对于开源来说，不应有任何监管障碍。即使在开源没有击败公司的情况下，它的广泛可用性对全世界的学生来说是一种福音，他们想要学习如何构建和使用人工智能来成为技术未来的一部分，并确保无论他们是谁，他们有多少钱，人工智能都可供他们使用。

4. 为了抵消坏人利用人工智能做坏事的风险，政府与私营部门合作，应在潜在风险的每个领域积极运用人工智能，以最大限度地提高社会的防御能力。这不应仅限于人工智能相关的风险，而也包括更普遍的问题，如营养不良、疾病和气候变化。人工智能可以成为解决问题的强大工具，我们应该将其作为这样的工具来接受。

5. 为了防止某国在全球范围内取得人工智能的主导地位，我们应该充分发挥我们的私营部门、科学机构和政府的全部力量，齐心协力推动美国和西方在人工智能领域实现绝对的全球优势，包括最终在某国本土实现。我们赢，他们输。

这就是我们如何利用人工智能拯救世界。

现在是时候行动起来了。

英雄与传奇

最后，我想用两个简单的说法结束。

人工智能的发展始于上世纪40年代，与计算机的发明同时进行。关于神经网络——我们今天人工智能的架构——的第一篇科学论文于1943年发表。在过去的80年中，整整一代人的人工智能科学家出生、上学、工作，甚至有些人去世了，他们都没有看到我们现在所得到的回报。他们是传奇，每个人都是。

今天，越来越多的工程师——其中许多人年轻，可能有祖父母甚至曾祖父母参与了人工智能背后思想的创造——正在努力使人工智能成为现实，尽管有着大量的恐慌和灾难论试图将他们描绘成鲁莽的恶棍。我不认为他们鲁莽或者是恶棍。他们都是英雄。我和我的公司非常高兴支持尽可能多的人工智能工作者，我们将全力支持他们和他们的工作。