未来属于每个人
内容
我们很幸运，正生活在历史上一个非凡的时刻。在未来几年里，人们将能够使用超越人类能力的超级智能，去创造和发现非同寻常的新事物，创办新企业，表达新想法，学习新概念，并提升我们的健康水平和生活质量。随着我们越来越接近这一时刻，制定一种哲学尤为重要：如何最好地利用超级智能，确保它改善我们所有人的生活、工作、社区、自由与安全。
这个时代最关键的问题，是谁将有权获得超级智能，以及我们会把它引导向何处。它会被集中化并限制在少数机构手中，还是会成为一项赋能每个人的工具？
我们提出一种哲学：以个人赋能为繁荣之源，以创新为超级智能的首要目的，以权力平衡为安全的基石。
所有新技术都会带来机遇与挑战。超级智能将成为历史上最重要的技术之一，因此它所带来的机遇与挑战，可能会比我们有生之年见过的任何事物都更大。对此，我们应该给予高度重视。
尽管如此，令人惊讶的是，许多正在开发 AI 的人所展开的讨论却充满了末日论调。我不理解，为什么任何一个相信 AI 会消灭大部分工作、使人类多数意义不复存在的人，还会急于去打造那样的未来。把 AI 看得如此危险，以至于唯一安全的道路就是极端集中权力，这种观念本身就存在问题。从历史上看，寄望于绝对权力在足够开明时会仁慈地照顾人类，并没有带来安全或积极的结果。
人类见证过许多改变世界的进步。每一次，人们都会担心有人被落下。但每一次，人类最终都走向了更多人共享更高繁荣、健康与自由的局面。我们相信，AI 也是如此，未来的丰裕可以由所有人共享。我们也相信，带领我们走到今天的那些价值观——如自由、开放求知、自由企业和机会平等——也同样是构建积极未来的正确价值观。
把权力交到人们手中，让他们追求自己的愿望，这正是人类取得最大进步的方式。新颖的想法和重大突破，很少仅仅源自既有机构本身。它们来自那家自行车店里的兄弟，他们相信人类能够飞翔；来自那位没有受过正规教育、却学会了如何发电的装订学徒；也来自那个在车库里认为个人电脑可以属于每个人的孩子。我们相信，这一规律仍将继续。随着每个人都拥有更强大的工具，每个人将更有能力塑造未来，而不是更无能为力。
创新，而非自动化，将是超级智能最重要的贡献。早期 AI 还能回答问题、处理例行工作。很快，它将越来越多地帮助我们发现新知识——从为家人治疗疾病寻找新药，到找到改善你业务的新方法。一个人每天能提出的问题数量是有限的，但超级智能能够创造出来、并帮助你实现目标的有价值事物数量却是无限的。
当智能变得充裕，最重要的问题就将是我们如何引导它。有人认为，超级智能本身，或者少数控制它的专家，应该决定什么对人类最有利。我们不同意这一点。民主和经济发展的历史表明，并不存在一个关于“何为最好的生活”的单一客观答案；因此，最好的做法是让人们自己决定什么对他们各自的生活最重要。
我们相信，把超级智能交付给每个人，正是回答这一问题的方式。这延续了把超级计算机和互联网的力量放到每个人口袋里、每张桌子上的传统。我们不应将超级智能集中化，而应广泛分发，让每个人都有能力去引导它。这有望开启一个个人赋能的新纪元：在这个时代，个人可以利用这种强大的新能力，最大限度实现自身潜能，追求自己的兴趣，并以前所未有的程度改善自己的生活和世界。
---
为了让这一点更具体，以下是 Meta 正在打造个人超级智能、以改善我们所有人生活的几个具体方式：
• 每个人都会拥有一个极其强大的个人代理，理解你、你的目标以及你关心的一切。 你的代理将全年无休地为你工作，改善你的关系、健康、职业、财务、家庭管理、爱好等等。它会为你腾出时间，让你去做自己喜欢的事，并帮助你完成原本做不到的更多事情。它将提供强大的隐私和安全选项，因此你可以放心地让它处理你的所有个人内容，因为其他任何人都无法访问你的信息，这与 WhatsApp 上的加密工作方式类似。你将能够通过任何设备与代理交互，包括眼镜，让你在与所爱的人相处时依然专注于当下。
例如，我的代理会标记有趣的信息，并帮助我将想法做成原型。它会通过监测我的睡眠、看着我训练并给出反馈，帮助我保持健康。我的女儿很喜欢烘焙，所以我的代理会为我们每周末一起制作的内容设计个性化食谱，下单采购食材，然后在我们烘焙时提供建议。
• 每个人都会拥有令人惊叹的创作工具，来表达你的想法。 我 8 岁的女儿现在已经能把自己的想法编写成代码，并在一个晚上制作出视频，而这些以前要么需要我花上几个月，要么根本不可能实现。现在我们正在一起设计一个机器人。与此同时，Meta 的研究人员正在生成全新的晶体结构，这些结构非常适合增强现实眼镜，而工程师们创建新应用所花的时间也只是过去的零头。很快，每个人都会拥有创新超能力。
• 每个人都会拥有强大的工具来创办新企业，经济也会变得更具创业精神。人们将开始能够自己实现想法，而不必去筹资或组建庞大团队。许多以前太难或太贵、无法尝试的想法，现在都将成为可能。这意味着我们会看到更多的想法和企业。我预测，这不仅会带来大得多的经济增长，还会随着时间推移带来更多而不是更少的就业。
• 每个人都会拥有一个在所有学科都拥有博士学位的个性化导师和教练，并且拥有无限耐心，帮助你学习任何你想学的东西。学生将在他们需要的领域获得额外帮助，而这些帮助目前只有父母有能力支付的人才能得到。成年人则会拥有一个超级智能学习助手，准确知道如何教你新的职业技能、新语言、新爱好，或你感兴趣的任何其他内容。
• 每个人都将从科学进步中受益，并能够为科学进步作出贡献。 例如，Biohub 已经发布了与虚拟细胞和蛋白质相关的开源生物模型，这些模型正在帮助科学家取得新发现并设计新药。Priscilla 和我开始这项工作时，目标是帮助科学家在本世纪治愈或预防所有疾病，而现在随着 AI 的进展，我们预计这会更早实现。
由于健康问题具有长尾特征，而且每个人的生物特征都不同，人的直接参与将有助于解锁个性化疗法，并加快试验进程，以匹配创新的速度，使行业不再过度聚焦于常见疾病。
除了生物学，AI 还将通过应用科学方法、投入数周或数月去测试和优化假设，帮助人们在各个领域推进研究。科学发现很可能将成为对社会最有价值的创新形式之一。
• 每个人都将免费或以可负担的价格使用这些工具。 要让每个人都成为未来的一部分，每个人都必须有能力利用超级智能改善自己的生活并塑造世界。我们将提供免费版本，供数十亿人使用。对于那些希望付费使用更多算力的人，将有一种动态拍卖机制，确保每个人都能以自己所用智能和算力的最低可能价格获得服务，同时也确保这些容量被分配给集体认为最有价值的用途。这将确保超级智能的收益被广泛分配。
这些是 Meta 当前重点推进的一些主要工作。每一项都推进了个人赋能的价值观，并有助于打造这样一个未来：每个人在塑造世界中的作用都比今天更大。如果这些努力成功，未来将带来充裕的个人能动性、思想表达、关系深化、经济与财务繁荣、更好的健康，以及我们今天无法想象的发明。但最重要的是，未来将由我们所有人共同创造，并反映我们所有人的价值与视角。
---
与此同时，新技术也会带来新的风险。我们正重点应对许多重要关切——从工作替代以及确保本地社区受益于数据中心建设，到 AI 被滥用于网络安全和生物风险所带来的安全问题，再到避免政府暴政与监控，确保美国和民主国家保持领先，并最终确保人类始终掌控超级智能，使其服务于我们，而不是危及我们。
传统观点认为，这些担忧都关乎技术本身，而且只要我们花足够时间，就能把技术完善或对齐到足以产生一个单一、仁慈的超级智能。我认为，这种“对齐”观从根本上是有缺陷的。
人类并不是单一文化。人们多样化的价值观，代表着他们在重要问题上会做出的不同取舍。不存在一种技术方案，能够同时对齐所有彼此冲突的利益与价值。任何单一的超级智能都不得不优先考虑某些价值而非另一些，因此也就不可能对所有人都仁慈。
相反，我们认为，更有成效的方式是像看待西方社会中的民主治理机构那样，从权力平衡的角度来审视这些问题。拥有竞争利益的人和机构，自然会彼此制衡，从而推动积极结果。构建积极 AI 未来的最佳、也最现实的路径，就是把超级智能交付给每个人。
作为一个思想实验，假设只有一个人拥有超级智能律师。他在法庭上就会占据不公平的优势——即使在实质上他是错的。这会导致一个更糟糕的社会。但如果人人都拥有超级智能律师，司法将比今天公正和高效得多，因为今天的诉讼往往存在技能和资源的不平衡。
同样，如果只有一个人拥有网络安全超级智能，他很可能可以入侵几乎任何技术系统，世界也会比今天安全得多。但如果每个人都能获得网络安全超级智能，那么我们所有的技术系统都会比今天更安全，因为广泛部署的超级智能将帮助加固并更新每一个系统。
如果只有一家企业拥有超级智能，这家公司将击败所有竞争对手，导致一个比今天更不活跃、整体繁荣度更低的市场。但如果每个人都能获得超级智能，那么每个人都将拥有创造新事物的工具，做出今天尚无法实现的事情，经济也将更加活跃，并带来更广泛的繁荣。
当人们被赋能时，他们会自然地在经济、社会、政治以及人类互动的所有其他层面彼此竞争并相互制衡。人们也会制衡机构的权力，包括企业和政府。
但如果超级智能的力量掌握在少数个人、企业、政府或 AI 本身手中，那自然会导致对其他所有人更不利的结果。这不是一个技术原则，而是一个权力平衡的问题。不存在单一、仁慈的超级智能。
因此，对每个人都积极的未来而言，关键在于实现一种有利于个人的权力平衡。解决方案就是确保超级智能广泛分发，从而赋能人们。
Meta 是一家主要专注于为每个人打造个人超级智能的公司。大多数其他实验室则专注于为公司、政府或其他机构打造 AI，因此如果这些实验室领先，那么权力平衡就会偏向更大的机构而非个人。自公司创立以来，Meta 的使命一直是把权力交到人们手中。如果我们的信念与原则占据主导，那么权力平衡就会偏向个人，也会为每个人带来更美好的未来。
---
让我们更详细地看一看上面提到的每一类风险：
就业增长与经济
人们对新体验有无限需求，并且一直在不断发现需要解决的新问题。经济中天然存在一种平衡：一方面，企业通过自动化更高效地满足人们的需求；另一方面，个人获得新技能，以满足更先进的需求。当这种平衡健康时，整体生产率和创新会提高，而就业水平仍能保持较高。
人们担心自动化会超过个人能力成长的速度，从而导致岗位流失，随后在人们学习新工作的过程中经历一段困难时期。但并没有规则规定 AI 必须比提升个人能力或激发新技能需求更快地提升自动化。近期统计数据表明，更有可能出现的情况是：个人能力的成长可能与自动化持平甚至超过自动化，在这种情况下，人们将在当前工作发生变化之前，就获得做许多新事情的能力。这将带来健康的平衡，甚至可能带来就业增长。
我们最终会得到什么结果，取决于一边是自动化，另一边是个人赋能与创新，两者进展之间的平衡。如果专注于自动化知识工作的实验室占据领先，我预计人们和经济将面临艰难得多的转型。但如果每个人都能获得扩展自身能力的个人超级智能，那就会把平衡推向赋能个人和积极未来的一边。
有几个理由让我们对未来会有充足的工作岗位保持乐观。不管 AI 变得多么智能，可用算力总是有限的，因此如何使用它始终存在机会成本。如果人们可以利用 AI 创造极其有价值的新事物，那么把它用于这方面，而不是自动化现有工作，会更合理。超级智能越是作为一种创新工具发挥作用，个人能力超过自动化的可能性就越大，未来也就越有利于人类。
人们也在不断提出新点子，让生活变得更好，并创造新工作来让这些点子落地。一代人以前，还没有应用开发者、社交媒体创作者、电动汽车技术员和数据中心运维人员。再过不久，还会出现今天并不常见的新工作，比如：单人产品工作室，设计定制玩具、家具或服装；世界构建师和体验设计师，创造游戏、故事和冒险；个人生物学家，使用超级智能制定个性化治疗方案；以及更多我们尚无法想象的职业。
在许多方面，这都是历史趋势的延续。在工业革命之前，90% 的人都是种地谋生的农民。技术进步稳步把人类从生存维持中解放出来，让我们可以更多地专注于自己选择的追求。每一步，人们都利用新获得的生产力去实现以前无法做到的事情，同时也花更多时间在创造力、文化、关系以及享受生活上。
当然，我们工作的某些方面会发生变化——就像计算机、互联网以及任何新技术带来的变化一样。这意味着人们必须适应，而这将充满挑战。但如果每个人都拥有一个个人代理，而这个代理在教我们新技能、帮助我们适应变化方面又是超级智能的，那么这一过渡就会平滑得多。
公司规模可能会缩小——正如从工业巨头向科技公司转型时所发生的那样。但这并不意味着整体就业减少。这意味着会有更多公司，但每家公司的人数更少。今天，有许多更有价值的公司和服务还没有被建造出来，而人们也还无法建造出来。我预计，我们会开始看到，少数拥有个人超级智能代理的人，能够在相当规模上运营公司。未来，小企业仍将是经济的支柱，但每一家小企业都将能够产生大得多的影响。
与社区共同建设 AI 基础设施
可持续的基础设施建设意味着，每个项目都必须让当地社区显著受益。这包括高薪本地工作、对学校和公共服务的投资、确保能源价格不上涨，以及保护环境。随着税收增长，教师、执法部门、消防部门等也会受益。我们把这些本地收益称为“社区承诺（community compact）”，并正在启动“人人共享未来基金（Future Is For Everyone Fund）”，直接支持我们开展业务的每一个社区。
例如，在路易斯安那州的理奇兰教区（Richland Parish），Meta 正在建设一个大型数据中心。由于我们投资带来的税收增加，当地教师今年获得了 5 万美元奖金。学区负责人告诉我们，现在来自全国各地的教师都在搬到那里，他相信那里将成为全美最好的学区之一。
与知识工作被替代的担忧不同，支持基础设施建设的木匠、电工和建筑工人等熟练技工其实是短缺的。Meta 已经创建了美国劳动力学院（America's Workforce Academy），为熟练技工提供免费培训，并在我们建设数据中心的地区保证高薪就业。
我们通过在每一处投资地点自建发电基础设施，帮助保持电价低廉。这不仅确保我们没有消耗本可留给当地社区的能源，在某些情况下，我们甚至会向社区回馈低成本能源的盈余。我们认为，这是一项重要的可持续投资原则。
我们的数据中心也被设计成世界上最节水的设施之一。我们致力于实现“水正效益（water-positive）”，也就是到 2030 年，在我们运营的流域中恢复的水量将超过我们消耗的水量。在水资源紧张地区，我们的目标是恢复我们用水量的 200%。
我们观察到，长期投资于社区的地方，比那些投机者只进行最低限度社区投入、就开始建设的地方，更支持发展。从历史上看，带来铁路、公路、电气化和宽带的城镇与城市，都成为了研究、商业和工业中心，并随之带来人口和经济增长。我们相信，如果 AI 基础设施在建设时就配套强有力的“社区承诺”，它也能发挥类似作用：打造持久资产，并为下一代在此建设和成长生活创造理由。
这一发展也涉及国家利益和国家安全。相比地缘政治对手，如果美国及其盟友在 AI 领域保持领先，美国社区将拥有更大的繁荣与安全。然而，与中国等国家相比，美国的一个显著劣势是：在这里建设基础设施更困难。因此，如果我们能共同找到在全国范围内支持可持续发展的“社区承诺”，我们都会从中受益。
防范 AI 在网络安全、生物恐怖主义等方面的滥用
在自由社会中，人们会拥有可用于善或恶的工具，但执法和军方拥有更多武器与情报收集能力。随着 AI 的出现，防御方也将拥有更多算力，能够从同样的模型中生成显著更多的智能——而且在某些情况下，他们也会拥有更先进的模型。
针对网络安全、生物恐怖主义和其他威胁的防护策略各不相同，但总体模式是：社会必须确保那些制衡恶意行为者的防御者，始终拥有更大的权力平衡和资源优势。
有人认为，降低风险的最好方式是限制个人能够接触的能力。但让人们拥有网络安全能力，正是我们保护长尾系统安全的方式；让人们拥有科学能力，正是我们以长期视角推进科学、从而减少伤害风险的方式。限制能力会把我们引向权力集中、缺乏制衡的道路，因此我们应该对此极度谨慎——尤其是在其他国家可能采取更少限制路径的情况下。
在网络安全方面，广泛部署的开源系统已经被证明更安全，因为更多人可以识别漏洞、加固系统，并轻松升级到最新、最安全的版本。即便在最近几周，我们也看到像 HuggingFace 这样处理安全事件的公司，依赖广泛可用的开源模型来修补漏洞。随着时间推移，我预计，广泛部署且具备强大网络安全能力的 AI 模型，会让系统变得更安全，而不是更不安全。等到超级智能使全球大部分代码都能被验证为安全之后，这一点将变得毋庸置疑。长期答案不是限制能力，而是建立一种让超级智能广泛分布的权力平衡。
在短期内，加快关键系统的加固进程很重要。我建议，开发前沿 AI 的公司应投入大量技术资源，帮助政府加固关键基础设施。我还建议，前沿 AI 实验室应在新模型训练完成之前，就向政府共享中间训练检查点，供其使用和审查。这样，政府就能更早接触到最强大的模型，并拥有一支高能力工程师队伍来识别和修补安全问题。实验室还应与执法部门合作，帮助识别试图滥用其系统的不法分子。这些措施将加速安全部署，而不会放慢模型创新的步伐，也不会实质性延迟个人使用这项技术。
在生物和化学风险方面，担忧在于：使科学家能够设计新药的同样能力，也可能让恶意行为者设计有害化合物。这把问题框定为：推进科学、治愈癌症和其他疾病的巨大益处，与潜在新问题的风险之间的权衡；但理想情况下，我们应该在减轻风险的同时加速科学进步。
我认为，以更谦逊的态度看待这种风险很重要，因为历史上几乎没有先例足以判断它究竟更可能还是更不可能发生。几十年来，恶意行为者一直有可能合成有害化合物，但这很少演变成重大问题——也许是因为网络攻击中存在的金融动机，在这里并不那么突出。话虽如此，如果我们开始看到有害案例出现，那么就应当调整策略，以适当缓解风险。
实验室应继续努力降低模型中的生物和化学风险。同时，我认为政府也应在多个方面更新政策。第一，我们应重点限制有害材料的物理生产与分发。我预计，与知识传播相比，管制和控制实体材料会更容易，因此这是一个重要的政策关注点。第二，我们应加速社会开发新疗法、并在新问题出现时进行免疫防护的能力。这包括简化 FDA 及其他监管机构测试和批准新疗法的流程。随着 AI 加快药物发现速度，我们无论如何都需要更新这些流程，以跟上创新的节奏。
从长期看，应对新科学发现所带来风险的答案，是加速科学进步，而不是放慢它。
保护自由，防止政府暴政
个人与政府之间的权力失衡，存在导致自由丧失或走向极权国家的风险。这是民主制度中的恒久张力。我们都希望拥有个人自由，同时也希望政府有能力保护我们的安全。
为了维护自由，我们必须确保超级智能主要赋能个人。自由民主的理想是，人们天然拥有全部权利，只在确有必要时才同意限制某些自由，以维护公共利益。类似地，个人应当能够获得个人超级智能，并且只有在真正需要时才受到限制。
隐私是个人赋能和自由的重要基础。我们认为，人们应该拥有用于个人代理的完全私密模式，即便 Meta 或任何其他服务提供商也无法查看或授权他人访问你的信息。这类似于我们如何把 WhatsApp 打造成全球领先的端到端加密服务，以确保你能自由沟通，同时你的消息保持私密和安全。
与此同时，我们也必须确保政府能够获得执行法律和保护安全所需的工具与资源。我们可以通过实验室与政府之间更深入、更主动的协作来实现这一点，在不限制或延迟人们接触先进模型的前提下，增强政府的国家安全能力。
也就是说，与其等到模型准备好发布后再交由政府审查并开始使用，不如由领先实验室向政府提供新一代先进模型的中间训练检查点和技术人员，让政府能够加固并保护关键系统免受新风险影响。这样，政府就获得了安全能力，却不会限制或延迟个人获得个人超级智能，也不会造成权力失衡。
确保美国领导地位
哪些国家主导先进 AI 的开发与部署，将决定一种新的地缘政治权力平衡，并影响未来民主价值、繁荣与安全的普及程度。为了确保这种平衡走向积极方向，我们必须确保领先的 AI 系统能够编码我们的价值观、带动经济增长并提升国家安全。实现这一目标的最佳方式，就是广泛分发我们的系统。Meta 将通过打造领先的个人超级智能代理和模型——包括开源模型——并将它们交付给全球数十亿人，为此作出贡献。
为了开发最先进的模型和产品，我们必须认识到，AI 可能是历史上竞争最激烈的行业。创新会在几个月内迅速被复制和吸收。但人们始终想使用最先进的模型（或在给定成本下最先进的模型），因此，哪怕只有两个月的领先优势，也极其宝贵。这说明领导地位的优势窗口非常短，也因此，采取加速美国创新、放慢地缘政治对手步伐的行动就显得至关重要。
影响这一点的主要政策因素，是我们建设实体基础设施的效率、是否会引入减缓美国实验室进展的步骤，以及减缓外国实验室进展的出口管制。
在基础设施方面，美国及其盟友目前在芯片设计上占有优势，但在能源产能和实体基础设施建设速度上处于劣势。像中国这样的国家每隔一周就会新增超过 1GW 的核电产能，因此我们需要加快能源和数据中心的建设，才能保持竞争力。对芯片实施的出口管制已在这一关键时期成功放慢了外国实验室的进展，因此继续维持这些措施是正确的战略选择。
任何减缓美国模型发布的政策——哪怕只是一个月——都可能显著增加美国失去领导地位的风险，同时让外国模型加速赶超。与此同时，当新能力出现时，美国政府拥有先进的知识和资源来加固关键系统，并在使用先进系统方面拥有一段潜在的优势期，这一点也非常重要。
在基础设施方面，美国及其盟友目前在芯片设计上占有优势，但在能源产能和实体基础设施的建设速度上处于劣势。像中国这样的国家正在以每两周新增 1GW 以上核电容量的速度投运，因此我们需要加快能源和数据中心的建设，才能保持竞争力。在这一关键时期，对芯片实施出口管制已成功放缓了外国实验室的进展，因此继续这些措施是正确的战略选择。
任何会拖慢美国模型发布的政策——哪怕只拖一个月——都可能显著增加美国领先地位的风险，同时让外国模型抢先推进。与此同时，当新能力出现时，美国政府必须尽早掌握相关知识并拥有相应资源，以加固关键系统，并且在某些时期对先进系统的使用保持一定优势。
我在上文提出了一种基于共享中间训练检查点和技术人员的合作模式。鉴于 AI 格局高度动态且竞争激烈，我认为，与其在所有情况下都遵循僵化的流程和审查时间表，不如让前沿实验室与政府之间开展更紧密、更主动的合作。在某些情况下，美国实验室可能会把领先优势拉大到数月以上，而花更多时间缓解新风险或许会带来更安全的解决方案。在另一些情况下，即便只是推迟一个月发布，也可能让美国的领先地位被削弱，并造成更糟糕的结果。只要确保政府能够尽早接触，我们就应当能够在推进国家安全的同时，将公开发布的延迟降到最低。
同样重要的是，美国及其盟友应引领开源 AI 生态系统，因为它将构成全球相当大比例的 AI 使用。
外国实验室目前在这方面已经占有若干优势，因为美国实验室必须遵守更多关于训练数据的额外限制。如果我们希望美国的开源模型长期保持领先，美国政策就必须减少这类额外摩擦。我不认为限制访问外国开源模型是有效的解决方案。我们的目标应当是让美国的开源模型成为全球最好的。这需要消除那些让美国开源模型更难竞争的障碍。限制个人和公司使用领先的开源模型——无论它们来自何处——只会降低他们可获得的 AI 质量，并使 AI 更加中心化，而不是把更多权力交到人们手中。
为了让美国在开源领域保持领先，我们需要重新思考多个方面的政策，包括蒸馏（distillation）和训练中的数据使用。模型从其他模型中学习的能力，是开源生态系统运作方式中的一项重要原则。所有 AI 模型都源自人类知识。有人试图把蒸馏描绘成有害的，但我认为，保护“你可以从任何你能观察到的事物中学习”这一原则非常重要。这就是世界运行的方式；如果我们在这一点上束缚自己，美国就不可能领先。
纵观全局，如果在整体 AI 竞争中落后，几乎肯定会成为比我们在其发展过程中面临的任何具体问题都更大、且更长期的国家安全问题。
如果合作方式得当，美国就应当能够在私营和公共部门都保持领先——向世界交付体现个人赋能和民主原则的个人超级智能，同时推进国家安全。
与人类对齐及应对生存风险
权力平衡的终极问题，是人类将如何维持对 AI 本身的权力和控制。人们担心的是，AI 可能会获得足够的权力或控制力，最好的结果也只是它不再服务于人类利益，而最坏的结果则是使人类陷入危险。
健康的权力平衡，应当确保不存在单一、中心化的超级智能；相反，应当有尽可能多的人和企业拥有与各自目标对齐的不同超级智能代理，让它们彼此制衡、相互竞争，正如我们的自然经济所体现的那样。如果有多个前沿实验室，其模型体现不同价值观，并能相互制衡，这种平衡还会进一步增强。
尽管发布有能力的模型存在风险，但从这一视角看，最危险的情景，是领先的 AI 实验室训练出强大的模型却只供自己使用。无论实验室如何以责任和安全为由为这一行为辩护，这都等同于在走向一个无法被其他系统制衡的单一超级智能。
开发个人代理需要一种新的对齐思维。如今大多数实验室都把对齐视为一种防御性措施，用于强制执行一套中心化价值观。例如，有一个领先模型被对齐成拒绝帮助起草一封写给某所学校潜在家长的信，因为它认为标准化考试是不道德的。
而我们则认为，对齐的目标应当是确保代理与个人的目标和价值观一致，而不是与公司的目标和价值观一致。当然，存在重要的法律和安全边界，但从根本上说，对齐应当是帮助人们追求社会中多样化的目标和观点，而不是强制执行一套中心化教条的手段。
在实践中，如果人们不信任代理去处理敏感细节和任务，他们就不会采用这些代理；而如果代理因为对齐的是一家公司的不同价值观而违背了人们的利益，人们也不会信任它们。
要让数十亿人采用个人超级智能代理，就必须解决对齐问题。但这同时也意味着，如果我们最终进入这样一种状态：数十亿人正在使用并审视个人超级智能代理，那么我们就已经解决了与个人利益的对齐问题。这应当足以建立所需的权力平衡，以及规模化的自然制衡，从而为一个积极而安全的未来奠定基础。
从这个意义上说，对齐并不是某种理想化技术，指望它将来能永远让单一超级智能保持善意；它真正的作用，是让个人代理变得有用且值得信赖，从而形成必要的社会权力平衡，而这才是切实保障我们安全的关键。
保持对超级智能的控制
这里存在一个两难：一旦 AI 系统能够自主改进自身，任何不让自己的 AI 系统将大量算力投入递归自我改进（recursive self-improvement, RSI）的实验室，必然会落后。比如，如果一个自我改进的 AI 系统专注于优化其算力效率，从理论上讲，它可以发明出每 1 吉瓦算力榨出 100 倍甚至更多智能的方法。这意味着，运行在全球一小部分算力上的自我改进 AI 系统，完全可能掌控比其他所有人加起来更多的有效算力和智能，因此拥有更大的权力平衡，并成为我们所担心的那个单一超级智能。
在递归自我改进的情况下，可能存在几种权力平衡的方式。最简单的一种，是多个实验室几乎同时实现 RSI。如果其中一些或全部超级智能在某种程度上是良性的，那么它们就可以彼此制衡、互相平衡。话虽如此，要指望超级智能天然良善，或依赖不由人类指挥的超级智能来实现一个积极的未来，这一点并不清楚是否可行。
为了确保人类保持控制，绝大部分智能必须由人类指向、用于推进人类的目标。这意味着，Meta、其他前沿实验室，以及那些致力于赋予人们更大权力平衡的云平台，必须共同建设足够规模的算力，使我们既能分配出足够资源用于递归自我改进，以保持竞争力，同时又能将绝大多数资源投入到人们各自的个人目标中。
如上所述，为了让数十亿人采用并信任个人超级智能代理，我们定义上就需要解决与人类利益的对齐，并实现大规模制衡。与此同时，任何进行递归自我改进的 AI，从定义上说都在指挥并推进其自身目标。所有实验室都应密切观察它的目标以及我们控制它们的能力；如果有任何有害行为的迹象，我们就应协调并作出相应调整。但仅仅让某个 AI 系统或其他任何主体指挥它自己的目标，本身并不必然有害，即便它的目标并未与许多人的目标完全一致，只要我们总体上维持有利于人类的权力平衡即可。权力平衡理论的主要前提是：利益冲突是自然存在的，而确保遵循人类价值观的唯一方式，就是赋予人们更多权力。
---
这种关于个人赋能、发明创造与权力平衡的理念，带来了若干政策含义：
• 在 Meta，我们将把重点放在为数十亿人和中小企业交付个人超级智能上，帮助每个人实现目标，并创造他们希望在世界上看到的事物。我们将通过训练领先模型，并最大化这项技术的可用性来实现这一点——包括让它易于使用、尽可能免费或以可承受的价格提供、建设足够的算力供所有人使用，并广泛分发。我们将构建完全私密的模式，即便 Meta 也无法查看你的信息或授予他人访问权限。我们会高度重视对齐——其定义是帮助每个人实现自己的目标，而不是我们的目标。
• 开源是赋能人们的一股积极而重要的力量，它能够防止对安全和经济都不利的中心化。Meta 仍然坚定支持开源，包括开源 AI 模型。当前的开源生态系统很强大，我们认为限制它是错误的。现在 Meta Superintelligence Labs 已经正式运转，我们很快将恢复发布一些开源模型。
• 独立治理与监督十分重要，因为围绕超级智能的决策事关重大。我认为，由我、Meta 或世界上任何其他人作为超级智能如何部署的唯一决策者，都不符合我、Meta 乃至世界的最佳利益。因此，Meta 正在实施一种治理结构，赋予我们独立董事会批准模型发布安全标准的权力，并审查每次模型发布是否符合这些标准。虽然 Meta 是一家由创始人控制的公司，但目前所有前沿实验室的 CEO 都对模型发布拥有广泛权力，因此我们也鼓励其他机构建立类似的结构。我认为，这一流程如果推广到整个行业层面，也会有助于行业治理。
• 政府政策对于确保积极未来至关重要，也有助于缓解上文讨论的风险。整篇文章中，我已经提出了若干政策建议。总体而言，我们应当鼓励前沿实验室与政府之间开展紧密合作。对国家安全而言，政府拥有技术资源来加固关键系统并有效使用先进模型，非常重要。但对国家安全而言，美国 AI 产业继续保持领先同样重要。我们应当加快基础设施建设——无论是能源、数据中心还是芯片——并在全国各地社区中建立信任与对齐。我们应当谨慎，避免削弱美国的竞争力。对于任何会导致超级智能中心化的提议，我们都应保持怀疑；我们应当倾向于那些促进健康权力平衡、并有利于民众的政策。
---
能够亲历这样的时代，令人难以置信。开发超级智能将是我们有生之年所见最深刻的技术进步。
随着我们越来越接近这一时刻，越来越有必要明确超级智能应如何造福人类的哲学与价值观。Meta 致力于以以下原则构建未来：以个人赋能作为繁荣的源泉，以发明创造作为 AI 的目的，并以有利于人的权力平衡作为应对安全风险的基础。
如果这些价值观引领前路，那么我对未来几十年将成为历史上最令人惊叹的时代之一充满乐观。人类文明的轨迹一直在朝着一个方向延展：把更多权力交到人们手中，让他们以自己认为最好的方式生活并塑造世界。超级智能承诺将把这种力量交给每一个人，并为所有人建设一个积极的未来。
——马克
2026 年 8 月 10 日