我们已经穿越了事件视界，起飞已然开始。人类正接近构建数字超级智能，而到目前为止，它远没有看上去那么奇怪。
街道上还没有行走的机器人，我们大多数人也不是整天与 AI 对话。人们仍然因疾病而死去，我们仍然无法轻易进入太空，宇宙中仍有许多我们不了解的奥秘。
然而，我们最近已经构建出在许多方面比人类更聪明的系统，并能显著增强人类使用者的产出。最不可能的部分已经完成：促成 GPT-4 和 o3 等系统的科学洞见得之不易，但它们将带我们走得更远。
AI 将以多种方式造福世界，但从 AI 推动科学进步和提升生产力中带来的生活质量提升将是巨大的；未来可能远胜于当下。科学进步是一切进步中最主要的驱动力；想象一下我们可以取得多大进展，令人兴奋。
从某种意义上讲，ChatGPT 已经比历史上任何一个人类都强大。每天有数亿人依赖它，并且用于越来越重要的任务；一个小小的新能力就能带来巨大的正面影响；而一个小小的偏差乘以数亿人，就可能带来巨大的负面后果。
2025 年，我们已经迎来了能完成真实认知工作的智能代理；编写计算机代码的方式将永远改变。2026 年很可能会出现能自行发现新见解的系统。到 2027 年，我们可能会看到能在现实世界中完成任务的机器人诞生。
更多人将能创造软件和艺术。但世界对这两者的需求也在迅速增长，而专家依然可能远胜于新手，只要他们愿意拥抱这些新工具。总体而言，2030 年一个人完成的事情将远多于 2020 年，这种变化将极为显著，许多人也将从中受益。
在最重要的方面，2030 年代可能不会大变样。人们仍会热爱家庭，表达创造力，玩游戏，在湖中游泳。
但在另一些同样重要的方面，2030 年代将与以往任何时代都大不相同。我们尚不知人类水平之上的智能能走多远，但我们即将找到答案。
在 2030 年代，智能与能量——即思想与实现思想的能力——将变得极为丰富。它们长期以来限制着人类的进步；有了充足的智能和能源（以及良好的治理），理论上我们可以实现任何事物。
如今我们已经生活在拥有强大数字智能的世界里，而在最初的震撼之后，大多数人已经习以为常。从惊叹 AI 能写出优美段落，到期待它能写出完整小说；从震惊它能诊断疾病，到期待它开发出治愈方法；从惊讶它能写出小程序，到期待它创办完整公司。这就是奇点的表现：奇迹变为日常，日常成为起点。
科学家们已经表示，他们的工作效率比 AI 之前提升了两到三倍。先进 AI 的意义多种多样，但也许最重要的是我们可以用它来加速 AI 自身的研究。我们可能发现新的计算基材，更好的算法，乃至更多未知。若我们能在一年、甚至一个月内完成十年的研究，进步的速度显然将截然不同。
从现在开始，我们已经构建出的工具将帮助我们获得更多科学洞察，并协助我们打造更强大的 AI 系统。虽然这还不是 AI 完全自主地更新自己的代码，但这确实是“递归自我改进”的萌芽阶段。
还有其他的正反馈循环在发挥作用。经济价值的创造已启动了一个持续构建 AI 基础设施的飞轮。机器人制造机器人（在某种意义上，数据中心构建数据中心）也已指日可待。
如果我们一开始以传统方式制造第一批一百万台类人机器人，但它们随后能操作完整的供应链——采矿、精炼、运输、制造等——用于生产更多机器人、芯片工厂和数据中心，那么进步的速度将明显不同。
当数据中心的生产实现自动化后，智能的成本最终可能趋近于电力成本。（人们常问 ChatGPT 一次查询消耗多少能量：平均每次约 0.34 瓦时，相当于烤箱运行一秒多，或高效灯泡亮几分钟。它也约消耗 0.000085 加仑水，大约是 1/15 茶匙。）
科技进步的速度将继续加快，而人类也始终有适应一切的能力。虽然会有难题，比如某些职业消失，但与此同时世界将迅速变得更加富裕，使我们能认真讨论以往不可能实现的政策思路。我们不太可能突然改变社会契约，但几十年后回望，逐渐发生的改变将是巨大的。
历史告诉我们，人类总能找到新的事可做、新的欲望目标，并迅速吸收新工具（工业革命之后的职业变化就是例证）。人们的期望会提高，但能力也将同步提升，我们将拥有更美好的事物。我们会继续为彼此创造奇迹。人类相比 AI 有一个长期的、重要的、不可替代的优势：我们天生在意他人及其想法与行为，而对机器无感。
一千年前的自给农民若看到我们今天的工作，可能会觉得我们只是在玩游戏取乐，因为我们早已拥有充足的食物和难以想象的奢侈品。我希望我们在未来一千年后看到彼时的“工作”也会觉得那是假工作，但毫无疑问，它们对当时的人而言将是极为重要而满足的事业。
未来的新奇迹层出不穷，令人难以想象。到 2035 年，我们可能会从一年解决高能物理问题，下一年就开始太空殖民；或从某年实现材料科学重大突破，下一年便拥有真正的高带宽脑机接口。许多人将选择维持现有生活方式，但也有人可能选择“接入”未来。
展望未来，这一切确实令人难以理解。但实际经历时，可能只会让人感到震撼但可控。从相对视角看，奇点是逐步发生的，融合是缓慢进行的。我们正沿着指数科技进步的长弧上攀升；向前看是垂直的，回头看是平坦的，但本质上是一条平滑的曲线。（想想 2020 年，如果有人告诉你我们将在 2025 年接近通用 AI，你会觉得荒唐——但看看过去 5 年实际上发生了什么。）
与巨大机会并存的，是必须面对的严峻挑战。我们确实需要解决安全问题，无论是技术上还是社会上；而后，广泛分发超级智能的访问权极为关键，因为这关系到经济公平。或许最佳路径是：
- 首先解决“对齐问题”，也就是我们能可靠地确保 AI 系统学习并长期朝着我们集体真正想要的目标行动（社交媒体推荐算法就是对齐失败的例子：它们极擅长满足你的短期喜好，让你持续滚动，但却牺牲了你长远的利益）。
- 然后，重点是让超级智能变得廉价、普及、而非集中在某个人、公司或国家手中。社会具有韧性、创造力与快速适应力。如果我们能调动人类的集体意志和智慧，尽管难免犯错，尽管部分事情可能严重出错，但我们将迅速学习和调整，尽可能发挥技术的正面效应，最小化负面影响。给予用户在社会共识范围内的高度自由，将非常重要。世界越早开始讨论这些共识边界和集体对齐的定义，越好。
我们（不仅仅是 OpenAI，而是整个行业）正在为世界打造一个“大脑”。它将极度个性化，并人人可用；我们将只受限于好点子。长期以来，科技创业圈总爱调侃那些“只有想法”的人——他们没有团队，只想找人帮他们实现。但现在看来，他们的春天可能真的来了。
如今 OpenAI 有着多重身份，但最根本的，是一家超级智能研究公司。我们面前仍有许多工作，但前路的大部分已经被点亮，黑暗正在迅速退散。我们对自己能做的工作心存无比感激。
“智能便宜得像水电费” 的那一天，已经近在眼前。这听起来或许疯狂，但如果我们在 2020 年告诉你，我们将在今天达到现在的高度，那恐怕比我们如今对 2030 年的预测还要离谱。
愿我们顺利、指数式、无波澜地迈入超级智能的未来。
