OpenAI联合创始人兼首席执行官SamAltman在他的博客发表了《温和的奇点》文章。
Altman认为人类已经越过了技术发展的关键转折点，正迈向数字超级智能时代。尽管目前机器人尚未普及，人类仍面临诸多挑战，但人工智能已经在许多领域展现出超越人类的能力，并显著提升了工作效率。
Altman预测，2025年已经出现能够进行认知工作的智能体，2026年可能会出现能够提出新见解的系统，2027年或许会有能够执行现实世界任务的机器人。
这些技术将使更多人能够创造软件和艺术，虽然专家仍会优于新手，但新工具的普及将带来巨大变革。到2030年代，智力和能源将成为极其丰富的资源，这将消除人类进步的两大限制。
以下是原文内容。
我们已经越过了事件视界，起飞已经开始。人类即将创造出数字超级智能，而且至少到目前为止，这一切并不像它看起来那样离奇。
机器人尚未在街头行走，我们大多数人也没有整天与人工智能交谈。人们仍会死于疾病，我们仍然难以轻松前往太空，宇宙中还有很多我们不了解的东西。
然而，我们最近开发的系统在许多方面比人类更聪明，并且能够显著提升使用它们的人的产出。这项工作中最不可能的部分已经完成；让我们拥有GPT-4和o3等系统的科学洞见来之不易，但它们将带我们走得更远。
人工智能将在许多方面为世界做出贡献，但人工智能推动科学进步加快和生产力提高，从而带来生活质量的提升将是巨大的；未来可能会比现在好得多。科学进步是整体进步的最大驱动力；一想到我们还能取得多少成就，就令人无比兴奋。
在某种意义上，ChatGPT已经比任何在世的人类都更强大。数亿人每天都依赖它完成越来越重要的任务；一项小小的新功能可以创造巨大的积极影响；而一个小小的错位乘以数亿人，则可能造成巨大的负面影响。
2025年，能够从事真正认知工作的智能体已经出现；编写计算机代码的方式将永远改变。2026年，可能会出现能够产生新见解的系统。2027年，或许会有能在现实世界中执行任务的机器人问世。
将会有更多的人能够创作软件和艺术。但世界对这两者的需求都在大幅增加，而且只要专家们接受这些新工具，他们可能仍然会比新手出色得多。总的来说，一个人在2030年能够完成的工作量比2020年多得多，这将是一个惊人的变化，许多人将从中找到受益的方法。
在最重要的方面，2030年代可能不会有太大的不同。人们仍然会爱自己的家人，表达自己的创造力，玩游戏，在湖里游泳。
但在其他非常重要的方面，2030年代可能会与以往任何时候都大不相同。我们不知道我们能超越人类水平的智能有多远，但我们即将揭晓答案。
在2030年代，智力和能源——想法和将想法付诸实践的能力——将变得极其丰富。长期以来，这两者一直是人类进步的基本限制因素；有了丰富的智力和能源（以及良好的治理），理论上我们可以拥有其他任何东西。
我们已经生活在令人难以置信的数字智能之中，在最初的震惊之后，我们大多数人都已经相当习惯了。我们很快就从惊讶于人工智能能生成一段优美的文字，到期待它何时能写出一本优美的小说；或者从惊讶于它能做出挽救生命的医学诊断，到期待它何时能开发出治疗方法；或者从惊讶于它能创建一个小型计算机程序，到期待它何时能创建一整个新公司。这就是奇点的发展方式：奇迹变成常规，然后成为基准。
我们已经从科学家那里听说，他们的生产力比使用人工智能之前提高了两到三倍。先进的人工智能之所以有趣，原因有很多，但也许最重要的是，我们可以用它来更快地进行人工智能研究。我们可能会发现新的计算基质、更好的算法，以及其他未知的东西。如果我们能在一年甚至一个月内完成十年的研究工作，那么进步的速度显然会大不相同。
从现在起，我们已经开发的工具将帮助我们获得更多的科学洞见，并帮助我们创建更好的人工智能系统。当然，这与人工智能系统完全自主更新自己的代码不同，但这仍然是递归自我改进的初级形式。
还有其他的自我强化循环在起作用。经济价值的创造已经启动了一个飞轮，推动着用于运行这些日益强大的人工智能系统的基础设施的复合式建设。能够制造其他机器人的机器人也不远了。
如果我们必须用传统方式制造第一批一百万个类人机器人，但之后它们可以运营整个供应链——挖掘和提炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人，而这些机器人又可以建造更多的芯片制造设施、数据中心等，那么进步的速度显然会大不相同。
随着数据中心生产的自动化，智能的成本最终应该会趋近于电力的成本。技术进步的速度将继续加快，而且人们将继续能够适应几乎任何事情。将会有非常困难的部分，比如整个类别的工作消失，但另一方面，世界将迅速变得更加富有，我们将能够认真考虑以前从未考虑过的新政策想法。我们可能不会一下子就采用新的社会契约，但当我们几十年后回顾时，这些渐进的变化将带来巨大的影响。
如果历史有任何借鉴意义的话，我们会想出新的事情去做，新的东西去追求，并迅速吸收新工具（工业革命后的工作变化就是一个很好的近期例子）。期望会提高，但能力也会同样迅速提高，我们都会得到更好的东西。我们将为彼此创造越来越美好的事物。人类相对于人工智能有一个长期重要且有趣的优势：我们天生就关心他人以及他们的想法和行为，而我们对机器并不太关心。
新奇迹实现的速度将是巨大的。今天很难想象到2035年我们会有什么发现；也许我们会在一年内解决高能物理问题，第二年就开始太空殖民；或者在一年内实现重大材料科学突破，第二年就实现真正的高带宽脑机接口。许多人会选择以大致相同的方式生活，但至少有些人可能会决定“接入”。
展望未来，这听起来很难理解。但亲身经历可能会让人印象深刻，但也并非无法应对。从相对论的角度来看，奇点是一点一点发生的，融合是缓慢进行的。我们正在攀登指数级技术进步的长弧；向前看总是像垂直的，向后看则是平坦的，但它是一条平滑的曲线。（回想一下2020年，当时说2025年将接近通用人工智能，听起来会是什么样子，而过去5年的实际情况又是如何。）
除了巨大的好处之外，还有一些严重的挑战需要面对。我们确实需要从技术和社会两方面解决安全问题，但考虑到经济影响，广泛普及超级智能的访问权限也至关重要。最好的前进道路可能是这样的：
解决对齐问题，这意味着我们可以可靠地保证我们让人工智能系统学习并朝着我们集体长期真正想要的方向行动。
然后专注于使超级智能变得便宜、广泛可用，并且不太集中在任何个人、公司或国家手中。社会是有韧性的、有创造力的，并且适应迅速。如果我们能够利用人们的集体意愿和智慧，那么尽管我们会犯很多错误，有些事情会变得非常糟糕，但我们会快速学习和适应，并能够利用这项技术获得最大的好处和最小的坏处。在社会必须决定的广泛范围内，给予用户很多自由似乎非常重要。世界越早开始讨论这些广泛的界限是什么，以及我们如何定义集体对齐，就越好。
我们（整个行业，而不仅仅是OpenAI）正在为世界构建一个大脑。它将非常个性化，每个人都很容易使用；我们将受到好想法的限制。长期以来，创业行业的技术人员一直嘲笑“创意人士”；那些有想法并寻找团队来实现的人。现在在我看来，他们即将迎来自己的辉煌时刻。
OpenAI现在有很多身份，但首先，我们是一家超级智能研究公司。我们面前有很多工作要做，但我们面前的大部分道路现在已经照亮，黑暗的区域正在迅速消退。我们非常感激能够做我们所做的事情。
廉价到无需计量的智能已经触手可及。这听起来可能很疯狂，但如果我们在2020年告诉你我们会走到今天这一步，这可能比我们目前对2030年的预测听起来更疯狂。
愿我们平稳地、指数级地、平静地跨越超级智能。
（文：AIGC开放社区）