【杂谈】-AGI 辩论：炒作、怀疑与现实期望之间

通用人工智能 (AGI) 已成为 2025 年最受争议的话题之一。一些人认为它即将到来，并可能很快改变各行各业、经济和日常生活。他们认为，推理、学习和适应能力的进步表明，机器终有一天可能达到接近人类的智能。

然而，另一些人认为 AGI 仍然遥不可及。他们指出，许多技术问题仍然存在，以及关于人类思维和意识的难题。因此，他们警告人们不要重蹈人工智能历史上那些往往以失望告终的过早期望的覆辙。

关于 AGI 的讨论不仅限于技术，它还影响着政策和规划。政府、企业和社区必须决定如何为未来做好准备。如果高估 AGI，资源和战略可能会被误导。如果低估 AGI，社会可能无法应对道德、就业、安全和治理方面可能发生的变化。

1、AGI 的概念和范围

AGI 是指一种超越目前所用狭义人工智能系统的高级机器智能。当前的人工智能应用，例如聊天机器人、图像识别系统和推荐引擎，都是为特定任务而设计的。它们在这些领域表现良好，但难以适应新的或不熟悉的问题。相比之下，AGI 被设想为一个能够像人类一样处理各种智力任务的系统。

AGI 的核心思想是通用性。AGI 系统能够学习、推理并解决不同领域的问题。它能够适应新情况，而无需完全重新训练。研究人员还期望这样的系统能够展现出狭义人工智能无法实现的灵活性，甚至一定程度的创造力。

一个相关的术语是人工智能超级智能 (ASI)。ASI 描述了一个可能的阶段，即机器智能在所有认知领域都超越人类的能力。AGI 的目标是达到人类水平的表现，而 ASI 则代表着更进一步。许多研究人员认为，如果 AGI 真的能够实现，它将比 ASI 更早出现。然而，ASI 的可能性和实现时机尚不确定。

目前，AGI 仍是一个理论目标。计算机科学、神经科学和认知科学领域的研究十分活跃。这些领域旨在研究人类智能，并开发在机器中复制其的方法。因此，AGI 不仅是一项技术挑战，更是一项跨学科的探索。如果它成为现实，可能会给技术、社会以及我们对智能的理解带来重大变革。

2、过度炒作及其对通用人工智能（AGI）话语的影响

关于通用人工智能（AGI）的过度炒作很大程度上源于媒体的夸大宣传和营销信息，这些宣传将人类水平的智能描绘成指日可待。新闻标题经常将突破性进展宣称为通用人工智能即将到来。这在激发人们兴奋的同时，也夸大了进展。结果，公众和政策制定者可能会对通用人工智能的真正距离产生误解。

从历史上看，人工智能经历了反复的循环：充满希望，随后失望，这通常被称为人工智能寒冬。当早期的承诺未能兑现时，资金减少，怀疑情绪加剧。如果忽略技术限制，当前的乐观情绪可能会重蹈覆辙。

像 GPT-5 这样的大型语言模型再次提升了人们的期望。这些系统展现出强大的能力。它们可以撰写论文、总结文本，并解决一些推理任务。然而，它们仍然是人工智能的狭隘形式。它们在特定领域表现良好，但缺乏通用智能所需的深度理解、长期记忆和适应能力。

研究人员警告称，不应将这种进步误认为是人类思维。这些模型仍然存在明显的弱点。它们在物理推理、常识和长期可靠规划方面存在困难。将它们的表现视为与通用人工智能（AGI）的准备程度相当，只会简化一个复杂的问题，同时也掩盖了构建能够解决不同领域陌生问题的系统所固有的重大挑战。

媒体报道、企业宣传和投资兴趣都支持这种夸大其词的说法。它在公众中制造了错误的预期，也可能导致研究和政策被误导。因此，需要基于证据的观点。只有将真正的进步与炒作区分开来，社会才能以平衡且知情的方式为通用人工智能做好准备。

3、低估通用人工智能的危险

一些研究人员认为，通用人工智能的进展速度比人们通常认为的要快。每年用于人工智能研究的资金已增长到数十亿美元。这些资金支持着新的系统设计、专用芯片和大规模实验。这些努力带来了稳步的进步，最终可能有助于提升整体智能水平。

在实践中，人工智能已经影响到曾经被认为难以自动化的领域。在医学领域，它支持药物研发和诊断工具的开发；在生物学领域，它有助于分析复杂的遗传信息；在气候科学领域，它有助于建模和预测环境变化。这些例子表明，人工智能正变得越来越能够处理复杂的跨学科问题。因此，一些人认为，类似通用人工智能的能力可能比预期更早出现。

然而，低估通用人工智能存在风险。如果它比预期更早到来，社会可能尚未准备好应对其大规模影响。这些影响可能包括大量的工作岗位流失以及自主系统控制方面的新挑战。在军事和安全领域，风险同样严峻，缺乏保障措施可能导致滥用或意外后果。

此外，还存在一些紧迫的伦理问题。人类价值观如何引导AGI系统？如果AGI造成损害，谁来承担责任？忽视这些问题直至AGI出现，可能会引发治理危机。因此，需要及早开展讨论、开展跨学科合作，并制定积极主动的政策，以应对未来的挑战。

那些警告不要低估AGI的人呼吁提高认识并做好准备。他们既对研究进展持乐观态度，也对AGI对社会更广泛的影响感到担忧。

4、专家观点：我们处于什么位置？

如上所述，专家们对通用人工智能（AGI）的看法不一。一些人认为AGI是一个模糊且被夸大的概念，而另一些人则认为它可能比预期更早到来，并给社会带来重大变革。

吴恩达经常将AGI定义为定义不清。他认为，当前人工智能工具在医疗、教育和自动化等领域的实际应用才应该衡量真正的进步。对他来说，关于人类智能水平的争论会分散人们对狭义人工智能（Narrow AI）具体优势的注意力。

谷歌DeepMind负责人德米斯·哈萨比斯（Demis Hassabis）则持有不同观点。在2025年的几次采访中，他重申了自己的信念，即AGI可能在五到十年内出现。他将其潜在影响与工业革命进行了比较，尽管其发展速度更快。在他看来，AGI可以带来科学突破，改变医学，并解决全球挑战。同时，他警告说，社会尚未准备好应对AGI将带来的风险和治理问题。

Anthropic 首席执行官 Dario Amodei 强调了他所谓的“锯齿状进展”。当前的系统在某些领域表现非常出色，例如编码或蛋白质折叠，但在需要推理或长期规划的任务中却表现不佳。这种不均衡的进展使得预测变得困难。Amodei 认为，性能强大的系统可能在几年内出现，但真正的通用性可能需要更长时间。

观点分歧的根源在于通用人工智能 (AGI) 的发展路径充满不确定性。该领域并不遵循简单的尺度定律，突破往往以意想不到的方式出现。预测不仅取决于技术证据，还取决于研究人员和机构如何解读进展。

5、平衡争论：在恐惧与现实之间

AGI 的到来很难设定一个明确的时间表。一些人认为它遥不可及，而另一些人则警告说，它可能比预期更早到来。除了时间上的差异之外，争论还延伸到社会应该如何应对其潜在影响。焦点不仅在于算法和硬件，还在于伴随先进系统而来的治理、伦理和责任。

平衡的视角可以避免两个极端。一方面，人们认为 AGI 已经到来或指日可待，这可能会夸大当前的进展。另一方面，人们认为 AGI 永远不会实现，这否定了 AGI 的稳步发展和长期发展的可能性。这两种观点都造成了扭曲的预期。现实介于两者之间：进展显而易见但不均衡，重大的科学和实践挑战依然存在。

鉴于这些不确定性，对 AGI 的准确预测不太可能可靠。相反，人们应该将注意力转向为不同的可能结果做好准备。政策制定者可以加强治理框架，以指导负责任的发展。企业需要谨慎采用人工智能，避免受炒作驱动的决策，因为这些决策可能会误导资源或削弱信任。个人可以专注于人类独有的能力，例如创造力、道德判断和复杂问题解决能力，这些能力在人工智能丰富的环境中仍然至关重要。

展望未来，有几个趋势值得密切关注。专用硬件的进步和高质量数据的获取将决定研究的步伐。国际竞争，尤其是美国、中国和欧洲之间的竞争，也将影响进展。同时，法律、法规和公众舆论将决定通用人工智能的整合速度及其权力的管理方式。

关于通用人工智能的辩论应该保持务实。通过谨慎、准备和公开讨论，社会可以避免过度自信和否认，并准备好负责任地应对未来的发展。

6、总结

通用人工智能 (AGI) 仍然是我们这个时代最不确定却又至关重要的问题之一。一些人认为它即将到来，而另一些人则认为它可能需要几十年甚至永远无法实现。显而易见的是，当前人工智能的进展令人瞩目，但发展却不均衡，全面普及仍遥不可及。过高的期望可能会误导政策和研究，而低估则可能使社会对突如其来的变化措手不及。

因此，采取一种平衡的方法至关重要。政府、研究人员和企业必须携手合作，为各种可能性做好准备。在 AGI 成为现实之前，伦理、社会和安全问题也需要关注。通过保持务实和积极主动的态度，社会可以降低风险，增进信任，并确保未来人工智能的进步能够安全、负责任地促进进步。