那里有数量惊人的行星。

来源：uux.cn美国国家航空航天局/詹姆斯·韦伯望远镜

（神秘的地球uux.cn）据对话（迈克尔·加勒特）：在过去的几年里，人工智能以惊人的速度发展。

一些科学家现在正在寻求人工超智能（ASI）的发展，这是一种人工智能，不仅会超越人类的智能，而且不会受到人类学习速度的限制。

但是，如果这一里程碑不仅仅是一项了不起的成就呢？如果它也代表着所有文明发展中的一个巨大瓶颈，一个如此具有挑战性以至于阻碍其长期生存的瓶颈，该怎么办？

这个想法是我最近发表在《宇航学报》上的一篇研究论文的核心。

人工智能会成为宇宙的“伟大过滤器”吗？这是一个很难克服的门槛，它阻止了大多数生命进化成太空文明？

这一概念可能解释了为什么搜寻地外智慧（SETI）尚未探测到银河系其他地方先进技术文明的特征。

大滤波器假说最终是费米悖论的一个解决方案。

这就质疑了为什么在一个幅员辽阔、古老到足以容纳数十亿颗潜在宜居行星的宇宙中，我们没有发现任何外星文明的迹象。

该假说表明，在文明的进化时间表上存在着难以逾越的障碍，阻碍了它们发展成为太空实体。

我相信ASI的出现可能就是这样一个过滤器。

人工智能的快速发展，可能导致ASI，可能与文明发展的一个关键阶段相交——从单一行星物种向多行星物种的过渡。

这是许多文明可能会动摇的地方，人工智能的进步比我们控制它或可持续探索和填充太阳系的能力要快得多。

人工智能，特别是ASI的挑战在于其自主性、自我放大性和改进性。

在没有人工智能的情况下，它有可能以超过我们进化时间表的速度增强自己的能力。

出现严重问题的可能性是巨大的，导致生物文明和人工智能文明在有机会成为多行星文明之前就已经衰落。

例如，如果各国越来越依赖相互竞争的自主人工智能系统，并将权力移交给它们，那么军事能力可能会被用来以前所未有的规模进行杀伤和摧毁。

这可能会导致我们整个文明的毁灭，包括人工智能系统本身。

在这种情况下，我估计一个技术文明的典型寿命可能不到100年。

这大约是从能够在恒星之间接收和广播信号（1960年）到估计ASI在地球上出现（2040年）之间的时间。

与数十亿年的宇宙时间尺度相比，这段时间短得惊人。

当将这一估计代入德雷克方程的乐观版本中时——德雷克方程试图估计银河系中活跃的、可交流的外星文明的数量——表明，在任何给定的时间，只有少数智慧文明存在。

此外，和我们一样，它们相对温和的技术活动可能会使它们很难被探测到。

叫醒电话

这项研究不仅仅是一个潜在厄运的警示故事。

它为人类敲响了警钟，要求建立强有力的监管框架来指导人工智能的发展，包括军事系统。

这不仅仅是为了防止人工智能在地球上的恶意使用；

这也是为了确保人工智能的进化与我们物种的长期生存相一致。

这表明，我们需要投入更多资源，尽快成为一个多行星社会——自阿波罗计划令人兴奋的日子以来，这一目标一直处于休眠状态，但最近私营公司的进步重新点燃了这一目标。

正如历史学家尤瓦尔·诺亚·哈拉里（Yuval Noah Harari）所指出的，历史上没有任何东西让我们为将无意识、超智能实体引入我们的星球的影响做好准备。

最近，人工智能自主决策的影响导致该领域知名领导人呼吁暂停人工智能的发展，直到引入负责任的控制和监管形式。

但是，即使每个国家都同意遵守严格的规则和条例，流氓组织也很难控制。

自主人工智能在军事防御系统中的集成必须是一个特别值得关注的领域。

已经有证据表明，人类会自愿将重要权力交给能力越来越强的系统，因为它们可以在没有人类干预的情况下更快、更有效地执行有用的任务。

因此，鉴于人工智能提供的战略优势，各国政府不愿在这一领域进行监管，正如最近在加沙发生的灾难性事件所表明的那样。

这意味着我们已经危险地接近悬崖，自主武器超越道德界限，避开国际法。

在这样一个世界里，为了获得战术优势而将权力交给人工智能系统，可能会无意中引发一系列迅速升级、极具破坏性的事件。

眨眼之间，我们星球的集体智慧就可能被抹杀。

人类正处于其技术发展轨迹的关键时刻。

我们现在的行动可以决定我们是成为一个持久的星际文明，还是屈服于我们自己创造的挑战。

利用SETI作为一个镜头，我们可以通过它来审视我们的未来发展，这为关于人工智能未来的讨论增加了一个新的维度。

我们所有人都有责任确保，当我们到达恒星时，我们这样做并不是作为其他文明的警示故事，而是作为希望的灯塔——一个学会与人工智能共存的物种。