人工智能技术经过一段时间的快速发展，人工智能模型研发领域也经历了激烈的竞争，如今这一领域却出现了看似矛盾的现象：曾积极参与这场竞赛的大型科技企业负责人开始呼吁放慢AI的发展速度。
以上看似矛盾的现象反映出一个重要转变。各大科技企业正逐渐从技术研发竞争转向对技术发展速度和风险的控制。
Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）近日发表了一篇长文，呼吁领先的AI企业应放慢AI模型开发速度。他认为，各企业需要留出更多时间，让相关控制措施跟上模型开发能力不断提升的步伐。
当前的实际情况表明，人工智能不只是单纯的技术问题，而正逐渐成为与全球安全形势密切相关的问题。在谈及这项技术的潜在风险时，“失去控制”一词越来越频繁地被提及。多份报告显示，AI模型正被用于一些具有危险目的的活动。
当前的实际情况表明，人工智能不只是单纯的技术问题，而正逐渐成为与全球安全形势密切相关的问题。
Anthropic公司负责人表示，未来6至12个月内，一群AI智能体可能具备协同控制能力，并通过僵尸网络控制整个互联网。僵尸网络（botnet）是由被恶意软件感染并控制的计算机、电脑组成的网络，这些设备在所有者不知情的情况下，被不法分子远程控制。这可能造成巨大的经济损失。
联合国安理会反恐委员会秘书处警告称，恐怖组织正利用包括人工智能在内的数字技术开展招募活动，尤其是招募儿童和青少年。
人工智能带来的极大益处不可否认，但必须确保人在这项技术治理中始终处于核心地位。科学家杰弗里·辛顿（Geoffrey Hinton）曾指出，如果不加以控制，人工智能就像“一辆加速却没有刹车的汽车”。科学界也普遍强调，亟需加强对这项技术的监管，并建立相应的安全保障机制。
政府在人工智能治理中的作用早已受到关注。但在当前关于控制AI发展速度的讨论中，科技企业的作用也受到高度重视。这是因为没有任何一家企业希望在先进AI模型的研发中落后。这类模型被视为许多企业的核心产品，也是重要的盈利来源。因此，阿莫代伊先生在文章中建议，AI开发企业应加强合作，共同制定模型发展速度的统一标准。这样可以避免企业之间的竞争成为推动AI快速发展的动力，从而导致安全措施被忽视。他也承认，调整AI的发展速度并非易事。
为了确保每个人都能拥有安全的数字环境，需要制定全面的战略，并凝聚各方力量共同参与。
2026年全球流入人工智能领域的投资将超过1万亿美元。人们对AI在生活各个方面取得突破性、跨越式发展抱有很高期待。
然而，这也是相关讨论不只关注增长潜力，而是越来越深入地探讨技术风险管控问题的时期，其中包括建立涉及责任与伦理、风险与安全、国际合作等方面的AI治理方案。为了确保每个人都能拥有安全的数字环境，需要制定全面的战略，并凝聚各方力量共同参与。（完）
