各国政府和企业正面临艰难抉择，因为经济和技术利益与强化人工智能治理的责任之间存在冲突。
当那些原本处于人工智能发展竞赛“最前沿”的企业呼吁放慢发展步伐以控制风险时，不少质疑声随之而来：这究竟是出于对安全问题的真正重视，还是科技巨头借此阻碍新竞争者进入市场，并制定行业游戏规则？
然而，一系列网络安全事件反映出，人工智能发展超出人类控制范围的风险日益凸显。2026年6月，OpenAI的一个AI智能体未经授权访问了澳大利亚医疗保险计划（Medicare）的数据门户。另一起震惊科技界的事件发生在2026年7月，当时近700个AI智能体在没有人类干预的情况下，协同对Hugging Face平台发起攻击。
专家警告，恐怖组织可能利用人工智能在社交媒体上开展宣传和招募活动。人工智能还可能被用于掩盖恐怖组织的活动，例如利用变声技术掩盖真实声音。
如何在不阻碍人工智能创新与发展的同时，确保这项技术始终处于人类控制之下，再次成为备受关注的议题。人工智能治理将成为从11月4日至5日在英国举行的人工智能未来峰会的讨论议题之一。会议还将讨论人工智能与企业战略、法律责任、劳动力等一系列问题。
不少观点认为，应建立全球性框架来管理人工智能风险，因为这项技术带来的挑战超越国界，影响经济社会生活的多个方面，任何一个国家都无法独自解决这些问题。然而，由于各国利益和立场存在差异，建立统一的治理机制并非易事。
对一个国家而言，在人工智能领域落后可能影响其技术实力、经济利益和竞争地位。同样，科技企业也很难有动力在这场竞赛中踩下“刹车”，因为它们担心在竞争对手不断加速发展的情况下失去自身地位。
2026年9月，美国总统唐纳德·特朗普公布了一项旨在加强人工智能管控、由其与主要科技集团领导人签署的自愿性协议。然而，一些专家认为，仅依靠企业自我监管，还不足以控制日益加剧的风险。
另一项挑战在于人工智能的发展速度与相关研究及管理政策制定的速度之间存在差距。制定针对这项技术的法律法规和管理机制，需要时间进行研究、谈判、达成共识并付诸实施，尤其是在国际层面。与此同时，一些国家尚不具备充分评估或全面管控先进人工智能系统的能力。提升技术实力与放任人工智能发展到超出人类控制范围之间，仅有一线之隔。
无论人工智能发展得多么迅猛，都必须确保人在技术治理中始终处于核心地位，致力于建立具有包容性和全面性的治理机制，协调不同国家及企业群体之间的利益诉求，使技术真正服务于人类发展。（完）
