人工智能在推动可持续发展、提高学习和工作效率、完善医疗卫生体系、增强适应气候变化的能力等方面具有巨大潜力。然而，越来越多直接参与这一技术研发的人士发出警告称，人工智能的发展速度正远远超出人类对其风险的认知。人工智能的发展正在进入一个新阶段，相关系统已不再只是回答问题或根据要求生成内容，而是日益具备自主制定计划、使用工具以及在较少人工干预的情况下执行一系列行动的能力。这一转变正在从根本上改变有关人工智能安全与管控的讨论。
在各国政府、企业和科技界高度关注数字主权、网络安全和人工智能治理的背景下，在南非举行的2026年政府技术大会（GovTech 2026）尤其关注人工智能管控问题。人工智能技术的快速演进正引发人们对未来风险的严肃思考，同时也凸显建立相应治理模式的必要性，即既要维护公众利益，又要具有足够的灵活性，以适应技术变化。
如今，有关人工智能的讨论已不再局限于硅谷，而是扩展至全球范围。欧洲多国领导人就人工智能发出的警告程度不一，但都呼吁加强对这一技术的管控。
西班牙首相佩德罗·桑切斯近日警告称，如果人类失去对人工智能的控制，可能造成灾难性后果。他提出一项为期12个月的计划，旨在通过与公民社会合作，推动西班牙建立“人工智能新社会契约”。这一契约应为民众应对人工智能技术给工作和生活带来的变化提供保障。
英国首相安德鲁·默里·伯纳姆表示，在英国担任二十国集团（G20）2027年主席国期间，将把人工智能置于核心议程，努力推动制定一套统一的原则和标准，提高透明度和必要的可及性，帮助各国提升应对人工智能相关挑战的能力。
人工智能领域的多位领军人物支持加强合作与监管，并放缓这一技术的发展速度。2018年图灵奖得主、加拿大计算机科学家约书亚·本吉奥以及另一位人工智能先驱杰弗里·辛顿甚至认为，人类正在逐渐“失去对人工智能的控制”，同时强调有必要建立在规模和力度上可与核武器管控机制相媲美的安全保障措施。
面对建立人工智能管控工具的迫切需求，联合国秘书长安东尼奥·古特雷斯认为，应加强国际协调，以确保人工智能安全、透明、负责任地运行。这不仅是科技公司和监管部门之间的问题，也关系到企业、科研界、国际组织和公民社会。（完）
