努力安全管理人工智能,限制潜在风险

2023年,许多国家和组织都努力制定有关安全、负责任地使用和开发人工智能(AI)技术以及限制潜在风险隐患的规定。这些都是重要的步骤,为掌握技术的进程奠定了坚实的基础,让技术真正成为支持人们的有效工具。
附图。
附图。

安永最新调查结果显示,亚太地区高达70%的执行总监将人工智能视为提升效率和推动创新的驱动力。意识到人工智能的缺点,这些企业承认需要付出更多努力来解决从网络攻击到错误信息和欺诈等风险。

近日,德国政府通报,到2025年将投入16亿欧元用于人工智能研究、开发和应用,新加坡则计划将人工智能人员数量增加两倍至1.5万人。

2023年是人工智能技术在全球快速“覆盖”的一年。人工智能管理也成为过去一年一系列国际和地区会议的主题。英国词典出版商柯林斯选择人工智能作为 2023 年的关键词。

不可否认,人工智能日益便利生活,以其卓越的特性改变着世界。这些先进产品具有巨大的潜力,有助于刺激经济发展、科学进步并造福社会,但如果不得到有责任地开发,它们也会给世界安全带来风险。

人工智能正在引发网络安全保护力量与网络犯罪分子之间新的、艰难且复杂之战。观察人士警告说,由于人工智能创建的虚假内容和歪曲信息,2024年各国举行的选举将面临麻烦。一项调查显示,高达58%的受访美国人表示,人工智能将在2024年国家大选中增加虚假信息的传播。

面对这种情况,一系列国家、组织和企业正在采取紧急措施,形成管理人工智能技术的框架。欧盟成员国和欧盟议员最近就首个管理人工智能的全面规定达成了协议。

欧盟内部市场专员蒂埃里·布雷顿重申,该法律是欧盟初创企业和研究人员可靠地引导全球人工智能开发竞赛的基础。

美国总统乔·拜登于2023年10月发布了关于人工智能安全标准的行政命令。全球领先的工业国家(G7 或七国集团)发布了第一套关于先进人工智能系统的全面国际规则,为开发者和用户提供建议,以尽量减少该技术带来的风险。

尽管受益于人工智能产品,一系列科技公司也联手推动制定人工智能管理规则。如果说过去,许多公司反对他们认为可能会扼杀技术发展的规定,那么现在,这些公司不断警告人工智能如果不严格管理将面临危险。

OpenAI刚刚公布了最新引导,用于评估正在开发的模型中人工智能的“灾难性风险”。Meta和IBM两家大公司以及大约50家公司和研究机构共同成立了人工智能联盟,以确保以更加开放的方式合作开发这项技术。上述联盟的重要机制之一是成立技术监督委员会,该委员会由大型科技公司的研究专家组成。

联合国秘书长安东尼奥·古特雷斯强调,世界需要保持在人工智能浪潮的领先地位,并呼吁各国以统一、可持续的方式应对人工智能的风险。尽管未来还有很多工作要做,但最近的人工智能管理工作为构建该技术应用的安全未来奠定了基础,同时有助于实现革新创新和满足人工智能开发中的道德标准之间的平衡。(完)