启动AI护盾

出于对人工智能(AI)黑暗面的担忧,欧盟(EU)正式“激活”了一项具有里程碑意义的人工智能管理法律,以保护公民权利,同时促进创新创意。违反禁止行为或数据义务的公司将面临高达7%全球年营业额的罚款。
附图。
附图。

欧盟委员会(EC)主席乌苏拉·冯德莱恩表示,名为《人工智能法案》的新法律将竖起新的盾牌,不仅有助于保护人们利益,而且还向企业提供明确且坚定的规定。该法律采用基于风险分析的方法:如果系统风险较高,公司将必须履行一系列更严格的义务来保护公民权利。

到2026年,各家公司必须遵守该法律,但关于ChatGPT等人工智能模型的规则将在该法律生效12个月后适用。该法律生效六个月后,禁止使用人工智能进行基于数据聚合的监控和使用生物识别信息推断个人种族、宗教或性取向系统的禁令将在该法律生效6个月后适用。

为了正式启动《人工智能法案》,欧盟经历了艰难而紧张的谈判过程。今年年初,欧盟同意采用世界上首个深广的规则来管理人工智能,特别是OpenAI的ChatGPT等流行系统。这些规则于2021年首次提出,但当 ChatGPT于2022年爆发时,这一需求才真正变得更加紧迫,其能够在短短几秒钟内创建类似人类的文本。除了ChatGPT之外, Dall-E 和Midjourney 等其他突出AI工具也可以使用简单命令,即是日常语言来创建多种风格的图像。

Signal加密的安全消息传递应用程序首席执行官梅雷迪思·惠特克女士警告称,人工智能工具通过对人类生活进行大规模监视和令人不安的控制,才可分析数据、生成文本和视频、寻找数据中的成分。据此,人工智能系统可以创造不准确的信息并主宰人类生活。此外,一个存在的风险是权力失衡,因人工智能工业被少数“巨头”控制,但完全不负责任。

在通过《人工智能法案》之前,欧盟从5月底起成立了由140名技术专家、律师和经济学家组成的“人工智能办公室”,负责管理人工智能技术。EC表示,人工智能办公室的成立是为了朝着推动创新,确保经济社会利益,同时以最大限度降低风险方向,未来促进开发、展开和使用人工智能提供便利。

欧盟内部市场专员布雷东表示,人工智能办公室将促进具有创新性、竞争性且尊重欧盟规则和价值的欧洲人工智能生态系统。与此同时,欧盟委员会执行副主任玛格丽特·维斯塔格透露,该办公室将评价并测试通用人工智能,以确保人工智能技术服务人类并维护欧盟共同价值观。

在日益有更多人对人工智能技术的负面影响感到担忧背景下,欧盟启动人工智能护盾被认为是批准人工智能法规漫长道路上的历史性里程碑。曾推动欧洲议会通过该法案的意大利议员布兰多·贝尼菲表示,这是世界上第一个为发展安全和以人为本的人工智能制定明确路线图的法规。与此同时,许多观点认为,欧洲立法者试图平衡创新利益和保护利益。(完)