专家警告人工智能的安全和伦理问题

3月27日至28日在瑞士日内瓦举行的全球人工智能、安全和伦理大会受到专家关注。人工智能对国际和平与安全影响巨大,越来越多的人警告称,这一先进技术有可能被用于军备竞赛,从而带来难以预测的后果。
附图。
附图。

由联合国裁军研究所主办的“人工智能、安全与伦理全球会议”为各国领导人和专家提供了一个深入探讨规范人工智能(AI)措施的论坛,以确保人工智能技术不被用于危害全球和平与稳定。

近来,一系列科技机构和企业在AI领域大力投资后收获了“甘甜的果实”。 Alphabet集团2024年第四季度实现营收965亿美元,较2023年同期增长12%。其中,得益于谷歌云平台核心产品、AI以及生成式AI相关解决方案的强劲势头,谷歌云服务收入大幅增长。

AI正逐步渗透到社会生活的各个领域,如商业、教育、医疗、农业等。这一技术发挥着促进和平的有效工具作用。专家表示,AI能够分析以往冲突的数据,从而及早发现冲突迹象,预防战争风险,实现早期预警和远程防范。

借助AI应用,灾害、风暴等自然灾害的预测模型也更加精准。在军事领域,将AI机器人应用于排雷、处理爆炸物等危险任务,不仅能降低士兵和社会的风险,还能提高行动效率。

然而,AI热潮促使许多国家的政府急于寻找方法来监管这一发展“过快、过危险”的技术。联合国秘书长安东尼奥·古特雷斯曾表示担忧,近年来的冲突正成为AI在军事领域的“试验场”。在叙利亚沿海的拉塔基亚省和塔尔图斯省,近期发生的暴力浪潮就是一例,犯罪分子利用AI“火上加油”。

AI热潮促使许多国家的政府急于寻找方法来监管这一发展“过快、过危险”的技术。

据信息验证机构Verify-Sy的研究人员称,叙利亚正经历一场虚假信息风暴。Verify-Sy发现,AI被越来越多地用于操纵视频画面、改变声音,以制造虚假内容,煽动网络上的暴力传播。近期在乌克兰、中东等地的战争表明,AI的应用已使武器系统变得智能化,能够自主搜索、跟踪和摧毁目标,而无需人为干预。

如果不严格监管AI的发展和应用,未来可能充满危机,2024年9月,关于军事领域负责任使用AI的峰会已在韩国首尔召开,讨论相关风险。会议通过了一项行动计划,提出关键原则,引导国际社会朝着负责任使用AI的方向发展,以维护全球利益和安全。

在2024年12月联合国安理会关于AI的特别会议上,与会各方承诺建立全球AI治理机制,其中包括成立国际科学委员会,并扩大关于AI治理的对话。

发挥人类在AI构建和应用中的核心作用是确保这项技术被正确使用,致力于和平与繁荣的紧迫要求,而不是被滥用为“杀人武器”。正如联合国秘书长安东尼奥·古特雷斯所强调的:“人工智能是人类创造的,人类必须引导它向前发展。”(完)

记者:宝书