这个论坛是由联合国教科文组织（UNESCO）主办，旨在为领导人和专家提供交流和分享有关AI管理政策发展经验的机会。全球AI观察台、UNESCO的无国界AI伦理专家网络等UNESCO的倡议将在此次论坛上进行讨论。UNESCO强调，正确管理人工智能是当今时代面临的重大挑战之一，需要各国之间的学习和经验交流。
该论坛是教科文组织为提高公众对人工智能治理认识所做努力的延续。 2023年9月，该机构向各国政府发送了一份指南，警告各国监管机构尚未准备好解决与在学校实施人工智能项目相关的道德问题。 该机构表示，依赖生成式人工智能程序而不是老师可能会影响儿童的情绪健康，使他们面临被操纵的风险。
2024年被认为将继续见证人工智能技术的迅猛发展，带来许多新的突破。一些企业在2023年曾大力投资于这一充满潜力的领域，开始在2024年收获了积极的业务结果。具体而言，科技巨头微软和谷歌发布的报告显示，由于云计算服务和整合人工智能技术的需求不断增加，2023年第四季度的收入大幅增长。
各地的政策制定者们在推动AI管理方面变得更加认真和积极。最近，欧洲联盟（EU）成员国已通过首个全面管理AI的法规。
人工智能具有巨大的潜力，可以促进经济发展，推动科学进步，并为社会带来好处。然而，如果不道德和负责任地使用和发展，也会伴随着许多潜在风险。关于这项技术的风险越来越多，需要引起重视。
在2023年，美国国家失踪与被剥削儿童中心（NCMEC）收到了4700份关于由AI生成、涉及到对儿童的性虐待的在线内容的报告。
英国政府情报机构警告，新型AI模型的爆发几乎肯定会在未来两年内增加网络攻击的数量和影响程度。2024年是美国、俄罗斯、印度、南非等多个国家进行选举的年份。专家认为，由AI引起的选举结果偏差是2024年面临的最大风险之一。
这一先进技术明显引发了网络安全力量和网络犯罪之间新的复杂斗争，因为经验丰富的网络犯罪分子正在利用人工智能进行恶意活动，如开发恶意软件和进行欺诈性攻击。在人工智能的帮助下，犯罪活动如模仿语音、冒充身份、伪造艺术品等可以更加轻松和巧妙地实施。
制定AI管理和发展战略是为了使后代能够与这项技术“安全共存”而迈出的重要一步。然而，即使得到了广泛的领导、专家和企业支持，AI管理仍然是一项不容易的任务。当前，立法者在涉及隐私保护和版权等问题上仍然持有不同的观点。在推动创新和遵循AI发展的道德标准之间取得平衡也是一项挑战，需要国际合作和国家之间的经验共享。（完）
