在联合国教科文组织向各国政府发出的最新指南中，该组织强调，各国监管机构仍未准备好解决与在学校开展生成式人工智能计划的相关问题。
该机构表示，使用人工智能程序代替教师可能会影响儿童的情绪，使他们面临容易被操纵的风险。联合国教科文组织指南指出，人工智能工具有潜力作为研究助理为儿童提供帮助，但只有政府规范其使用以及教师、学生和研究人员一起参与工具设计过程，这些工具才会安全有效。
实际表明，人工智能正在改变世界并便利日常生活。凭着人工智能的应用，人们在所有领域上的工作都显着减少。
然而，关于人工智能危险的警告越来越多。据称，这项技术正在引发网络安全保护力量与网络犯罪分子之间新、艰难且复杂之战。儿童是人工智能带来机遇的受益者，但也是最容易受到这种突破性技术危害的群体。
随着人工智能在全球范围内变得越来越普遍，投资额在 2023 年呈爆炸式增长，全世界的立法者都在紧急考虑如何降低这一新兴技术对国家安全构成的风险。
今年11月，英国政府将举办有关人工智能安全的全球峰会，其中重点讨论如何防止人工智能在选举中被用来传播虚假新闻，以及在战争中使用该技术。
今年5月，世界主要工业化国家（G7）领导人呼吁应用全球标准，安全可靠地发展人工智能技术。
人工智能领域的快速发展给许多国家的官员提出了一个难题，即如何实现弘扬革新创新精神和控制该技术潜在风险之间的平衡。尽管受益于人工智能产品，许多科技公司仍然警告该技术如果不受到严格监管可能存在的危险。
微软公司总裁布拉德·史密斯最近表示，人工智能有潜力成为一种有用的工具，但如果它超出人类的控制范围，也有成为反人类武器的风险。布拉德·史密斯先生重申，须鼓励科技公司做正确的事情，包括制定新的法规和政策，以确保所有情况下的安全。
OpenAI首席执行官山姆·阿尔特曼还警告人工智能的潜在危险，并强调需要减少这些危险。Anthropic、谷歌、微软和OpenAI等四大科技公司成立了一个名为“前沿模型论坛”的新小组来制定安全标准，旨在实现以下关键目标：促进安全人工智能研究，以支持发展并降低风险；帮助公众了解技术的性质、能力、局限性和影响；与政策制定者、学者合作，分享有关风险和安全的知识等。
人工智能的应用是世界不可逆转的趋势。制定发展战略，让人工智能真正服务于人类生活是让下一代人安全地与人工智能共存的必要步骤。（完）
