AI安全问题备受关注！顶尖企业齐聚一堂，AI实验被叫停？

据外媒报道，随着OpenAI训练的ChatGPT人工智能聊天机器人风靡全球，多家公司也开始加速相关技术的研发和应用。最新的自然语言处理模型GPT-4于3月14日推出，进一步推动了大型语言模型及类ChatGPT技术的发展。

然而，随着这些人工智能技术的快速发展，也引起了人们对其潜在风险的担忧。上千名顶尖人士，包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克等，曾公开呼吁AI实验室暂停训练更强大的模型6个月，以制定并落实相关的安全协议。

为了探讨如何以最负责任的态度继续开发AI技术，顶级投资公司SV Angel将于当地时间周三召集AI研发领域顶尖企业的高管和员工，探讨制定使用AI技术的标准。据报道，OpenAI、微软、谷歌、苹果、英伟达等公司的代表预计将参会。

在此前呼吁暂停训练更强大的模型的信中，他们提到，AI实验室和第三方的专家应该利用暂停时间，共同制定和实施先进AI设计和开发的共享安全协议，并由第三方专家进行严格的审查和监督。同时，AI开发人员必须同政策制定者合作，加速开发强大的AI管理系统。

这一事件再次引起人们对AI技术的潜在风险的关注。人们普遍认为，尽管AI技术的发展前景广阔，但也需要制定相关安全协议和规定，以确保其合理、负责任的应用。

据悉，目前国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。在征求意见稿中，明确了提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务；利用生成式人工智能产品生成内容的提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责；对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成等内容。

随着人工智能技术的不断进步，AI技术的发展前景仍然十分广阔。然而，我们也需要认真考虑其潜在风险，积极制定相关安全协议和规定，确保其合理、负责任的应用，以实现人工智能技术的可持续发展。