微软、OpenAI、谷歌等巨头联合成立前沿模型论坛，推动负责任的人工智能发展

东苑

人工智能的发展日新月异，尤其是生成型人工智能，已经成为科技行业的热门话题。然而，生成型人工智能也存在着失控的风险。为了确保生成型人工智能的“安全和负责任”地发展，今天，四家领先的人工智能科技公司宣布成立前沿模型论坛（Frontier Model Forum）。

前沿模型论坛是一个专注于前沿人工智能模型的组织，由微软、OpenAI、谷歌和 Anthropic 四家公司共同发起。所谓前沿人工智能模型，是指那些超越现有最先进模型的能力，并且可以执行多种任务的大规模机器学习模型。

在谷歌的博客文章中，该组织公布了其目标，IT之家翻译如下：

• 推进人工智能安全研究，促进前沿模型的负责任开发，降低风险，并实现独立、标准化的能力和安全评估。
• 确定前沿模型负责任开发和部署的最佳实践，帮助公众了解这项技术的性质、能力、局限和影响。
• 与政策制定者、学者、民间社会和企业合作，分享有关信任和安全风险的知识。
• 支持开发可以帮助应对社会最大挑战的应用，例如减缓和适应气候变化、早期癌症检测和预防、以及应对网络威胁。
  
  

该组织将首先建立一个顾问委员会，以便开始制定前沿人工智能模型的安全标准建议，并开展人工智能安全研究，并与其他公司和政府分享这些工作成果。

联合声明中引用了微软总裁 Brad Smith 的话：“创造人工智能技术的公司有责任确保它是安全、可靠且受人类控制的。这一倡议是让科技界共同推进负责任的人工智能发展并应对挑战的重要一步，以便它造福全人类。”

前沿模型论坛也欢迎更多从事前沿人工智能模型开发的公司加入该组织，只要他们也表现出对前沿模型安全的坚定承诺，包括通过技术和制度方面的方法。

wing6

看看新闻，感谢分享