一个新的行业组织已经成立,以确保所谓的“前沿人工智能”模型的“安全和负责任的发展”,由四个领先的人工智能参与者,OpenAI,谷歌,Microsoft和Anthropic组成。
OpenAI,Microsoft,谷歌和Anthropic是流行AI工具的开发者,已经推出了前沿模型论坛,以回应日益增长的监管要求。该联盟依靠其成员企业的知识来创建技术评估和基准,并推进最佳实践和标准。
前沿人工智能模型论坛目前只有四名成员,但它声称对新人开放。符合资格标准的组织应该致力于尖端的人工智能模型,并表现出“对前沿模型安全的坚定承诺”。
关于前沿人工智能论坛的详细信息
前沿人工智能是尖端的人工智能和机器学习模型,被认为足够危险,足以“对公共安全构成严重风险”,是论坛目标的核心。
论坛的主要目标是促进企业和政府之间的信息交流,确定创建和部署人工智能模型的最佳实践,并加强对人工智能安全的研究。测试和比较各种人工智能模型,以及在公共图书馆中发布基准,让每个重要的行业参与者掌握潜在的危险并采取适当的行动,都将包括在人工智能安全研究中。
OpenAI无法“分类”足够
为了确定战略和优先事项,前沿模型论坛将建立一个由具有不同背景和观点的参与者组成的咨询委员会。此外,创始企业将创建制度结构,使所有利益相关者能够共同努力,就与人工智能发展有关的事项达成共识。
论坛还将利用研究人员、民间社会组织和其他各方已经提供的信息和材料。为了有效实施现有人工智能计划(如人工智能伙伴关系和MLCommons)建立的标准,它将观察和支持它们。
© 版权声明
文章版权归作者所有,未经允许请勿转载。