周三，人工智能行业的主要参与者成立了一个致力于该领域“安全和负责任发展”的小组。前沿模型论坛的创始成员包括Anthropic、谷歌、微软和OpenAI。
微软周三发布的一份声明称，该论坛旨在促进和制定评估人工智能安全的标准，同时帮助政府、企业、政策制定者和公众了解技术的风险、限制和可能性。
该论坛还寻求制定解决“社会最大挑战”的最佳做法，包括“减缓和适应气候变化、早期癌症检测和预防以及打击网络威胁”。
任何人都可以加入论坛，只要他们参与了旨在实现机器学习技术突破的“前沿模型”的开发，并致力于其项目的安全性。该论坛计划与政府、非政府组织和学术界建立工作组和伙伴关系。
微软总裁布拉德·史密斯在一份声明中表示:“开发人工智能技术的公司有责任确保其安全、可靠，并仍处于人类控制之下。”
人工智能思想领袖越来越多地呼吁对这个行业进行有意义的监管，一些人担心这个行业可能毁灭文明，他们指出了人类无法再控制的失控发展的风险。除微软外，所有论坛参与者的首席执行官们在5月份签署了一份声明，敦促各国政府和全球机构将“减轻人工智能造成的灭绝风险”作为与防止核战争同等重要的优先事项。
Anthropic首席执行官达里奥·阿莫代伊周二警告美国参议院，人工智能比大多数人认为的更接近于超越人类智能，并坚持要求他们通过严格的法规，以防止人工智能被用于生产生物武器等噩梦般的场景。
今年早些时候，OpenAI首席执行官萨姆·奥特曼在美国国会作证时警告称，人工智能可能会“大错特错”。
今年5月，白宫组建了一个由副总统卡玛拉·哈里斯(Kamala Harris)领导的人工智能特别工作组。上周，该公司与论坛参与者以及meta和Inflection AI达成了一项协议，允许在向市场发布产品并向相关部门报告所有漏洞之前，对安全漏洞、隐私风险、歧视潜力和其他问题进行外部审计。
