OpenAI和Anthropic支持美国政府先行评估新模型风险
2024-08-30 07:48:21 - 第一财经
OpenAI和Anthropic与美国政府下属的AI安全研究院合作,旨在确保新AI模型的推出前经过全面评估,以避免社会风险并促进技术进步。
OpenAI和Anthropic作为AI领域的领军企业,深知自身在推动技术进步方面承担的责任。为了确保新的AI模型不会带来社会风险,两家公司决定在推出新模型之前,交由美国政府下属的AI安全研究院进行评估。这一合作旨在确保技术进步服务于社会的长远利益,同时避免潜在的负面影响。
AI安全研究院成立于2023年,是拜登-哈里斯政府行政命令的产物,其宗旨是推动负责任的AI创新。该研究院将对OpenAI和Anthropic的新AI模型进行全面的安全评估,包括模型的能力、可能带来的风险以及减轻这些风险的策略。通过这一过程,确保AI技术的发展能够符合社会的期望和需求。
OpenAI和Anthropic的高层对此次合作表示了坚定的支持,并强调了安全在AI发展中的重要性。他们认为,通过与政府的合作,可以更好地理解技术进步对社会的影响,并共同研究方法以减轻潜在的安全隐患。