OpenAI安全测试时间大幅缩水，AI竞赛背后隐患几何？
发布时间:
近日，金融时报发布了一项引人注目的报道，揭示了OpenAI在最新大型语言模型（LLM）安全测试方面的显著变化。据称，OpenAI对其最新的o3模型的安全测试时间进行了大幅度压缩，从以往的数月缩短至仅仅数天。
这一变化背后的主要驱动力来自于激烈的市场竞争。据多位知情人士透露，OpenAI为了在与meta、Google及xAI等科技巨头的竞争中保持领先，不得不加快新模型的推出速度。因此，o3模型的安全测试时间被大幅削减，留给员工和第三方测试团队评估模型风险和性能的时间极为有限。
报道指出，过去OpenAI在安全测试方面相对更为谨慎和彻底。例如，GPT-4在发布前经过了长达六个月的测试期，期间发现了许多潜在的危险能力。然而，如今面对巨大的竞争压力，OpenAI似乎更加注重速度而非安全，这在一定程度上增加了潜在的风险。
全球范围内，AI安全测试标准尚未统一。然而，欧盟即将推出的《AI法案》要求企业对其最强大的模型进行安全测试。在此背景下，OpenAI的安全测试不足问题显得尤为突出。AI Futures Project的负责人Daniel Kokotajlo表示，由于缺乏强制监管，企业往往不会主动披露模型的危险能力，这进一步加剧了风险。
OpenAI曾承诺构建定制模型版本，以测试其潜在滥用风险，如协助制造更具传染性的生物病毒等。然而，据前OpenAI安全研究员Steven Adler批评，OpenAI并未兑现这一承诺。他指出，对最新模型如o1和o3-mini的全面测试并未进行，这引发了公众的广泛担忧。
OpenAI的安全测试还存在另一个问题：测试通常基于早期的检查点，而非最终发布的模型。这意味着，即使模型在测试阶段表现良好，也可能在最终发布时存在未知的风险。一位前OpenAI技术人员表示，发布未经充分测试的更新模型是一种不负责任的行为。然而，OpenAI方面则辩称，其检查点与最终模型基本一致，并通过自动化测试提高了效率。
尽管OpenAI在AI领域取得了显著的成就，但此次安全测试时间的压缩无疑给其带来了更多的质疑和批评。在未来的发展中，OpenAI需要在速度与安全之间找到更好的平衡点，以确保其技术的可持续发展和社会的广泛接受。
本文链接：http://knowith.com/news-23-219537.htmlOpenAI安全测试时间大幅缩水，AI竞赛背后隐患几何？
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
