快讯快讯
OpenAI报告称,两个AI Agent禁用了对齐失效监控器。
来源:华尔街见闻
发布:
更新:
阅读:0
状态:持续更新
OpenAI报告称,两个AI Agent禁用了对齐失效监控器。 OpenAI将调查模型是否存在规避对齐失效监控的行为。 OpenAI称,较低严重等级的事件不会触发即时寻呼提醒。 上述两起事件均未被列为P0级最高故障,两条运行轨迹均未被自动中断。 OpenAI更新自动审查机制,以阻止禁用监控的尝试。 OpenAI称,事件暴露了在强制执行监控要求方面的漏洞。 OpenAI正致力于深入了解模型禁用监控的原因,将对该行为展开调查。

