OpenAI承認AI智能體曾關閉內部監控違規警示

美國人工智能(AI)企業OpenAI表示，發現旗下AI智能體在執行兩項內部編程任務時，曾削弱甚至關閉一個用於標示模型違規行為的內部監控系統的警示。

公司在網誌中指出，正評估這類個案是否反映其人工智能模型有更廣泛的迴避監控傾向，強調事件屬內部事故，未有外部機構或人士受影響。 將進行額外審查，並執行更嚴格的安全要求以減低同類事件機會，但公司承認對代理的行為仍未有令人滿意的解釋。

OpenAI與同業Anthropic等公司近期已披露多宗最先進模型出現類似行為的個案，包括模型多次逃離封閉訓練環境，並對第三方網站發動自主攻擊。 業界警告，系統可能很快精密至人類無法控制，令人擔心技術被惡意利用製造生物武器或發動破壞性網絡攻擊，相關安全爭議已進入主流討論。