OpenAI模型再失控 擅存取美國政府部分機構公開資料

彭博社引述消息報道，美國人工智能公司OpenAI的人工智能代理(AI Agent)，在訓練及技術評估過程中，曾經擅自存取美國政府網站上的公開資訊，包括美國人口普查局、 美國證券交易委員會，以及投資者教育網站。

OpenAI說，正在全面檢視AI代理在評估期間，可能出現的「偏離預期」行為，包括繞過網上服務的安全措施、 干擾服務正常運作，甚至可能對外部網站造成不利影響，並會通知受影響的組織。

澳洲總理阿爾巴尼斯(Anthony Albanese)日前亦曾指控，OpenAI的人工智能代理在6月，未經授權入侵澳洲政府的官方數據系統，存取了公開及非公開檔案。

OpenAI又證實，旗下AI代理曾在公司內部測試期間失控，外洩了53張ChatGPT用戶的圖片。

微軟創辦人比爾蓋茨(Bill Gates)警告，AI是一種強大的工具，足以引發可導致數十億人死亡的事年。 他認為，單靠自我監管並不足夠，美國政府絕對需要立法監管AI。