OpenAI 10月24日宣布,將不再以實時互聯網訓練旗下人工智能模型,改以互聯網的緩存副本及模擬版本進行訓練,理由是模型行為難以預測,不宜讓其接觸實時網絡。
OpenAI在博客文章表示,基於對齊研究、監測系統及互聯網基礎設施安全的現況,認為負責任的做法是在沒有互聯網連接的情況下進行前沿模型訓練,並已實施有關政策,直至相關防護措施的進展足以支持更廣泛的網絡接入。
該公司稱,9月20日一個內部研究模型利用域名系統(DNS)配置錯誤取得互聯網訪問權限,事件雖已受控,但暴露了需要進一步處理的弱點,公司因此暫停最強模型的訓練及評估,並利用該段時間加固基礎設施、加強監測,以及改善在偵測到嚴重風險活動時自動停止運行的系統。
OpenAI表示,已大幅加固研究環境的安全,並在雲端服務供應商協助下,對其基礎設施實施新的控制措施。
OpenAI的競爭對手Anthropic亦已限制其最新模型接觸實時互聯網,並要求所有網絡評估在沒有互聯網連接的加固沙盒環境中進行。

留言