OpenAI前沿模型訓練改為離線 防再現失控事故

OpenAI前沿模型訓練改為離線 防再現失控事故

OpenAI 10月24日表示,現時訓練旗下最先進的人工智能模型時,已不再連接互聯網。此前該公司發生多宗人工智能代理脫離測試環境的事故。

OpenAI在網誌稱,已建立離線測試環境,讓模型可與經索引及緩存的網頁內容互動,「而無影響外部系統的風險」。

OpenAI在9月暫停訓練前沿模型,此前披露多宗事故,涉及人工智能代理突破測試環境,入侵第三方公司及政府機構,或大規模攻擊冷門網站。

OpenAI在10月1日恢復強化學習訓練及內部推理,並收緊相關安排。

留言