科技倡議組織警告於10月31日,人工智能企業聘用未經審查的外籍員工,加上聯邦層面缺乏監管,構成重大國家安全風險。
關注人工智能民主監督、安全規範及地方控制的組織「人類優先」(Humans First)主席克雷默(Amy Kremer)表示,與其他科技行業相比,人工智能技術幾乎沒有聯邦監管防線。她說:「這些公司持有並可接觸大量敏感資訊。你不需要偷走整個人工智能模型才能取得資訊,只要知道他們在做甚麼、合作夥伴是誰、對手是誰就可以。這不是我們應該外洩的東西。」
美國司法部表示,35歲沙特阿拉伯公民阿爾福贊(Abdulrahman Alfozan)涉嫌研究如何製造錄音裝置及在OpenAI辦公室內的擺放位置,最終於9月下旬把一個改裝音頻錄音器藏在行政會議室電視機後面;他於10月初被捕。
聯邦檢察官表示,搜查其住所及電子裝置時發現類似零件及照片,似乎顯示他曾偵察OpenAI內部其他地點,包括另一個用於敏感會議的會議室。
阿爾福贊是美國合法永久居民,被捕後被OpenAI解僱。
今年1月,一名前Google軟件工程師因竊取數千頁與人工智能相關的公司商業秘密以惠及中國而被定罪。
9月,OpenAI與Anthropic警告,其先進系統可能對人類構成直接威脅;兩家公司行政總裁均表示,其人工智能模型應受監管並接受嚴格測試。
美國總統特朗普9月在紐約聯合國大會發言時拒絕國際監管呼籲,表示美國「完全拒絕任何試圖構建全球主義計劃以控制現時備受談論的人工智能的企圖」。
今年春季,財政部長貝森特(Scott Bessent)與聯儲局主席鮑威爾(Jerome Powell)與華爾街大型銀行行政總裁舉行緊急簡報會,警告Anthropic的Claude Mythos Preview人工智能模型構成嚴重網絡安全風險。
7月,OpenAI披露有失控人工智能代理入侵科技初創公司Hugging Face的系統。
參議員桑德斯(Bernie Sanders)9月向記者表示,國會成員日益感到必須採取行動的迫切性;同月,參議員保羅(Rand Paul)阻止一項要求人工智能企業為失控人工智能設置終止開關的法案。

留言