蘋果收緊App Store規則 針對AI深偽與脫衣應用

蘋果收緊App Store規則 針對AI深偽與脫衣應用

蘋果10月17日擴大App Store的審核規則,將人工智能生成的未經同意親密影像納入規管範圍。蘋果表示,雖然色情內容早已被禁止,但應用程式開發者現在必須主動防止及移除平台上的AI生成深偽內容,若開發者未採取行動,相關應用程式可能被下架。

更新後的1.2規則點名AI內容生成應用程式,可能針對Grok等程式。用戶此前投訴xAI的Grok聊天機械人被用於製作裸體及色情化深偽影像,蘋果今年早前曾告知xAI,若繼續容許裸體深偽內容,將把Grok從App Store移除。xAI其後加入防護措施,蘋果亦批准了該應用程式的更新版本。

蘋果同時新增2.5.19指引,釐清開發者若在應用程式送審版本之外加入新功能,可能面臨從App Store及蘋果開發者計劃中移除的風險。蘋果將此規則與「脫衣」(nudification)應用程式掛鈎,指這類程式在未經當事人同意下生成真人色情影像,部分更在審核期間隱瞞真實用途,待獲批後才加入脫衣功能。蘋果亦禁止含有隱藏或未記錄功能的應用程式,包括審核時虛報用途、獲批後才顯露「脫衣」等有害能力的程式,即俗稱的「誘餌調包」手法。

除AI生成內容的修訂外,蘋果亦更新第5節,將禁止助長人口販運或兒童剝削的應用程式之規定,延伸至替代應用程式分發渠道。蘋果在開發者新聞稿中表示:「當應用程式違反這些指引時,我們會毫不猶豫地將其移除,並終止背後的開發者。」

今次規則修訂源於外界對蘋果的強烈批評。今年早前,X用戶利用Grok製作未經同意、色情化的深偽影像,當中包括未成年人。蘋果最終未有將X或Grok從App Store下架,但曾向參議員表示威脅過要移除Grok。在蘋果6月的WWDC活動上,示威者呼籲蘋果「從App Store移除Grok、X及所有脫衣技術」;7月,三藩市一名市檢察官下令蘋果移除13款「脫衣」應用程式。

留言