韓國女性人權振興院中央數位性犯罪受害者支援中心11月10日公開人工智能偵測及舉報系統的營運成果,引入人工智能後,每名工作人員每日平均處理的刪除請求由20.8件增至202.1件,增加9.7倍。
該中心去年12月建置的「兒童及青少年線上性剝削偵測及舉報系統」,能將含有「條件見面」韓文初聲四個字母的貼文分類為性剝削誘引資訊,再分析貼文是否以兒童及青少年為對象、是否在多處重複張貼,經人手覆核後決定是否舉報。
系統以該中心既有的性剝削內容關鍵字、偵測及舉報手冊、貼文與照片等4萬件資料訓練而成。
與該中心去年全年支援刪除的4萬5438件相比,今年4月至9月的刪除支援件數為1萬6210件,增加一倍以上。
該中心蒐集的有害網站中,79.8%(1萬8875個)伺服器設於美國,即使受害者請求刪除,營運者會以變更連線路徑的方式規避追蹤。
該中心已將刪除支援系統與美國國家失蹤與受虐兒童防治中心及全球網絡基礎設施企業Cloudflare以應用程式介面串接,串接後透過Cloudflare刪除2萬5156件,並經美國國家失蹤與受虐兒童防治中心的舉報系統,刪除兩處美國伺服器網站的兒童及青少年性剝削內容95件。
該中心相關人士表示:「提出刪除請求的貼文中,約70%會被刪除,但並非全部都能刪除」,刪除所需時間短則一天,長則可達一個月。
該中心計劃在明年之前擴大人工智能偵測對象平台,並開發分析對話流向與脈絡的技術,以找出線上性誘騙等性剝削誘引行為。
刪除技術團隊長樸成惠表示:「線上對話中,『幾歲』或『漂亮』這類留言單看字面似乎沒有問題,但可能是與兒童青少年建立信任後誘導個人資訊的線上性誘騙開端」,並指正開發讓人工智能學習對話流向及脈絡性內容、以找出性剝削誘引行為的技術。

留言