2024-07-22・Array

衛福部攜手Google AI揪兒少性影像

過去針對兒少性影像採「被動式通報」，近日《兒少性剝削防制條例》修正案通過，其一重點是授權中央主管機關運用科技技術建立巡查機制，主動揪出犯罪。

衛福部資訊處長李建璋表示，透過「網路爬蟲」技術，主動下載公開影像、文字資料再加以辨識，一旦發現兒少性剝削內容，將轉介保護司處理，必要時請警方介入，其中關鍵在於讓人工智慧（AI）辨識出兒少性剝削內容。

李建璋說，兒少性剝削影像在世界各地破獲後會產生識別碼，這些識別碼可透過國際組織的參與取得。傳統影像辨識作法是提供大量影像，訓練模型辨認，但此舉會造成兒少的二次傷害。

他說，Google的模型不是靠大量兒少性影像來訓練，而是讓電腦學會辨識正常兒少影像，當影像脫離範疇，就會認定為疑似違法內容。衛福部近期已成功與Google談到合作，由保護司委託開發工具中。

網路也存在許多特殊術語，例如性交易被稱為「喝茶」，費用被稱作「茶資」，年紀則被稱為「茶溫」等。衛福部也與資訊產業合作，訓練在地化的語言模型，讓AI辨識出關鍵字內容，以利公部門採取行動。

此外，隨科技進展，性暴力已不侷限在物理世界，今年英國更出現全球首例「元宇宙」性侵案，受害者年僅16歲。諮商心理師公會全聯會理事羅惠群表示，AI時代勢必造成更多混亂，如同早期西部拓荒，仍在建立秩序，大家都在摸索如何規範。

羅惠群說，過去大家擔心的是孩子見網友，不出門就沒事；網路更難管控、風險更大，即便孩子在家，也可能在房內被要脅提供私密影像。且網路資訊會被無限放大，數位性暴力造成的心理、人際關係傷害比物理世界更甚，未來勢必會有更多樣的犯罪型態走在法律之前。

羅惠群認為，家長是最重要的守門人，孩子在網路世界做什麼，須有一定了解，例如國中階段開始對性感到好奇，可能用交友軟體等，家長需要更多的知能和對話技巧，政府要加強宣導，幫家長提升敏銳度。(中國時報/林周義)