在YouTube擁有141萬訂閱的網紅「小玉」朱玉宸，涉嫌以最新AI「Deepfake」人工智慧技術，將正妹網紅、民代「換臉」合成日本AV影片，再於社群網站招攬會員兜售。刑事局昨將小玉等3嫌送辦，初估1年多來獲利至少1000萬，被害超過百人。檢方複訊後，諭令小玉50萬交保，他因籌不出錢，改為30萬；另2共犯10萬交保與飭回。
刑事局破國內首起案例
刑事局指出，Deepfake專指基於人工智慧的人體圖像合成技術的應用。國外研究發現，該技術曾用於選舉假訊息、企業詐欺等，這是台灣首度查獲此技術的犯罪。去年10月，日本警視廳逮捕3嫌，也是將女藝人臉部合成到AV影像，營造當事人參與色情演出的假象。
刑事局網路情蒐，去年7月起，有標榜數名網紅「外流」性愛影片流傳，查證均非本人，循線追出是來自「台灣網紅挖面」推特粉絲團。26歲小玉涉嫌以幾秒短片，吸引網友花400元加入通訊軟體Telegram群組，若要觀賞全片，需以片長不等，再花400至1900元購買，就可獲私訊連結下載，會員約8000人。
移花接木 上百名人被害
警方查出，小玉自去年6月因罵母乳爭議影片後，就沒更新YT影片，反而以國外購得的AI換臉軟體，和22歲莊姓男子、24歲耶姓女子共同將雞排妹等網紅、藝人、立委高嘉瑜等女名人頭像，移花接木到色情片。小玉剪輯影片和回覆網友留言，莊找影片素材，耶女則處理金流。
警方17日拘提3嫌，查扣存有影片的硬碟，並於保險箱起獲458萬現金。據了解，小玉稱起初只是在群組分享好玩的剪輯影片，但人數愈來愈多，才開始收費。警方查出，3嫌也接受會員票選「下部想看誰？」再客製VIP影片；有人竟起鬨指名蔡英文總統，但嫌犯並未製作。
總統昨日在臉書斥責稱，「這些假訊息和影片，有一天都可能傷害到你我，需要大家一起遏止科技犯罪」，將重新盤點法規，研擬修法。
（中國時報／胡欣男、蔡雯如、崔慈悌）