隨著AI技術不斷發(fā)展，一些新型違法犯罪行為開始冒頭，給網(wǎng)絡空間安全和群眾人身財產(chǎn)安全帶來威脅，記者采訪多地公安機關，揭示犯罪手法，提升防范意識。
學AI，竟為“換臉”行騙
“你們公眾號怎么開始推薦投資理財App了？靠譜嗎？”今年6月10日，某機構工作人員像往常一樣打開公司公眾號評論區(qū)，卻被一連串粉絲留言驚出了一身冷汗。
工作人員發(fā)現(xiàn)，其運營的公眾號不知何時竟發(fā)文稱即將停更，并號召粉絲關注另一個投資理財類賬號。工作人員嘗試登錄賬號后臺，發(fā)現(xiàn)不僅密碼被修改，連公司法人代表信息都被篡改了。
意識到事態(tài)嚴重，工作人員第一時間報案。這也是湖北省首起利用AI換臉技術非法侵入計算機信息系統(tǒng)案。
接警后，武漢網(wǎng)警迅速成立專案組，研判發(fā)現(xiàn)被盜公眾號的操作痕跡為：犯罪分子通過“AI換臉”技術，更換了公司法人信息，又用新的“臉”識別登錄該賬號，進而發(fā)布涉詐引流信息。
順著線索追蹤，專案組很快鎖定了遠在山東濰坊的犯罪嫌疑人阿成（化名）。
站在民警眼前的阿成，衣著樸素，從事大棚種植，一度令警察懷疑追錯了人。但對其住所搜查時，辦案民警通過技術手段從其電腦已刪除的電子數(shù)據(jù)中，找到了大量AI換臉素材及非法所得的虛擬貨幣。
圖為被抓獲的阿成（中）。（武漢市公安局供圖）
原來，阿成本是美術技工，嫌尋常做圖收入不高，就改行務農(nóng)，又動了做AI圖掙“輕松錢”的歪腦筋。
2022年5月，他在外網(wǎng)接觸“人臉代過”灰色產(chǎn)業(yè)，加入相關群組后，先在各類小型電商平臺接單制作人臉圖像，每張收費200元；隨著技術提升，他掌握了生成動態(tài)人臉視頻的方法，“報價”也水漲船高，破解一張AI動態(tài)的人臉最高能賣到1000元。案發(fā)時，已非法獲利40余萬元。
“跑馬機”作弊成黑產(chǎn)
還有不法分子瞄上培訓學時，用AI幫人“打卡”。
今年3月，重慶警方偵查發(fā)現(xiàn)，一些駕校學員無需實際練車即可刷滿學時，背后是不法分子使用“跑馬機”并結合AI技術實施作弊。這一犯罪鏈條涉及生產(chǎn)、銷售、使用等多個環(huán)節(jié)，已形成黑色產(chǎn)業(yè)。
什么是“跑馬機”？重慶市南岸區(qū)公安分局網(wǎng)安支隊民警介紹，這是利用汽車脈沖信號原理制作的設備，其核心功能是通過侵入并篡改駕培計時系統(tǒng)，并運用AI技術模擬學員動態(tài)人像，達成偽造培訓記錄目的。
通過涉案資金追溯顯示，利益鏈條的源頭是駕校為了降低運營成本，以提供“快速拿證”為噱頭，吸引學員大量報名繳費獲利。與此同時，上游負責銷售“跑馬機”的黑代理商也獲利不菲。此外，部分駕校還外接訂單“代打卡”獲利，其規(guī)模化運作模式顯示，涉“跑馬機”犯罪已演變?yōu)闄C構化犯罪。
截至目前，重慶警方已打掉涉案違法犯罪團伙2個，抓獲犯罪嫌疑人70名，查扣“跑馬機”設備384臺，查處涉案駕校34家。
AI寫代碼，竟成了黑產(chǎn)源頭
今年2月，重慶萬州區(qū)網(wǎng)安部門發(fā)現(xiàn)，轄區(qū)犯罪嫌疑人王某針對某社交軟件開發(fā)群控程序。經(jīng)調(diào)查，一個使用黑產(chǎn)軟件從事各類違法犯罪的團伙浮出水面。
據(jù)萬州區(qū)公安局網(wǎng)安支隊民警介紹，大專學歷的王某自學掌握相關技術后，開始招募多名同伙用AI技術編寫程序代碼，制作各類黑產(chǎn)應用程序。這類黑產(chǎn)軟件無需使用官方客戶端，即可直接與后臺服務器進行數(shù)據(jù)交互，具有“多開”“群控”“批量管理”等功能，可實現(xiàn)批量發(fā)送消息、紅包等操作。
圖為重慶市網(wǎng)安干警正在研判案情。（重慶市公安局供圖）
令人驚訝的是，王某還根據(jù)下游團伙的犯罪需求，“定制”出各種黑產(chǎn)軟件，成為賭博、網(wǎng)絡水軍、電詐等多個犯罪鏈條的技術源頭。
比如，一到案的犯罪嫌疑人曾是電商從業(yè)者，因覺得來錢慢，便與王某技術對接，“轉(zhuǎn)行”專門從事刷單水軍活動，其在城中村租下一套房子設立“工作室”，招募多人加入。抓捕時，警方在房間里當場查獲多臺用于作案的電腦和手機。
目前，專案組已順藤摸瓜，先后打掉位于重慶、福建、江蘇等地從事黑產(chǎn)軟件開發(fā)及網(wǎng)絡水軍犯罪團伙4個，抓獲犯罪嫌疑人15名，查獲各類黑產(chǎn)程序軟件25個，查扣資金500余萬元，作案電腦、手機100余臺。
AI時代已來臨，新技術能做的事越來越多，也越來越有想象力。但筑牢安全底線的第一守則就是：AI可以很“忙”，但使用它的人不能法盲。掌握AI技術的專業(yè)人員，切勿因貪欲走上違法犯罪道路。同時各方應加強技術監(jiān)管，進一步完善生物特征檢測等AI時代的防偽技術，強化落實對個人隱私和信息的技術保護和法律責任。（記者 周聞韜、宋立崑）
寧公網(wǎng)安備 64010402000050號
