AI犯罪日益增多 政法機(jī)關(guān)如何守住技術(shù)應(yīng)用法治底線(xiàn)?

時(shí)間:2024年07月04日    熱線(xiàn):0311-85290821   來(lái)源:法治日?qǐng)?bào)

  政法機(jī)關(guān)依法打擊治理AI犯罪 守住人工智能技術(shù)應(yīng)用法治底線(xiàn)

  4月12日,公安部公布10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例,其中4起典型案例涉及使用人工智能(以下簡(jiǎn)稱(chēng)AI)技術(shù)編造虛假信息;4月23日,北京互聯(lián)網(wǎng)法院一審開(kāi)庭宣判AI生成聲音人格權(quán)侵權(quán)案……

  近年來(lái),隨著AI技術(shù)的快速發(fā)展,越來(lái)越多的人在工作生活中開(kāi)始享受到該技術(shù)所帶來(lái)的全新體驗(yàn),但伴隨而來(lái)的是,利用或?yàn)E用AI技術(shù)從事違法犯罪的活動(dòng)(以下簡(jiǎn)稱(chēng)AI犯罪)日益增多。

  對(duì)此,政法機(jī)關(guān)依法履職,持續(xù)深挖徹查AI犯罪,不斷擴(kuò)大辦案戰(zhàn)果,努力提升打擊治理質(zhì)效,全力維護(hù)人民群眾合法權(quán)益。

  “政法機(jī)關(guān)立足主責(zé)主業(yè),發(fā)揮職能作用,全力打擊治理AI犯罪,防范不法分子利用或?yàn)E用AI技術(shù)侵犯公民權(quán)利、危害公共安全,保證AI技術(shù)始終沿著正確的軌道向前發(fā)展!笔锥紟煼洞髮W(xué)政法學(xué)院法律系副教授崔俊杰對(duì)《法治日?qǐng)?bào)》記者說(shuō)。

  AI犯罪“花樣”層出不窮

  “電腦AI去衣,白菜價(jià)。”

  2023年6月,原是北京一家互聯(lián)網(wǎng)公司技術(shù)員的白某某,在境外的社交媒體上接觸到了“一鍵去衣”的AI技術(shù),便動(dòng)起了歪心思。

  白某某通過(guò)境外的網(wǎng)站發(fā)布廣告,在某社交軟件上販賣(mài)深度偽造淫穢圖片近7000張,獲利一萬(wàn)多元。目前白某某已被提起公訴。

  “一鍵去衣”究竟是怎樣的一種技術(shù)?記者了解到,這項(xiàng)技術(shù)并不是真的“去衣”,而是在圖片的基礎(chǔ)上,通過(guò)AI自行運(yùn)算使用相關(guān)的淫穢圖像素材對(duì)圖片進(jìn)行重繪,和“AI換臉”“AI變聲”一樣,屬于利用AI深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。

  “電詐犯罪團(tuán)伙能夠通過(guò)AI技術(shù)‘換臉’‘變聲’,甚至是‘動(dòng)態(tài)換臉’,增加了傳統(tǒng)犯罪活動(dòng)的危害性,還產(chǎn)生了新型的違法行為,如使用AI‘繪畫(huà)’技術(shù)生成的繪畫(huà)作品可能會(huì)對(duì)他人著作權(quán)造成侵權(quán)。”崔俊杰表示,當(dāng)前AI技術(shù)已被不法分子使用于網(wǎng)絡(luò)釣魚(yú)、深度偽造、繞過(guò)身份檢查、“越獄”式服務(wù)、人肉搜索和監(jiān)視五個(gè)方面,進(jìn)一步降低了犯罪的門(mén)檻。

  5月6日下午,江西省鷹潭市余江區(qū)人民法院公開(kāi)宣判全國(guó)首例“AI游戲外掛”案,依法對(duì)被告人王某合以提供侵入、非法控制計(jì)算機(jī)信息系統(tǒng)程序、工具罪判處有期徒刑三年,緩刑五年。宣判后,王某合表示服從判決,不上訴。

  經(jīng)審理查明:王某合通過(guò)制作出售“AI外掛”的方式牟利,2022年,其先后聯(lián)系萬(wàn)某至、張某(另案處理)等人編寫(xiě)“AI外掛”程序。至案發(fā),王某合非法獲利共計(jì)629萬(wàn)余元。

  據(jù)悉,該程序可對(duì)多款游戲的畫(huà)面數(shù)據(jù)進(jìn)行未授權(quán)獲取,對(duì)游戲中處理的鼠標(biāo)數(shù)據(jù)指令進(jìn)行未授權(quán)修改,造成玩家在玩游戲時(shí),不用操作就可以“自動(dòng)瞄準(zhǔn)”“自動(dòng)開(kāi)槍”,干擾了游戲的正常運(yùn)行環(huán)境,屬于破壞性程序。

  在崔俊杰看來(lái),AI技術(shù)標(biāo)準(zhǔn)化程度低、可定制性強(qiáng)、應(yīng)用場(chǎng)景廣泛,不法分子作案手法越發(fā)多樣,導(dǎo)致AI犯罪不斷衍生升級(jí),如不及時(shí)進(jìn)行打擊治理,會(huì)給網(wǎng)絡(luò)安全,甚至廣大群眾的生命財(cái)產(chǎn)安全帶來(lái)嚴(yán)峻挑戰(zhàn)。

  從嚴(yán)打擊形成有效震懾

  為應(yīng)對(duì)挑戰(zhàn),政法機(jī)關(guān)采取一系列措施打擊AI犯罪,維護(hù)AI技術(shù)良好的發(fā)展環(huán)境,避免其在應(yīng)用過(guò)程中引發(fā)失序和失范。

  2023年9月,最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(jiàn)》,明確對(duì)“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形予以從重處罰。

  4月23日,全國(guó)首例AI生成聲音人格權(quán)侵權(quán)案在北京互聯(lián)網(wǎng)法院一審開(kāi)庭宣判,法院認(rèn)定被告方使用原告聲音、開(kāi)發(fā)涉案AI文本轉(zhuǎn)語(yǔ)音產(chǎn)品未獲得合法授權(quán),構(gòu)成侵權(quán),賠償原告各項(xiàng)損失25萬(wàn)元,并書(shū)面賠禮道歉。

  6月25日,江蘇省張家港市人民檢察院向市人民法院就一起敲詐勒索、詐騙案件提起公訴。據(jù)悉,犯罪嫌疑人所在的境內(nèi)團(tuán)伙通過(guò)虛擬定位、AI技術(shù)合成照片等方式,在交友軟件上將自己包裝成在外國(guó)的中國(guó)女留學(xué)生,隨后以談戀愛(ài)等名義,向在國(guó)外的留學(xué)生索取錢(qián)財(cái)。目前已查實(shí)該團(tuán)伙敲詐勒索、詐騙50余人,涉案金額達(dá)100余萬(wàn)元。

  自最高檢去年11月發(fā)布《檢察機(jī)關(guān)打擊治理電信網(wǎng)絡(luò)詐騙及其關(guān)聯(lián)犯罪工作情況(2023年)》后,各地檢察機(jī)關(guān)按照相關(guān)要求,加大對(duì)侵犯公民個(gè)人信息尤其是非法獲取人臉、聲紋等敏感信息、利用AI等前沿技術(shù)偽造人臉、聲紋以及獲取其他信息犯罪的打擊力度。

  此外,全國(guó)公安機(jī)關(guān)去年依托“凈網(wǎng)”專(zhuān)項(xiàng)行動(dòng)組織專(zhuān)項(xiàng)會(huì)戰(zhàn),嚴(yán)打泄露身份證照片等圖像信息的犯罪源頭,破獲利用AI技術(shù)“換臉”進(jìn)行詐騙犯罪案件79起,抓獲犯罪嫌疑人515名,有效遏制了該類(lèi)犯罪勢(shì)頭。

  政法機(jī)關(guān)依法打擊AI犯罪,并通過(guò)辦理典型案例的方式形成震懾,讓想用AI技術(shù)非法獲利的人心生畏懼。

  強(qiáng)化治理實(shí)現(xiàn)標(biāo)本兼治

  記者了解到,在依法打擊AI犯罪的過(guò)程中,政法機(jī)關(guān)深挖這一違法犯罪的規(guī)律特點(diǎn),堅(jiān)持以打開(kāi)路、打防并舉、源頭治理、綜合施策,會(huì)同相關(guān)部門(mén)單位深入推進(jìn)行業(yè)治理、綜合治理,壓實(shí)主體責(zé)任,強(qiáng)化行業(yè)監(jiān)督,堵住監(jiān)管漏洞,全力擠壓相關(guān)違法犯罪活動(dòng)空間,加速完善常態(tài)化治理機(jī)制,切實(shí)提高其違法成本。

  據(jù)悉,為防范和打擊“AI換臉”犯罪,全國(guó)公安機(jī)關(guān)聯(lián)合國(guó)家重點(diǎn)實(shí)驗(yàn)室等單位,開(kāi)展人臉識(shí)別與活體檢測(cè)技術(shù)安全測(cè)評(píng),覆蓋即時(shí)通信、網(wǎng)絡(luò)直播、網(wǎng)絡(luò)社交、電商平臺(tái)、金融支付等重點(diǎn)App,及時(shí)發(fā)現(xiàn)人臉識(shí)別驗(yàn)證系統(tǒng)存在的風(fēng)險(xiǎn)隱患,通報(bào)運(yùn)營(yíng)主體升級(jí)安全保護(hù)措施和人臉識(shí)別算法,不給不法分子可乘之機(jī)。

  與此同時(shí),各地通過(guò)多種形式的宣傳教育,幫助群眾更加清晰認(rèn)識(shí)到AI技術(shù)被利用或?yàn)E用所帶來(lái)的法律風(fēng)險(xiǎn),增強(qiáng)了大家對(duì)AI犯罪的防范意識(shí)。

  今年4月,安徽省合肥市警方通過(guò)中央媒體在關(guān)于“AI軟件成造謠工具”節(jié)目中揭秘謠言制作過(guò)程,讓網(wǎng)民更直觀地加深了對(duì)AI造謠的認(rèn)識(shí),起到了較好的宣傳效果。

  2024年以來(lái),浙江省杭州市臨平區(qū)借助“反詐智能AI宣防外呼系統(tǒng)”,自動(dòng)識(shí)別、分析和預(yù)警潛在的詐騙風(fēng)險(xiǎn),并以電話(huà)語(yǔ)音形式向市民發(fā)送提醒信息,不僅大幅提升工作效能,也切實(shí)提高了市民對(duì)詐騙風(fēng)險(xiǎn)的警覺(jué)性,降低了詐騙案件的發(fā)生率。

  “隨著AI技術(shù)的快速迭代,對(duì)其被不法分子利用或?yàn)E用進(jìn)行防治提出了更高要求。如AI犯罪行為更為隱蔽和復(fù)雜,證據(jù)收集難度大!贝蘅〗苷f(shuō),因此,如何更好地防治AI犯罪,對(duì)內(nèi)容生成平臺(tái)、行業(yè)監(jiān)管部門(mén)乃至政法機(jī)關(guān)等各方都提出了挑戰(zhàn)。

  崔俊杰建議,要堅(jiān)持以科學(xué)適度的治理方式和治理手段回應(yīng)技術(shù)發(fā)展和社會(huì)變遷,針對(duì)AI犯罪特點(diǎn),相關(guān)部門(mén)需及時(shí)推動(dòng)相關(guān)法律的立改廢釋纂,以良法促善治,提高依法治理水平;加大全鏈條打擊力度,強(qiáng)化各部門(mén)協(xié)同配合,加強(qiáng)大數(shù)據(jù)法律監(jiān)督模型應(yīng)用,善于從中發(fā)現(xiàn)重點(diǎn)監(jiān)督線(xiàn)索和社會(huì)治理存在的難點(diǎn)問(wèn)題,實(shí)現(xiàn)精準(zhǔn)監(jiān)督、有效監(jiān)督,在確保行業(yè)良性健康發(fā)展的基礎(chǔ)上實(shí)現(xiàn)精準(zhǔn)治理。(本報(bào)記者 杜洋)

  來(lái)源:法治日?qǐng)?bào)

編輯:【梁周杰】
本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點(diǎn)。 刊用本網(wǎng)站稿件,務(wù)經(jīng)書(shū)面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制及建立鏡像,違者將依法追究法律責(zé)任。
Copyright ?1999-2024 chinanews.com. All Rights Reserved