近期，互聯(lián)網(wǎng)社交平臺Soul?APP發(fā)布《第三季度生態(tài)安全治理報告》。在行業(yè)內(nèi)，Soul首創(chuàng)動態(tài)查重功能，致力于打壓跟風(fēng)搬運(yùn)等不良行為，保護(hù)原創(chuàng)內(nèi)容，倡導(dǎo)用戶真實(shí)地表達(dá)自我。在識別殺豬盤、打擊導(dǎo)流欺詐、治理虛假不實(shí)內(nèi)容以及低俗內(nèi)容等方面，Soul也作出積極努力。報告顯示，Soul配合多地公安破獲色情導(dǎo)流、黑產(chǎn)犯罪團(tuán)伙3個，目前對10余人采取刑事強(qiáng)制措施；且積極參與公安部專項(xiàng)行動，協(xié)助五省三十市及京津冀各地警方研判分析詐騙導(dǎo)流、黑產(chǎn)團(tuán)伙作案手法等，抓獲犯罪嫌疑人200余人。

嚴(yán)厲打擊導(dǎo)流欺詐行為，平臺導(dǎo)流外溢案件比往年同期下降70%

報告顯示，整個三季度，Soul在廣場、私信等多場景中進(jìn)行反詐安全提示曝光達(dá)1600萬次。上線上千個風(fēng)控策略，處罰91萬人次。Soul配合公安破獲色情導(dǎo)流、黑產(chǎn)犯罪團(tuán)伙3個，目前對10余人采取刑事強(qiáng)制措施，且積極參與公安部專項(xiàng)行動，協(xié)助五省三十市及京津冀各地警方研判分析詐騙導(dǎo)流、黑產(chǎn)團(tuán)伙作案手法等，抓獲犯罪嫌疑人200余人。在一系列舉措下，Soul在本季度日均攔截95%以上的導(dǎo)流欺詐行為，平臺導(dǎo)流外溢案件發(fā)案同比往年同期下降70%，接到詐騙舉報量同比下降50%。

一直以來，電信網(wǎng)絡(luò)詐騙嚴(yán)重侵害公民的合法權(quán)益和財產(chǎn)安全。為守護(hù)用戶安全，Soul建立起嚴(yán)密的風(fēng)控體系，應(yīng)用大數(shù)據(jù)、AI等新興技術(shù)，在風(fēng)險前、中、后期全鏈路引入AI模型，實(shí)時打擊、提升風(fēng)險攔截效率。

日常運(yùn)營中，Soul設(shè)立反詐中心，通過分享案例、時時提醒，成為反詐宣傳的大喇叭。在用戶對話中，如果出現(xiàn)“投資”“刷單”“轉(zhuǎn)賬”以及其他與支付相關(guān)的高危敏感字眼，Soul依靠技術(shù)手段能夠精準(zhǔn)洞察，及時對用戶發(fā)出警示。同時，針對用戶的舉報，Soul會在第一時間響應(yīng)，核查并封鎖涉嫌詐騙的賬號。為打擊導(dǎo)流詐騙行為，Soul還與公安機(jī)關(guān)等部門聯(lián)動，為用戶共同編織安全防護(hù)網(wǎng)。S第三季度，Soul在反詐防騙工作中獲得的亮眼成績，也是平臺常態(tài)治理、多維協(xié)作的結(jié)果。

行業(yè)首創(chuàng)動態(tài)查重功能上線，搬運(yùn)、抄襲類相關(guān)舉報日均下降42%

數(shù)據(jù)顯示，第三季度，Soul官方風(fēng)紀(jì)球長對“保護(hù)原創(chuàng)、鼓勵真實(shí)”發(fā)布了共18篇帖子，涉及違規(guī)處罰公示、安全標(biāo)準(zhǔn)宣導(dǎo)、真實(shí)公約等內(nèi)容，總計曝光量達(dá)到6292萬。通過啟動動態(tài)查重機(jī)制，Soul日均識別、打擊搬運(yùn)抄襲帖3.2萬條，搬運(yùn)、抄襲類相關(guān)舉報日均下降42%。

在平臺發(fā)展中，Soul一直將“真實(shí)”作為倡導(dǎo)鼓勵的平臺氛圍和社交禮儀。為給用戶帶來更多有趣、多元、溫暖、真實(shí)的社交體驗(yàn)，保護(hù)原創(chuàng)者的作品和著作權(quán)，Soul開啟了國內(nèi)社交平臺的動態(tài)查重先例，上線了查重識別模型——比對站內(nèi)歷史發(fā)帖，識別并標(biāo)記來自不同用戶的雷同內(nèi)容。例如，如果發(fā)布者的圖片曾經(jīng)在站內(nèi)內(nèi)容廣場出現(xiàn)過，在其個人主頁對應(yīng)的內(nèi)容帖下方將出現(xiàn)該內(nèi)容曾在站內(nèi)出現(xiàn)過的提示。此前，一位網(wǎng)友在Soul上曬豪車和一張123萬的汽車訂購單，而通過查重識別，該圖片被自動標(biāo)注“系統(tǒng)識別該圖片曾在站內(nèi)出現(xiàn)過”，此事在互聯(lián)網(wǎng)引起熱議。通過啟動動態(tài)查重等舉措，Soul不僅保護(hù)了原創(chuàng)作者的權(quán)益，也強(qiáng)化對跟風(fēng)博眼球等內(nèi)容的打擊。同時，此舉能夠有效打擊虛假人設(shè)，有助于防范網(wǎng)絡(luò)詐騙。

與此同時，Soul還發(fā)起《尊重原創(chuàng)?分享真實(shí)》公約（又稱《Soul?Real》公約），呼吁各位Souler參與原創(chuàng)內(nèi)容保護(hù)，已帶動70多萬用戶積極了解保護(hù)原創(chuàng)的動態(tài)查重功能，共同抵制跟風(fēng)抄襲盜圖的行為，并有上萬名Souler簽署該公約，獲得積極響應(yīng)。

開展低俗內(nèi)容專項(xiàng)治理，日均舉報量較上季度下降50%

一直以來，不良低俗內(nèi)容就像互聯(lián)網(wǎng)上的“牛皮癬”，影響人們的互聯(lián)網(wǎng)使用體驗(yàn)。為了給廣大用戶打造綠色清朗的社交環(huán)境，Soul開展了不良低俗內(nèi)容專項(xiàng)整治，從內(nèi)容廣場、文字群組、群聊派對等多個產(chǎn)品場景進(jìn)行集中優(yōu)化治理。

針對內(nèi)容廣場的帖子與評論，Soul通過專項(xiàng)識別模型前置處理低俗內(nèi)容。線上運(yùn)行的軟色情識別模型以及低俗色情識別模型，能夠?qū)ξ谋?、圖片、視頻、音頻形式的有害信息進(jìn)行有效識別。在此基礎(chǔ)上，Soul在第三季度還上線了超過60條不良低俗內(nèi)容治理策略，從而進(jìn)一步精準(zhǔn)識別不良低俗內(nèi)容。

整個第三季度，Soul在不良低俗內(nèi)容治理方面也取得可觀成果。Soul官方風(fēng)紀(jì)球長對安全生態(tài)宣傳內(nèi)容發(fā)布了共43篇帖子，涉及違規(guī)處罰公示、安全標(biāo)準(zhǔn)宣導(dǎo)、辟謠等內(nèi)容，總計觸達(dá)2870萬用戶。在廣場治理方面，日均攔截5000條軟色情內(nèi)容，日均處理違規(guī)用戶1863人次。在強(qiáng)力的治理舉措下，日均舉報量較上季度下降50%。此外，Soul還針對群聊派里的不良低俗內(nèi)容重拳出擊，通過敏感詞檢索模型設(shè)定，日均中斷4000余條違規(guī)語音消息，日均攔截違規(guī)文字消息1.1萬條，日均梯度處罰2000多名違規(guī)用戶。

強(qiáng)化網(wǎng)絡(luò)空間治理，Soul會一如既往、不遺余力地持續(xù)努力，而營造積極、向上向善的網(wǎng)絡(luò)文化，需要更多用戶和互聯(lián)網(wǎng)參與者的共同努力。Soul鼓勵廣大用戶共同監(jiān)督平臺內(nèi)的違規(guī)行為和內(nèi)容，攜手共建綠色清朗的網(wǎng)絡(luò)環(huán)境。