Soul創新使用者共治新模式 第四季度生態安全治理再交亮眼成績單

日均攔截95%以上的導流欺詐行為、日均識別打壓搬運抄襲帖2。9萬條，日均3000+使用者參與平臺眾裁活動……近期，新型開放式社交平臺Soul App釋出了《Soul第四季度生態安全報告》。

報告顯示，Soul透過AI識別和黑灰產識別技術上線動態查重功能和多項反詐機制，從技術研發、產品設計及多方協同打擊方面著手，建立嚴密的風控機制，並打造了由辨識真偽、平臺打擊、使用者宣導和治理眾裁四部分組成的迴圈反饋雙擎生態安全治理模式。2022年第四季度，Soul重點圍繞導流詐騙治理、綠色生態共建、虛假內容打擊、一鍵防網暴等四大使用者安全生態專項開展治理，再次交出一份亮眼的成績單。憑藉在生態安全治理方面的領先實踐，Soul受邀參與由中國網際網路協會調解工作委員會主辦的“2022網路安全治理機制高峰論壇”，併入選《2022網路安全運營服務機制及網路反詐應對報告》。

重拳出擊新型詐騙，配合公安機關成功打擊導流詐騙團伙

報告顯示，2022年四季度，Soul透過站內官方賬號Soul反詐中心，在私信、廣場等多場景對使用者進行反詐安全提示，曝光達800餘萬次。四季度，Soul上線1000多項風控策略，處罰100萬人次，導流外溢案件發案下降50%以上，日均攔截95%以上的導流欺詐行為，獲得使用者正向反饋超10萬次。另外，透過主動發現線索，Soul還配合公安機關成功打擊站內導流詐騙團伙2個。

由於Soul本身不具備轉賬功能，因此，有一些不法分子想方設法將使用者吸引至第三方平臺，再實施詐騙。針對這一情況，Soul嚴厲打擊透過欺騙性手段，騙取使用者信任導流到站外的行為。特別是對於“投資”“刷單”“轉賬”和與支付相關的高危敏感字眼，Soul會在使用者對話頁面上及時彈出警示標誌，甚至會給使用者發簡訊、打電話，透過及時提醒讓使用者遠離詐騙。同時，Soul還會在第一時間響應使用者的舉報，核查並封禁涉嫌詐騙的賬號。

值得一提的是，Soul透過企業與政府多部門聯動，實現預警、勸阻、黑庫、情報等能力共享、協同打擊。及時阻斷和叫醒使用者，持續加強警企合作走訪提醒，提升平臺安全感。

在防範網路詐騙方面，Soul還因勢而動，不斷升級，建立了更嚴密的風控體系，對不同群體“殺豬盤”詐騙實現精準打擊。同時，Soul還透過最佳化使用者端及時提醒機制，防範使用者上當受騙。

創新安全生態治理新模式，日均3000+使用者參與共治眾裁

報告顯示，2022年第四季度，Soul在廣場治理中日均攔截1。8萬條軟色情內容，日均處理違規使用者1000人次，日均帖子、評論舉報量較上季度下降30%，在群聊派對治理中，Soul日均中斷5000餘條違規語音訊息，日均攔截違規文字訊息1。4萬條，日均梯度處罰違規2000多使用者。在低俗內容和不良价值觀集中治理方面，Soul交出一份亮眼成績單。

構建清朗的網路空間，需要傳遞正確的價值觀。為了給使用者提供綠色清朗的社交環境，Soul長期對擦邊低俗、拜金炫富、挑唆男女對立等不良价值觀內容開展專項整治，從內容廣場、文字群組、群聊派對等多場景進行集中最佳化，讓平臺充滿溫暖、友善的氛圍。

在Soul上，平臺使用者群體大部分是以95後、00後為代表的Z世代。對Z世代來說，一方面，他們反對說教式強制管束，另一方面，他們受教育程度越來越高、正能量十足，願意承擔起社群自治責任。

針對年輕一代的特點，Soul上線風紀委活動，邀請使用者對不良价值觀內容進行打分，實施眾裁，風紀委活動得到使用者的積極響應。資料顯示，目前已有2萬餘名使用者成為風紀委成員，日均超3000成員參與其中。此外，針對低俗內容，Soul在此前軟色情識別模型以及低俗色情識別模型的基礎上，於四季度又上線超過20條不良低俗內容打壓策略，進一步精準識別，有效保護使用者。

升級“動態查重”功能，使用者對虛假內容處理滿意度提升20%

在網路空間，虛假不實內容就像一顆顆煙幕彈，嚴重影響網路安全生態治理。為更好地治理虛假不實內容，2022年第三季度Soul在業內首創“動態查重”功能，還發起《尊重原創 分享真實》公約（又稱《Soul Real》公約），呼籲使用者參與原創內容保護。

2022年第四季度，Soul對“動態查重”功能進行升級。例如，如果釋出者的圖片曾在站內廣場出現過，Soul不僅在其個人主頁對應的內容帖下方提示“該內容曾在站內出現過”，還在廣場詳情頁帖子下增加相應展示，讓虛假、跟風內容處處現形。此外，Soul還增加舉報入口，透過訊息提醒原創作者對搬運內容進行舉報維權，更好地保護原創者的合法權益。

報告顯示，四季度Soul官方風紀球長髮布“保護原創、鼓勵真實”相關的宣傳科普內容14篇，涉及違規處罰公示、安全標準宣導、真實公約等方面，總計曝光量達5252萬。該季度，Soul日均識別打壓搬運抄襲帖2。9萬，搬運抄襲相關舉報日均下降30%，使用者對虛假內容處理的滿意度提升20%。

實現“一鍵防網暴”，強化“友善評論引導”

“惡語傷人六月寒”。在社交網路中，時時出現的網路暴力，成為傷人利器，也成為網路生態的“毒瘤”。在網路暴力治理方面，Soul打出了防治相輔的組合拳。

2022年第四季度，Soul上線了一鍵防網暴功能。在使用者遇到攻擊辱罵、低俗色情騷擾等情況下，Soul自動觸發“今日自閉”開啟提醒。使用者選擇開啟“今日自閉”功能後，將不再收到靈魂匹配、奇遇鈴和內容廣場等場景中的陌生人資訊。據統計，新功能上線後，每天嘗試使用自閉功能的使用者超3萬人。此外，Soul還在私聊對話、內容廣場、遊戲等不同場景與功能板塊，對辱罵攻擊、挑唆男女對立、地域歧視等網暴行為重拳出擊。

此外，當用戶因為人身攻擊被舉報多次以後，Soul將限制使用者的評論功能並引導使用者簽署“友善互動宣告”，只有簽署後才能繼續發表評論，並且Soul在廣場內容的釋出中還啟動禁止評論功能，釋出者可以自定義選擇可評論的使用者群體。

透過防治結合，Soul在網路暴力治理方面也取得碩果，日均避免使用者遭受網暴與頻繁騷擾5000多次，日均處理私聊不文明行為使用者300多人，日均提醒引導私聊文明發言20萬次，日均傳送友善評論提示900多次，累計簽署友善互動宣告的使用者達5萬餘人。

在網際網路平臺，集聚著很多充滿活力、熱衷探索的青年人。對青年群體來說，他們是網際網路的深度參與者，也是網際網路清朗網路空間的重要構建者。Soul相關負責人表示，“對社交平臺來說，要肩負主體責任，透過積極的自治措施，增強使用者安全意識、引導網路良好風氣。同時，提升平臺管控效率，強化使用者權益維護。”Soul定期釋出《Soul季度生態安全治理報告》，不僅是向社會公示平臺安全與生態治理的舉措與階段性進展，也為網際網路平臺提供了網路安全生態治理的寶貴經驗。