Soul發(fā)布《2025年度生態(tài)安全報告》，7大AI模型全天守護用戶安全

在數(shù)字浪潮滾滾向前的今日,社交平臺已不再僅僅是信息的交互場,更是情感的鏈接地與精神的寄托所。然而,虛假宣傳、網(wǎng)絡詐騙、語言暴力等陰影,也如同雜草般隨之滋生。2025 年,國家網(wǎng)信辦深化“清朗”專項行動,聚焦數(shù)據(jù)安全、算法濫用、不良信息傳播等關鍵領域,通過法規(guī)完善與技術監(jiān)管,為網(wǎng)絡空間筑牢安全防線。

近日,社交平臺 Soul App 正式對外發(fā)布《2025年度生態(tài)安全報告》。這份報告不僅是一份成績單,也是一次關于AI 賦能與社會共治的深刻實踐。報告顯示,通過 7 大 AI 模型的協(xié)同,Soul 實現(xiàn)了涉詐人群同比下降 20%、未成年人假冒識別率 99% 的卓越戰(zhàn)績,為站內(nèi)用戶筑起一道堅固的防護墻。

技術賦能,AI 成為社交安全“壓艙石”

伴隨語言模型與多模態(tài)識別技術的發(fā)展,網(wǎng)絡治理也進入更為智能的新階段。Soul 在 2025 年的工作重點之一,便是將 AI 深度嵌入整個治理周期中——

7 大模型協(xié)同作戰(zhàn)

報告顯示,Soul 在 2025 年部署了 7 大自主研發(fā)的 AI 模型,構筑了一套全方位、立體化的安全護盾。其中,“圖片/文本反作弊大模型”擁有深層語義與潛在意圖的理解能力,不僅能識別表面的違規(guī)文字,更能洞察偽裝話術背后的黑產(chǎn)邏輯。而針對行業(yè)痛點“殺豬盤”,Soul 獨創(chuàng)了“殺豬盤發(fā)帖文案識別大模型”。該模型針對情感誘導、人設造假等細微特征進行建模,能夠在詐騙苗頭出現(xiàn)的初期就進行精準攔截。

精準打擊虛假流量

社交生態(tài)的基石是“真實”,2025 年Soul 針對“虛假人設”與“盜圖”痛點,升級了全鏈路治理矩陣。通過 AI 圖片路徑分析與設備異常偵測,平臺日均精準攔截虛假內(nèi)容達 5 萬條。這種對虛假流量的“熔斷”機制,有效地粉碎了黑產(chǎn)滋生的土壤,確保了用戶看到的每一份分享都貼近真實生活。

構建聯(lián)防聯(lián)治網(wǎng)絡

安全治理從來不是孤軍奮戰(zhàn)。2025 年,Soul 持續(xù)深化與浦東反詐中心等有關部門的合作。全年向警方推送各類違法線索 100 余個,協(xié)助調(diào)查并維護用戶權益 30 余次。通過“站內(nèi)攔截+站外打擊”的閉環(huán),Soul 正在構建起一套讓違法者無處遁形的安全網(wǎng)絡。

由堵到疏,重塑數(shù)字時代社交禮儀

網(wǎng)絡暴力是社交平臺的頑疾。在 2025 年,Soul 的治理思路不再僅僅是單純的封禁,而是通過技術引導,培養(yǎng)用戶的社交素養(yǎng)——

AI 情感分析,化解網(wǎng)絡矛盾

Soul 平臺部署先進的 AI 情感分析模型,能夠?qū)崟r監(jiān)測平臺中的攻擊性語言。不同于傳統(tǒng)的關鍵詞過濾,該模型能夠根據(jù)上下文語境判斷情緒意圖。數(shù)據(jù)最具說服力:2025 年,Soul 日均提醒引導私聊文明發(fā)言高達 20.6 萬次,日均評論友善發(fā)評提醒達 2208 次。這種“輕提醒、柔引導”的方式,在矛盾爆發(fā)前按下了“暫停鍵”,讓社交重歸友善。

構建反網(wǎng)暴共識

報告指出,Soul 系統(tǒng)性升級治理策略,構建起覆蓋內(nèi)容識別、風險干預、正向引導的全鏈條機制。為了推動社區(qū)共識,Soul 開展了多場“拒絕網(wǎng)暴”專題活動,累計有 93.4 萬名用戶簽署了友善互動聲明。官方賬號“風紀球長”在 2025 年發(fā)布了 200 余篇安全生態(tài)宣傳帖,觸達用戶超過 200 萬。高頻次的科普與宣傳,讓“社交禮儀”不再是一個抽象的概念,而是變成用戶內(nèi)化的行為準則。

社區(qū)共治,讓每位用戶都成為守護者

Soul 始終相信,最好的社區(qū)是由用戶自己定義的,在 2025 年,社區(qū)共治模式在 Soul 平臺得到了深度應用與推廣——

8萬名風紀“志愿者”

在 Soul 的生態(tài)中,活躍著一批特殊的群體——內(nèi)容推薦官與風紀委員。目前,在任的社區(qū)共建用戶數(shù)量已突破 8 萬大關。這些用戶日均貢獻超過 1.8 萬次 投票,通過眾包決策的方式產(chǎn)生日均 2500 條 案例處理結果。這種“去中心化”的治理模式,既緩解了平臺的審核壓力,更重要的是讓用戶產(chǎn)生了主人翁意識,實現(xiàn)了社區(qū)氛圍的自我進化。

細顆粒度群聊/私聊治理

針對群聊這一高頻社交場景,Soul 在 2025 年實現(xiàn)了治理顆粒度的極致精細。日均中斷語音違規(guī)消息 3 萬條,攔截違規(guī)文字消息 4 萬條。針對私聊生態(tài),Soul 推出了“消息盒子輔助收納”等功能,日均保護 6.6 萬名用戶免受騷擾。通過給用戶更多的自主選擇權,真正做到“我的社交空間,我做主”。

硬核守護,筑牢未成年人安全“隔離墻”

未成年人保護是社交平臺的底線,同時也是 Soul 2025 年的工作重點之一。平臺深知,保護青少年就是保護社交生態(tài)的未來——

AI 看穿成人偽裝

單純依靠實名認證早已不足以應對復雜的情況。2025 年,Soul 引入了 AI 行為分析模型。該模型通過分析用戶的交互模式、語言特征及設備使用習慣,能夠有效區(qū)分真實未成年人與成人偽裝行為。這一技術的引入,使得疑似未成年人的識別準確率提升了 50% 以上,針對冒充成年人的策略識別貢獻率高達 99%。

從“被動防御”到“主動護航”

對于已進入青少年模式的用戶,Soul 整合了身份認證、年齡識別、防沉迷系統(tǒng)等維度。尤其在寒暑假期間,Soul 會動態(tài)調(diào)整內(nèi)容池策略,確保青少年看到的內(nèi)容既安全又富有教育意義。2025 年,Soul 共計上線未成年人識別與保護相關策略 51 條。這些舉措不僅減少了未成年人接觸不良信息的風險,更顯著提升了家長對平臺的信任度。

低質(zhì)內(nèi)容清理,回歸清朗社交

一個健康的社交生態(tài)必須具備自我修復與自我凈化的能力,健康的社區(qū)既需要源源不斷的活水,也需要定期的“清淤”——

機器+人工,雙軌制內(nèi)容治理

2025 年,Soul 全面升級內(nèi)容治理策略,重點打擊低俗、虛假宣傳及惡意營銷。全年通過機器預審直接攔截的違規(guī)內(nèi)容量級達到了驚人的 1642.5 萬;處置違規(guī)賬號 76.7 萬個。

對“擦邊”與“有償交友”零容忍

針對廣場中出現(xiàn)的低俗擦邊、有償交友、惡意引戰(zhàn)等痛點,Soul 實施了嚴格的限流與處理措施。日均處理量超過 12 萬帖。對于在同設備下存在多個違規(guī)賬號的“黑產(chǎn)團伙”,平臺累計拉黑設備 4 萬個。這種雷霆手段,極大地凈化了社區(qū)風氣。

社交平臺的未來,是責任與科技的共振

《2025年度生態(tài)安全報告》的發(fā)布,標志著 Soul 在生態(tài)治理上邁向了更加成熟、更加智能的新階段。生態(tài)安全不是一項階段性的任務,而是一項長期的系統(tǒng)工程——為了在冰冷的算法之外,保留社交那份最寶貴的溫情與真實。

展望 2026 年,Soul 將繼續(xù)加大在人工智能領域的研發(fā)投入,同時,平臺將進一步擴大“共治體系”,讓每一個 Soul 用戶都能成為生態(tài)安全的參與者、建設者和受益者。這份報告,既是對過去的總結,更是對未來的承諾——Soul 將不忘初心,致力于構建一個真實、溫暖且充滿活力的線上社交空間。