用AI大模型判斷擦邊：抖音狙擊新型低俗誘導(dǎo)打賞8.8萬(wàn)人次被處罰

體育資訊11月14日稱 抖音集團(tuán)今日發(fā)文，在直播業(yè)態(tài)發(fā)展背景下，直播間不僅成為主播展示自我的舞臺(tái)，也創(chuàng)造了大量新興崗位，成為帶動(dòng)靈活就業(yè)的“蓄水池”。隨著各平臺(tái)治理動(dòng)作的專業(yè)化、常態(tài)化，直播發(fā)展初期的亂象問題多數(shù)得到了有效遏制，行業(yè)已進(jìn)入優(yōu)質(zhì)、合規(guī)的發(fā)展階段。與此同時(shí)，部分違規(guī)主播、作弊團(tuán)伙及黑灰產(chǎn)也開始變更作弊手段，與平臺(tái)打起“游擊戰(zhàn)”，以更隱蔽的方式逃避處罰。

2025 年以來(lái)，8.8 萬(wàn)人次在抖音直播因低俗誘導(dǎo)打賞被處罰，11.7 萬(wàn)個(gè)賬號(hào)因色情違規(guī)被無(wú)限期回收直播權(quán)限。

抖音集團(tuán)表示，“低俗擦邊”違規(guī)一直存在變體多、界定難等問題，自 2024 年打著“語(yǔ)音助眠”旗號(hào)進(jìn)行低俗直播形式冒頭，此類“軟色情”違規(guī)成為各平臺(tái)違規(guī)治理的重點(diǎn)。在嚴(yán)格治理下，這類違規(guī)團(tuán)伙開始利用劇情演繹、彈幕互動(dòng)等新形式進(jìn)行低俗內(nèi)容輸出，或采用特定拍攝手法、場(chǎng)景搭建等方式，渲染烘托低俗不良氛圍，極大增加了監(jiān)管或治理難度。

相較于過往在直播間閃現(xiàn)二維碼導(dǎo)流至站外淫穢色情網(wǎng)站，當(dāng)下的色情黑產(chǎn)也同樣有了更隱蔽的鏈路。他們通過在各種資料區(qū)、圖片、主播著裝上展現(xiàn)網(wǎng)址或關(guān)鍵詞等信息以導(dǎo)流站外，或在導(dǎo)流中跨多個(gè)平臺(tái)中轉(zhuǎn)，甚至篡改 IP 地址，使用“黑話”溝通，規(guī)避平臺(tái)審核。

對(duì)此，抖音直播持續(xù)迭代治理策略和手段。針對(duì)較隱晦的軟色情導(dǎo)流場(chǎng)景，平臺(tái)啟用了多模態(tài)大模型，綜合判斷直播間畫面、聲音、口播內(nèi)容和用戶舉報(bào)等，分辨直播間是否有擦邊風(fēng)險(xiǎn)，實(shí)現(xiàn)風(fēng)險(xiǎn)快速攔截。另一方面，平臺(tái)不斷完善舉報(bào)鏈路，在 30 分鐘內(nèi)處置舉報(bào)風(fēng)險(xiǎn)，并結(jié)合用戶反饋更新大模型樣本，達(dá)到長(zhǎng)效化治理的效果。

針對(duì)色情導(dǎo)流黑產(chǎn)，平臺(tái)搭建了“事前黑產(chǎn)防范，事中隱晦內(nèi)容識(shí)別斷播封禁，事后防止回流”的治理鏈路。針對(duì)高危場(chǎng)景，前置風(fēng)險(xiǎn)識(shí)別并阻斷；在風(fēng)險(xiǎn)發(fā)生時(shí)，通過內(nèi)容大模型、異常行為檢測(cè)等能力，做到實(shí)時(shí)斷播。針對(duì)較隱晦的導(dǎo)流線下場(chǎng)景，則主要通過用戶舉證做好風(fēng)險(xiǎn)主播的防回流策略，并將涉嫌違法的線索上報(bào)相關(guān)主管部門。

2025 年以來(lái)，抖音共封禁“軟色情”直播間 66 萬(wàn)個(gè)，無(wú)限期回收 11.7 萬(wàn)個(gè)涉色情違規(guī)賬號(hào)的直播權(quán)限。

平臺(tái)對(duì)于主播的管理核心，則是“長(zhǎng)效觀察、有效識(shí)別”。平臺(tái)在針對(duì)直播間違規(guī)內(nèi)容做單次處罰的基礎(chǔ)上，結(jié)合主播日常直播行為來(lái)增減其賬號(hào)健康分，通過主播的長(zhǎng)期表現(xiàn)進(jìn)行評(píng)判，多次違規(guī)仍不整改的主播，最終將被永久回收直播權(quán)限。

對(duì)于利用低俗直播刺激、誘導(dǎo)打賞的違規(guī)主播，平臺(tái)則在健康分基礎(chǔ)上，重點(diǎn)加強(qiáng)對(duì)誘導(dǎo)消費(fèi)類違規(guī)主播的“經(jīng)濟(jì)”管理力度，對(duì)違規(guī)場(chǎng)次進(jìn)行資金凍結(jié)、提現(xiàn)考核、延遲結(jié)算等。

2025 年至今，用戶對(duì)誘導(dǎo)打賞的舉報(bào)率同比減少 74%；超過 40 萬(wàn)主播因違規(guī)誘導(dǎo)打賞被扣除健康分；共有 8.8 萬(wàn)人次因涉低俗直播誘導(dǎo)打賞被處以限制違規(guī)場(chǎng)次收益提現(xiàn)、關(guān)閉禮物收入功能、禁止使用 PK 功能等處罰，五千個(gè)賬號(hào)被無(wú)限期回收直播權(quán)限。

此類精細(xì)化手段，還運(yùn)用在了團(tuán)播的治理上。近兩年來(lái)，以互動(dòng)性強(qiáng)、觀賞度高為特點(diǎn)的團(tuán)播逐漸興起，成為用戶喜聞樂見的直播形式。然而，一些賬號(hào)卻借團(tuán)播玩起“翻牌選妃”“蒙面摸人”等低俗花樣，或使用“跪爬”“嘶喊哭泣”等引人不適方式，進(jìn)行拉票或誘導(dǎo)用戶打賞互動(dòng)。

今年 7 月 30 日，抖音升級(jí)《抖音直播團(tuán)播內(nèi)容管理規(guī)范》，并發(fā)布《抖音直播團(tuán)播機(jī)構(gòu)管理規(guī)范》。對(duì)存在違規(guī)行為的團(tuán)播賬號(hào)，平臺(tái)將根據(jù)違規(guī)程度實(shí)施階梯式處罰，對(duì)旗下違規(guī)主播占比高，或存在侵犯主播合法權(quán)益等不當(dāng)經(jīng)營(yíng)行為的公會(huì)，平臺(tái)將予以扣減公會(huì)健康分、限制經(jīng)營(yíng)能力等處置，情節(jié)嚴(yán)重的，平臺(tái)將終止合作關(guān)系。今年以來(lái)，抖音直播因各類低俗誘導(dǎo)打賞，共清退公會(huì) 113 家。

抖音集團(tuán)還表示，不管是何種直播形式，若涉嫌違法，平臺(tái)均將第一時(shí)間上報(bào)相關(guān)部門并配合線下打擊。今年 1 月，抖音直播在日常治理中發(fā)現(xiàn)，有黑產(chǎn)批量購(gòu)買、注冊(cè)抖音賬號(hào)，將賬號(hào)頭像修改為隱晦的第三方平臺(tái)聯(lián)系方式，引導(dǎo)用戶下載涉色情違法類 App，在 App 內(nèi)進(jìn)行色情違法活動(dòng)。平臺(tái)立即無(wú)限期回收相關(guān)賬號(hào)權(quán)限并上報(bào)線索，最終 4 名犯罪嫌疑人被依法刑事拘留。

2025 年初，平臺(tái)發(fā)現(xiàn) 2 個(gè)以承諾線下賣淫為由誘導(dǎo)用戶消費(fèi)打賞的團(tuán)伙，利用短視頻發(fā)布美女視頻和虛假定位，誘導(dǎo)不同城市的用戶進(jìn)入直播間；再通過隱晦文案、背景、簽名等多個(gè)場(chǎng)景發(fā)布隱晦交友信息，引導(dǎo)用戶站外添加其他社交軟件。抖音直播第一時(shí)間對(duì)相關(guān)賬號(hào)進(jìn)行封禁，并將線索上報(bào)給當(dāng)?shù)毓矙C(jī)關(guān)。截至目前，警方共抓捕 21 人，其中 16 人被刑事拘留。

抖音集團(tuán)公告，2025 年以來(lái)，已有 68 名違法犯罪嫌疑人因傳播淫穢色情被刑拘。抖音直播相關(guān)負(fù)責(zé)人表示，平臺(tái)將持續(xù)加強(qiáng)技術(shù)投入與治理力度，打擊低俗直播、引誘打賞行為，致力于營(yíng)造一個(gè)健康清朗的網(wǎng)絡(luò)直播生態(tài)。