利用AI進行內(nèi)容審核，已成為當(dāng)前短視頻、直播等互聯(lián)網(wǎng)平臺內(nèi)容風(fēng)控的首選。AI重新定義了內(nèi)容安全服務(wù)的生產(chǎn)力，在算法模型、服務(wù)方式上也在不斷“進化”。為更好的契合內(nèi)容方平臺的審核策略，近日，國內(nèi)領(lǐng)先的一站式AI內(nèi)容服務(wù)平臺金山云金睛在業(yè)內(nèi)首度向內(nèi)容方開放了其底層學(xué)習(xí)標(biāo)簽體系。

“AI+人工”是當(dāng)前主流的審核方式，AI提升了審核效率，人機協(xié)同策略提供了雙重保障。隨著平臺規(guī)模不斷擴大，違規(guī)內(nèi)容越加復(fù)雜多元，如何實現(xiàn)“效率+1”，就對人機協(xié)同提出了更高的要求。“金睛”開放底層機器學(xué)習(xí)標(biāo)簽，就是為了進一步將機器識別結(jié)果從涉黃、涉恐、敏感內(nèi)容等寬泛標(biāo)簽，開放到男性露背、涉旗涉徽、大型武器、特殊著裝等更加細(xì)分的標(biāo)簽，實現(xiàn)了“機審”和“人審”的無縫銜接。

“pass”或者“reject”是AI傳遞的一個果斷的答案，但不一定是會被審核員完全采信的結(jié)論。要讓信息接收方做出正確的選擇，給出明確的判定理由就變得尤為重要，底層機器學(xué)習(xí)標(biāo)簽就是發(fā)揮了這樣一個“闡釋”的作用。“金睛”在對內(nèi)容做出“拒絕”、“疑似”或者“通過”的判定基礎(chǔ)上，會同步輸出底層機器學(xué)習(xí)標(biāo)簽內(nèi)容，讓審核員清楚的知道AI為什么拒絕、通過，疑似的又是什么。例如，在“金睛”暴恐違規(guī)審核模型下，AI識別出極端組織場景，除了會輸出“拒絕”指令，并會明確告知拒絕理由是因為內(nèi)容中所涵蓋了基地組織標(biāo)志或者其他極端組織深度學(xué)習(xí)標(biāo)簽內(nèi)容，為人工復(fù)審提供信息判定支撐。目前，金山云深度學(xué)習(xí)標(biāo)簽涵蓋涉黃、涉恐、涉政、違規(guī)違法、游戲場景、直播場景等十幾個場景的幾百大類的上千標(biāo)簽，后續(xù)將會逐步開放。

此次，“金睛”開放底層機器學(xué)習(xí)標(biāo)簽，進一步優(yōu)化平臺服務(wù)，是產(chǎn)品團隊多次深入到B站、映客等國內(nèi)一線短視頻、直播審核團隊，充分調(diào)研的結(jié)果。公開機器學(xué)習(xí)標(biāo)簽一方面極大提升平臺方人工復(fù)審的效率，節(jié)約了運營成本，為客戶根據(jù)自身的運營策略作出及時有效的判斷提供了便利。另外，根據(jù)機器輸出的結(jié)論，可以定向的對于特定模型進行調(diào)優(yōu)，實現(xiàn)一個良性循環(huán)。通過此舉，不斷增加“金睛”與審核員之間、“金睛”與開發(fā)者之間的人機協(xié)同性，讓AI更好的參與到“互聯(lián)網(wǎng)內(nèi)容傳播”這件“人”的活動中去。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。