標(biāo)題：Meta大刀闊斧：90%產(chǎn)品風(fēng)險(xiǎn)評(píng)估交由AI，人工審核成歷史？
社交媒體巨頭Meta正計(jì)劃將其產(chǎn)品潛在風(fēng)險(xiǎn)評(píng)估的任務(wù)從人工審核轉(zhuǎn)向更多依賴人工智能（AI），這一舉措引發(fā)了廣泛關(guān)注。據(jù)美國(guó)國(guó)家公共廣播電臺(tái)（NPR）報(bào)道，Meta的目標(biāo)是讓高達(dá)90%的風(fēng)險(xiǎn)評(píng)估工作由AI完成，甚至包括涉及青少年風(fēng)險(xiǎn)和“誠(chéng)信”領(lǐng)域的評(píng)估。然而，與NPR交流的現(xiàn)任和前任Meta員工警告稱，AI可能會(huì)忽視一些人工團(tuán)隊(duì)能夠識(shí)別的嚴(yán)重風(fēng)險(xiǎn)。
在過(guò)去的幾年里，Meta旗下的Instagram和WhatsApp等平臺(tái)已經(jīng)形成了自己的審核機(jī)制，在產(chǎn)品更新和新功能推出之前，都會(huì)經(jīng)過(guò)人工審核。然而，Meta最近兩個(gè)月大幅增加了對(duì)AI的使用，產(chǎn)品團(tuán)隊(duì)需要填寫(xiě)一份關(guān)于其產(chǎn)品的調(diào)查問(wèn)卷，并提交給AI系統(tǒng)進(jìn)行審核。該系統(tǒng)通常會(huì)提供“即時(shí)決策”，指出其識(shí)別出的風(fēng)險(xiǎn)領(lǐng)域。產(chǎn)品團(tuán)隊(duì)隨后需要解決AI提出的要求，才能發(fā)布產(chǎn)品。
盡管有人認(rèn)為減少審核力度意味著“你正在創(chuàng)造更高的風(fēng)險(xiǎn)”，但Meta在聲明中回應(yīng)稱，公司仍會(huì)利用“人類專業(yè)知識(shí)”來(lái)評(píng)估“新穎且復(fù)雜的問(wèn)題”，而將“低風(fēng)險(xiǎn)決策”交給AI處理。然而，Meta最近公布的誠(chéng)信報(bào)告顯示，政策調(diào)整后被刪除的內(nèi)容數(shù)量有所下降，但霸凌和騷擾行為、以及暴力和血腥內(nèi)容卻略有上升。這一現(xiàn)象引發(fā)了人們對(duì)AI審核效果的質(zhì)疑。
首先，我們需要明確的是，AI在風(fēng)險(xiǎn)評(píng)估方面具有一定的優(yōu)勢(shì)。它能夠快速處理大量數(shù)據(jù)，進(jìn)行模式識(shí)別和預(yù)測(cè)分析，這對(duì)于一些簡(jiǎn)單、常見(jiàn)的問(wèn)題識(shí)別具有很高的準(zhǔn)確性。然而，AI的局限性也十分明顯。它缺乏人類的情感、判斷力和語(yǔ)境理解能力，因此在處理復(fù)雜、模糊或涉及主觀判斷的問(wèn)題時(shí)，可能會(huì)出現(xiàn)偏差。此外，AI也無(wú)法處理一些涉及人類行為和社會(huì)現(xiàn)象的問(wèn)題，這些問(wèn)題往往需要人類的洞察力和專業(yè)知識(shí)。
其次，我們需要考慮的是AI審核的效果是否能夠完全替代人工審核。雖然人工審核在某些方面具有優(yōu)勢(shì)，如對(duì)細(xì)節(jié)的關(guān)注、對(duì)文化背景的理解等，但人工審核也存在一些問(wèn)題，如疲勞、主觀性、情感干擾等。而AI審核可以提供一種更加客觀、準(zhǔn)確和高效的風(fēng)險(xiǎn)評(píng)估方式，特別是在處理復(fù)雜和模糊問(wèn)題時(shí)。因此，將AI審核與人工審核相結(jié)合，可以更好地平衡風(fēng)險(xiǎn)和用戶體驗(yàn)，提供更加全面和準(zhǔn)確的風(fēng)險(xiǎn)評(píng)估。
最后，我們需要考慮的是如何確保AI審核的公正性和透明度。在將風(fēng)險(xiǎn)評(píng)估任務(wù)交給AI處理時(shí)，必須確保算法的公正性和透明度，避免潛在的偏見(jiàn)和歧視問(wèn)題。同時(shí)，也需要建立有效的反饋機(jī)制，及時(shí)發(fā)現(xiàn)和糾正AI審核中的問(wèn)題，提高其準(zhǔn)確性和可靠性。
總之，Meta大刀闊斧地將90%的產(chǎn)品風(fēng)險(xiǎn)評(píng)估交由AI處理，這一舉措引發(fā)了廣泛關(guān)注。雖然AI在風(fēng)險(xiǎn)評(píng)估方面具有一定的優(yōu)勢(shì)，但也存在局限性。因此，將AI審核與人工審核相結(jié)合，并確保其公正性和透明度，是未來(lái)社交媒體平臺(tái)風(fēng)險(xiǎn)評(píng)估的重要方向。同時(shí)，我們也需要關(guān)注政策調(diào)整后被刪除的內(nèi)容數(shù)量下降但霸凌和騷擾行為、暴力和血腥內(nèi)容卻略有上升的現(xiàn)象，這需要我們進(jìn)一步研究和探討。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
