人工智能初創(chuàng)公司OpenAI稱其正在測試基于GPT-4的內(nèi)容審核系統(tǒng)，有望大幅縮短內(nèi)容審核時(shí)間。當(dāng)?shù)貢r(shí)間8月15日，OpenAI在官網(wǎng)上發(fā)布文章稱，將GPT-4用于內(nèi)容策略開發(fā)和內(nèi)容審核決策的測試已經(jīng)取得了很好的效果，能夠?qū)崿F(xiàn)更一致的標(biāo)簽、更快的策略優(yōu)化反饋閉環(huán)，并減少人工審核人員的參與。OpenAI認(rèn)為，GPT-4內(nèi)容審核工具可以幫助公司在一天內(nèi)完成大約六個(gè)月的工作。

OpenAI表示，內(nèi)容審核向來是一項(xiàng)既耗時(shí)又具有挑戰(zhàn)性的工作，需要很高的細(xì)致度、敏感度、對語境的深刻理解和對新案例的快速適應(yīng)，還會(huì)對人工審核人員造成情緒負(fù)擔(dān)。通常，內(nèi)容策略中的變更由于需要大量人力介入調(diào)整，往往要經(jīng)過數(shù)月才能落實(shí)到整個(gè)系統(tǒng)，而作為大型語言模型（LLM）的GPT-4可以將這一過程從數(shù)月縮短到數(shù)小時(shí)。

在具體的訓(xùn)練過程中，制定好策略指南后，策略專家就可以通過識(shí)別少量示例、為其分配標(biāo)簽來創(chuàng)建一組黃金數(shù)據(jù)。然后，GPT-4會(huì)讀取策略指南，并在看不到答案的前提下為同一數(shù)據(jù)集分配標(biāo)簽，由專家來檢查這些標(biāo)簽是否分配正確。

(資料圖片)

策略專家還可以要求GPT-4給出標(biāo)簽背后的推理，分析策略指南中可能存在的歧義，并在指南中做出相應(yīng)澄清。這些步驟可以被不斷重復(fù)，直到對AI審核的質(zhì)量感到滿意。

另外，為了大規(guī)模地處理大量數(shù)據(jù)，可以在正式處理前先使用GPT-4的預(yù)測功能來微調(diào)一個(gè)較小的模型。

OpenAI一直在對該技術(shù)進(jìn)行測試，也歡迎用戶加入訓(xùn)練。任何擁有OpenAI API訪問權(quán)限的人都可以采用這種方法來創(chuàng)建自己的人工智能輔助審核系統(tǒng)。

不過，OpenAI承認(rèn)GPT-4的標(biāo)記質(zhì)量與經(jīng)過輕度訓(xùn)練的人類審核員相似，但與經(jīng)驗(yàn)豐富、訓(xùn)練有素的人類審核員相比仍有差距。對此，OpenAI強(qiáng)調(diào)，審核的過程不應(yīng)該完全自動(dòng)化。在新的內(nèi)容審核系統(tǒng)中AI仍然需要人的領(lǐng)導(dǎo)。

值得一提的是，在此之前，已經(jīng)有多款由AI驅(qū)動(dòng)的審核工具面世，其中較為出名的是谷歌（Google）的Perspective API，由谷歌反濫用技術(shù)團(tuán)隊(duì)和Jigsaw聯(lián)合開發(fā)，被包括Reddit論壇、《紐約時(shí)報(bào)》和《金融時(shí)報(bào)》在內(nèi)的一系列世界著名發(fā)布商、平臺(tái)和研究機(jī)構(gòu)所使用。

不過，比起運(yùn)用審核工具，許多企業(yè)仍然選擇將審核工作完全外包給其他人力公司來節(jié)省研究成本。據(jù)《華爾街日報(bào)》7月24日報(bào)道，在過去的幾年，OpenAI自己就為了清洗ChatGPT的數(shù)據(jù)雇傭了大量來自肯尼亞的廉價(jià)勞工。

而就在一周前的8月10日，印度媒體Analytics India Magazine剛發(fā)布了驚人的推論，稱OpenAI可能會(huì)在2024年底破產(chǎn)，因?yàn)閮H僅運(yùn)營ChatGPT，OpenAI每天的成本就高達(dá)70萬美元，馬斯克新成立的xAI和GPU短缺問題更是為還沒有盈利的OpenAI雪上加霜。

據(jù)網(wǎng)站數(shù)據(jù)分析工具SimilarWeb調(diào)查顯示，ChatGPT訪問量增長率在過去幾個(gè)月內(nèi)一直在下滑，7月份的用戶數(shù)量為15億，環(huán)比下降了12%。

今年1月底，OpenAI曾推出一款A(yù)I工具AI-Text-Classifier（AI文本分類器），旨在用來識(shí)別由AI生成的文本內(nèi)容。不過，在誕生還不滿半年后，這個(gè)新AI工具就在今年7月被OpenAI以“準(zhǔn)確率太低”為由關(guān)停了。

(本文來自澎湃新聞，更多原創(chuàng)資訊請下載“澎湃新聞”APP)

關(guān)鍵詞：