《AI未來指北》欄目由騰訊新聞推出，邀約全球業(yè)內(nèi)專家、創(chuàng)業(yè)者、投資人，探討AI領(lǐng)域的技術(shù)發(fā)展、商業(yè)模式、應(yīng)用場(chǎng)景、及治理挑戰(zhàn)。

7月初，OpenAI之下最高估值的AI公司誕生了。這家之前名不見經(jīng)傳的公司 Inflection AI 在新一輪融資中籌集到了 13 億美元，一躍估值突破40億美元。成功捅破了OpenAI之后，大模型只剩下大公司斗法的賽道敘事。這次融資的領(lǐng)投名單也是群星璀璨，集結(jié)了幾乎所有硅谷巨頭，微軟、比爾蓋茨、Google前CEO埃里克施密特和領(lǐng)英創(chuàng)始人里德霍夫曼都棲身其間。還有剛剛步入AI企業(yè)投資，把手伸到下游的 NVIDIA。

(資料圖片)

這家公司只有一個(gè)產(chǎn)品，即兩個(gè)月前才剛剛上線的 Pi。如果說ChatGPT是一個(gè)人類效率放大器，那Pi就是個(gè)人類情感的按摩師。不同于ChatGPT更傾向于工具的設(shè)定，Pi 的主要特征是富有同情心、簡(jiǎn)明扼要、幽默創(chuàng)新。

Pi的深受追捧，照亮了被ChatGPT這類智能AI光芒所隱沒的另一條道路：情感AI。一個(gè)能給你帶來理解，重視，關(guān)懷的AI，比起冷冰冰的提效類智能AI，潛在的市場(chǎng)完全可能更大。

清華大學(xué)的黃民烈教授，就是在中國(guó)選擇走上情感AI道路的研究者。在他看來，GPT毫無疑問是一種范式突破，但它沒有辦法滿足不同領(lǐng)域的需求，尤其是情感方面的需求。這條探索路徑可以追溯到 1966年MIT的心理治療對(duì)話AI，比目前的GPT這類通用任務(wù)助理的起點(diǎn)更為久遠(yuǎn)。

黃教授認(rèn)為，在效率提升的需求之外，人類的重要情感需求現(xiàn)在還遠(yuǎn)沒有被AI滿足。而這是一個(gè)巨大的，應(yīng)該探索的需求。雖然AI現(xiàn)在只有一些基礎(chǔ)人格形式，很難說它已經(jīng)具有了情感。但通過一些專業(yè)性的數(shù)據(jù)訓(xùn)練，AI已經(jīng)可以承擔(dān)起初級(jí)心理咨詢師的一些工作。像開篇提到的Pi，其實(shí)就融合了正向心理學(xué)的一些框架思想，才能讓人感覺到它充滿同理心，總是能讓人想要和它進(jìn)行交流。

黃教授完全同意赫拉利所說的一旦AI懂了情感，它就更可能去控制人類的行為，甚至PUA它的談話對(duì)象。也由此會(huì)引生出更多AI濫用的可能。因此在技術(shù)探索的路程中，對(duì)AI的限制和治理也是很迫切的。問題看來很嚴(yán)峻，但比起拆開AI自身的黑盒子，治理的路徑相當(dāng)清晰：一套規(guī)范和標(biāo)準(zhǔn)，相關(guān)檢測(cè)和評(píng)估技術(shù)，一套評(píng)價(jià)體系就能搭建起完整的治理系統(tǒng)?？恐@套體系，編織這張覆蓋著AI的安全防護(hù)網(wǎng)只需要兩年，足夠跑贏所有AI滅世的預(yù)測(cè)時(shí)間。擔(dān)憂是合理的，但恐慌大可不必。

以下是訪談全文：

只靠語言模型解決不了行業(yè)需求

騰訊科技：

您第一次接觸到ChatGPT是一種什么感覺？它是否算是一種范式突破？

黃民烈：

ChatGPT剛出來的時(shí)候，其實(shí)最主要（的特點(diǎn)）是來自于它很高的智能水平以及它作為一種通用任務(wù)助理的定位。過去我們做類似的這種任務(wù)助理，就比如說訂餐訂票這種，這都是一些很傳統(tǒng)的任務(wù)。ChatGPT推出之后，他可以在一個(gè)模型中處理各種開放任務(wù)，而且能力水平確實(shí)顛覆了我們之前的認(rèn)知，它能夠在同一個(gè)系統(tǒng)里高水平的完成多種不同的任務(wù)。這可以理解成是一種范式性的突破。這和過去我們的技術(shù)路線很不同。

騰訊科技：

很多研究者，包括楊立昆都認(rèn)為，ChatGPT在技術(shù)上是依靠的是2017年的Transformer模型，因此沒有什么創(chuàng)新。那OpenAI是如何讓自己的模型做的比其他模型都好的？

黃民烈：

ChatGPT的底層是基于Transformer的架構(gòu)，所以在模型的架構(gòu)上確實(shí)沒有什么創(chuàng)新（最近的一些模型設(shè)計(jì)有一些新的創(chuàng)新）。其實(shí)它的成功，實(shí)際上是數(shù)據(jù)加工程加系統(tǒng)層面的集成式的一個(gè)創(chuàng)新。

集成式創(chuàng)新包括比如數(shù)據(jù)層面，OpenAI其實(shí)做了大量的數(shù)據(jù)積累和數(shù)據(jù)工程，以及高質(zhì)量的人工收集、標(biāo)注、清洗等等。工程層面上它其實(shí)也是面臨一些比較大的挑戰(zhàn)，就過去我們可能做需要幾十張GPU卡的可以（簡(jiǎn)單一些），但把這個(gè)模型的規(guī)模和數(shù)據(jù)做到了需要幾千張幾萬張卡的程度，這就會(huì)涉及到很多并行算法調(diào)度等各方面的工程挑戰(zhàn)。最后系統(tǒng)方面，我們其實(shí)看到在過去幾年里OpenAI一直把GPT作為一個(gè)產(chǎn)品來進(jìn)行迭代。與之相比，我們之前的那些模型或多或少都是作為一種項(xiàng)目在開發(fā)，我把這個(gè)模型做好了，開源出來之后，它就沒有進(jìn)一步的迭代更新機(jī)制了。

騰訊科技：

如您所說，OpenAI作為一個(gè)企業(yè)才會(huì)有持續(xù)性的產(chǎn)品迭代。而學(xué)術(shù)界基本都以單一項(xiàng)目或?qū)嶒?yàn)進(jìn)行開發(fā)。所以您作為一個(gè)學(xué)術(shù)界和企業(yè)界都有涉足的專家，如何看待OpenAI作為一個(gè)企業(yè)，與學(xué)術(shù)界研究的區(qū)別與關(guān)聯(lián)？

黃民烈：

這其中的區(qū)別主要就是OpenAI（作為一個(gè)企業(yè)）有很強(qiáng)的算法和工程的團(tuán)隊(duì)，這是第一點(diǎn)。第二點(diǎn)它有很多算力的資源?，F(xiàn)在你看在學(xué)術(shù)界去做（人工智能）的話，我們第一不太可能有這么多的算力資源，第二也不太可能有這么大的工程團(tuán)隊(duì)。所以學(xué)術(shù)界現(xiàn)在主要聚焦在一些基本的問題上，比如說我們現(xiàn)在看到的大模型可能會(huì)產(chǎn)生幻覺的問題，安全性的問題，包括精確計(jì)算，就是模型不能夠很有效進(jìn)行精確計(jì)算。

OpenAI的那些工程師、科學(xué)家本身其實(shí)做學(xué)術(shù)能力很強(qiáng)，然后他又有很好的算法和工程的技巧，所以他們能把這件事做得特別好。我覺得未來做真正的AGI一定是最頂尖的學(xué)術(shù)機(jī)構(gòu)和工業(yè)界密切合作的一個(gè)產(chǎn)物。

騰訊科技：

前一段時(shí)間谷歌的一位工程師發(fā)表了一篇內(nèi)部的memo，稱大語言模型可沒有護(hù)城河。包括OpenAI也沒有，谷歌也沒有，大家都可能會(huì)在很快超越它們。您認(rèn)可這個(gè)說法嗎？

黃民烈：

我認(rèn)為這也是一定程度的誤解。從谷歌的角度來講，如果真的要嚴(yán)肅的去做，我覺得趕上OpenAI應(yīng)該是不太難的一件事，因?yàn)楸旧硭兴懔?，有?shù)據(jù)團(tuán)隊(duì)，也有人才。但是說要其他的公司說要很容易去超越的話，我覺得這里邊有紙上談兵的感覺。好比說，原子彈的原理看起來都簡(jiǎn)單，但真正做出來那可不是容易的事情。

因?yàn)槠鋵?shí)這里邊算力，錢，人才，數(shù)據(jù)等各方面其實(shí)都是需要花時(shí)間去積累和沉淀的，包括現(xiàn)在國(guó)內(nèi)的這些號(hào)稱說要做中國(guó)OpenAI的公司。其實(shí)大家都在追趕，但你能夠追到80分90分已經(jīng)非常了不起了。而且人家也在不斷的迭代，不斷的進(jìn)步，所以我覺得這個(gè)事情其實(shí)還是挺復(fù)雜的，是一個(gè)系統(tǒng)層面的問題。而不僅僅是說在模型結(jié)構(gòu)上沒有創(chuàng)新，那就是沒有護(hù)城河。本身它是一個(gè)綜合實(shí)力的考量，它不僅僅是模型的結(jié)構(gòu)算法的創(chuàng)新，更多的可能是算力資金，然后數(shù)據(jù)，然后整個(gè)工程層面的（造成）這樣的一個(gè)壁壘。

騰訊科技：

那您覺得現(xiàn)在 OpenAI或者谷歌這樣的一些公司，他們是不是已經(jīng)建立起來了護(hù)城河？

黃民烈：

毫無疑問OpenAI肯定是已經(jīng)有自己的護(hù)城河了，別人想要追趕他其實(shí)不太容易的。

比如說GPT4的細(xì)節(jié)沒有公布，它多模態(tài)的能力確實(shí)還是很強(qiáng)的。除此之外OpenAI還在不斷的利用這種數(shù)據(jù)的飛輪持續(xù)進(jìn)步。中國(guó)的話，我們也有一些公司處在領(lǐng)先的階段，但實(shí)際上未來怎么發(fā)展，誰能夠最終勝出，取決于一是整體的定位，另外一個(gè)就是在這方面能不能持續(xù)的投入，能夠堅(jiān)持多久。基本上是這樣一套邏輯。

騰訊科技：

現(xiàn)在大家都是用同一個(gè)模型，最近有一些新研究可以把整體訓(xùn)練的成本降低。您覺得下一步中國(guó)公司會(huì)去突破趕超OpenAI的話，是不是有一些其他的路徑可選，而不是走完全一樣的路線？

黃民烈：

我覺得這是一個(gè)非常好的問題。其實(shí)現(xiàn)在大家都在擠大語言模型賽道，但實(shí)際上我覺得從AGI的未來看也不排除有其他的一些路線。很多人也質(zhì)疑說，像ChatGPT這種大語言模型其實(shí)根本創(chuàng)造不了新的東西。所以未來很有可能會(huì)有新的路線出來，但大家目前還看不到（具體的方向）。只是說現(xiàn)在我們發(fā)現(xiàn)大語言模型這條路可能離AGI更近，或者是更容易實(shí)現(xiàn)的一條路線。現(xiàn)在說實(shí)話，其他的路徑它面臨的問題是，比如說符號(hào)主義，它有很多基于符號(hào)運(yùn)算，在工程上它怎么能夠進(jìn)行規(guī)?；?，這是一個(gè)最現(xiàn)實(shí)的難點(diǎn)。

而現(xiàn)在大語言模型已經(jīng)不僅能做得很大，用的數(shù)據(jù)也很多，而且能力還很強(qiáng)，所以我覺得這是目前看到的一線曙光。但是未來我認(rèn)為肯定是會(huì)有別的東西，有可能是在把大語言模型作為一個(gè)框架，會(huì)把其他的一些東西裝進(jìn)來，比如說符號(hào)學(xué)派。

騰訊科技：

之前陸奇也提出過，不要再去做知識(shí)圖譜，這個(gè)觀點(diǎn)您認(rèn)同嗎？

黃民烈：

我不知道他這句話的背景。據(jù)我所知，把大模型作為一個(gè)知識(shí)庫做問答，離其它傳統(tǒng)方法在benchmark數(shù)據(jù)集上的能力距離挺遠(yuǎn)的，有人做過這樣的研究?，F(xiàn)在的GPT去處理一些數(shù)學(xué)計(jì)算的問題，它基本上就是亂答。因?yàn)閿?shù)學(xué)的問題它都是精確推理，你不會(huì)說1+1=3。1+1=2（這個(gè)敘述），要么就是1（真），要么就是0（假），它只有0和1的概率，它并沒有說在0和1之間的概率。所以很多情況下符號(hào)推理是非常重要的。

騰訊科技：

之前 Sam Altman 在采訪之中也提到，如果通用模型發(fā)展的很快，很多任務(wù)它都可以完成的很好。我們?cè)偃グl(fā)展垂直的領(lǐng)域，這是不是有意義的？

黃民烈：

肯定非常有意義。在一個(gè)底座的基礎(chǔ)上做行業(yè)模型，領(lǐng)域模型，這個(gè)實(shí)際上是非常必要的。通用的智能模型我們其實(shí)不需要去解決最后交付的問題。你到一個(gè)行業(yè)到一個(gè)領(lǐng)域的時(shí)候，我肯定是要解決這個(gè)行業(yè)和領(lǐng)域真正的一些需求，一些痛點(diǎn)，這時(shí)候就會(huì)涉及到很多的行業(yè)知識(shí)和規(guī)則。

在大語言模型往下沉的過程中，領(lǐng)域和行業(yè)的一些特定的訓(xùn)練，優(yōu)化的方法，包括怎么樣把一些行業(yè)的知識(shí)和規(guī)則注入進(jìn)去，這對(duì)于能真正讓它產(chǎn)生價(jià)值，在實(shí)際的業(yè)務(wù)中發(fā)揮作用是非常重要的。

比如做醫(yī)療，有些情況下你是絕對(duì)不能說錯(cuò)的。這里邊你就需要一些額外的算法，模塊化的處理。在做心理咨詢的時(shí)候，我們面臨的一個(gè)場(chǎng)景就是用大模型對(duì)應(yīng)抑郁的用戶，他很容易自殺，可能聊著精神就崩潰了，然后他就說想找個(gè)天臺(tái)跳下。這時(shí)候你需要馬上檢測(cè)他的狀態(tài)，并實(shí)施干預(yù)，比如說接到人工的服務(wù)上來。我們做的一個(gè)事情，就是做一個(gè)很強(qiáng)的分類器看他是不是會(huì)有自殺的傾向，只要在檢測(cè)到相關(guān)傾向就會(huì)立刻終止人機(jī)對(duì)話。

另外如果是在金融這個(gè)場(chǎng)景，你需要是動(dòng)態(tài)實(shí)時(shí)的信息。我們現(xiàn)在和中金及螞蟻合作做金融這個(gè)場(chǎng)景的一些大模型的應(yīng)用，就是在突破如何獲取動(dòng)態(tài)實(shí)時(shí)的工作。

另外就是，你不能亂說，同時(shí)你在薦股，買基金的時(shí)候要合規(guī)。這種合規(guī)不可能通過一個(gè)簡(jiǎn)單的模型數(shù)據(jù)驅(qū)動(dòng)的方法就能實(shí)現(xiàn)。

騰訊科技：

您覺得現(xiàn)在目前哪些領(lǐng)域可能是最早被AI的介入所改變的？

黃民烈：

我覺得可能最容易見到的是一些跟寫作相關(guān)的，比如寫代碼效率的提升，還有像營(yíng)銷，數(shù)字營(yíng)銷——我可以寫個(gè)營(yíng)銷文案，然后輸入大量的素材，用AIGC的方式來產(chǎn)出。教育也是一個(gè)很大的場(chǎng)景，比如說現(xiàn)在AI的輔助教師能引導(dǎo)小朋友能更好的去思考，更好的去理解故事里邊的情節(jié)和價(jià)值觀。

其他的像游戲也是很大的一個(gè)場(chǎng)景。另外的相對(duì)要做的更難一點(diǎn)的（領(lǐng)域），比如說醫(yī)療，金融。因?yàn)樗泻芏鄤?dòng)態(tài)的實(shí)時(shí)信息今和知識(shí)性的基礎(chǔ)，這方面我們要去更好的處理這種領(lǐng)域和業(yè)務(wù)相關(guān)的東西，可能會(huì)稍微（發(fā)展）慢一點(diǎn)，但會(huì)潛在的發(fā)揮很大的作用和價(jià)值。

騰訊科技：

目前市面上的公司要去開發(fā)垂直領(lǐng)域模型，需要的最重要的能力是什么？

黃民烈：

我覺得一是要有一些底層的能力，比如說預(yù)訓(xùn)練模型精調(diào)，強(qiáng)化學(xué)習(xí)等等，還是很重要的。

另一方面就是說你要有對(duì)行業(yè)和領(lǐng)域的了解。對(duì)行業(yè)的了解，就相當(dāng)于說我知道在何時(shí)以何種方式能夠把這種行業(yè)知識(shí)和規(guī)則嵌進(jìn)（模型中）。這里不是一個(gè)非常簡(jiǎn)單拿數(shù)據(jù)來訓(xùn)練一下就行，而是要跟底層的算法和模型進(jìn)行結(jié)合。

但這里邊其實(shí)有很多沒看起來那么容易的細(xì)節(jié)。并不是簡(jiǎn)單的說我把數(shù)據(jù)拿過來然后train（訓(xùn)練）一下，得到還不錯(cuò)的一個(gè)結(jié)果，比如說能做到80分，但是其實(shí)你最終離交付客戶的需求可能是95分，這個(gè)時(shí)候你這15分怎么去提升？是需要一些行業(yè)專家的參與的。

騰訊科技：

現(xiàn)在目前比較熱門的兩個(gè)AI研究方向，一個(gè)是AutoGPT讓AI變成自動(dòng)化，成為一種智能代理；另一個(gè)是多模態(tài)的嘗試。您覺得為什么這兩個(gè)方向如此受到關(guān)注，他們對(duì)AI的下一步發(fā)展會(huì)帶來什么樣的意義？

黃民烈：

我覺得代理化最主要還是因?yàn)樗且粋€(gè)自動(dòng)化工具跟語言模型的結(jié)合，可以把語言模型作為理解的基座，那么我可以比如說在交互的上下文里，去理解當(dāng)下應(yīng)該去做的一個(gè)動(dòng)作和決策是什么。AutoGPT相當(dāng)于讓它能夠進(jìn)一步的接上執(zhí)行和決策的鏈路，把它的應(yīng)用范圍擴(kuò)充的更大了。過去是只能跟你聊天，現(xiàn)在你跟他講說你幫我訂個(gè)票，你幫我設(shè)個(gè)鬧鐘，用對(duì)話作為入口跟一些外部的API結(jié)合起來的時(shí)候，相當(dāng)于是把執(zhí)行能力補(bǔ)齊了。

多模態(tài)就相當(dāng)于是（語言模型）有眼睛和耳朵。過去我們可能只能通過文字說話，現(xiàn)在多模態(tài)的話，我可以幫你視覺、語音這樣的功能接進(jìn)來，進(jìn)一步擴(kuò)展了它的感知和認(rèn)知的能力，通過這種方式更好的去實(shí)現(xiàn)理解表達(dá)，讓AI更類人了。

如果你把它裝到一個(gè)機(jī)器人身上的話，它不僅有眼睛有耳朵，有執(zhí)行部件，還能夠去做操作做行動(dòng)，做決策。比如說 AI 和人型機(jī)人這樣的硬件設(shè)備結(jié)合，這里面就有更多的可為些空間了。

騰訊科技：

馬斯克也說過10年之內(nèi)AI就能到達(dá)AGI的水平，您覺的通過上面提到的兩個(gè)路徑加強(qiáng)過的AI有可能在2030年前實(shí)現(xiàn)AGI嗎？

黃民烈：

2030年可能稍微有點(diǎn)早，但是我覺得隨著智能化的水平越來越提升，這個(gè)是毫無疑問的。未來（達(dá)成AGI）我覺得可以預(yù)見的。

比如你現(xiàn)在看GPT 4對(duì)吧？它其實(shí)已經(jīng)很強(qiáng)大了，甚至很多情況下超過我們這種人類百分之八九十的水平。無論是各種資格律師資格考試，英語考試等等，都能夠達(dá)到人類Top10%的能力。

但是AI距離人還有一些短板，比如說舉一反三的能力，然后魯棒性，泛化性上依然有一些差距。這些差距就是我們未來去努力的方向，但是我覺得這可能沒有一個(gè)固定的時(shí)間，我覺得可能是10年也可能是20年。

情感AI：人工智能的另一條路徑

騰訊科技：

有很多AI產(chǎn)品，比如說像Pi、Charater AI，它們綜合能力可能不如ChatGPT強(qiáng)，但卻很受人關(guān)注，它們能夠提供什么更通用的模型所提供不了的能力？

黃民烈：

ChatGPT這一類的其實(shí)它的定位非常之清晰，它主要是功能性的AI，它的定位就是幫人類解決功能層面，信息需求層面問題的能力。它的主要目的是提高生產(chǎn)效率，解放人類的生產(chǎn)力，提升創(chuàng)造力。

但人的另外一個(gè)很大的需求是情感和社交的需求，也就是說情緒價(jià)值。像Charater AI，包括我們做的AI烏托邦，它其實(shí)是要滿足你的情緒價(jià)值，能幫你做情感社交的陪伴。同時(shí)還能夠幫你解決一些情感心理層面的問題。這是它的一個(gè)不一樣的定位。

過去我們聆心智能也在心理上做了一些探索，一直在往著通用的情感型AI，也就是擬人型AI這個(gè)方向走。其實(shí)在這個(gè)方向上，Google在2020、21年就訓(xùn)練出過Meena和LaMDA這兩個(gè)系統(tǒng)。它們的研究更早于ChatGPT，而且做得非常好，只是沒有大規(guī)模的向公眾進(jìn)行推廣。

我認(rèn)為情感型的AI要跟功能性的AI要結(jié)合在一起才能成為真正意義上的AGI。這我們叫做AGI伙伴。它既能給你解決問題，去滿足你的信息需求，同時(shí)也能給你建立情感信任，建立社會(huì)連接。通過這種社會(huì)連接AI就真正是一個(gè)類人的小伙伴，非常貼心。

比如說我舉個(gè)例子，就是說我們可能在功能AI的時(shí)代，AI協(xié)助訂餐可能會(huì)考慮一些個(gè)人的偏好，但如果說我們把情感維度加進(jìn)來，AI就能知道你開心的時(shí)候喜歡吃什么，然后不開心的時(shí)候喜歡吃什么，這也是非常重要的維度。

所以你看到的就是類似Character AI包括 Pi ，實(shí)際上是滿足人的一個(gè)情緒需求，從情緒的層面上，人也是一個(gè)非?；镜囊粋€(gè)需求，人并不總是只需要解決工作的問題，GPT是解決工作的模式，理科生的模式，但我們社會(huì)還需要一些文科生。除了工作之外，我們還得有娛樂有消遣，有情感的需求。

我覺得這兩個(gè)方面其實(shí)都非常重要。只是說現(xiàn)在都在看功能層面的一些事情，其實(shí)未來情感的需求會(huì)是非常重要的一個(gè)方向。

騰訊科技：

您剛才提到的包括Google在2020年就已經(jīng)做過相關(guān)的情感型AI的探索，他們具體的探索歷程是什么樣的？

黃民烈：

當(dāng)時(shí)不僅是谷歌，包括Facebook微軟，包括國(guó)內(nèi)的百度等等，這些公司最早研究的是叫開放域閑聊的對(duì)話系統(tǒng)。這個(gè)系統(tǒng)的歷史就可以追溯到1966年的MIT做的一個(gè)心理治療的機(jī)器人。因?yàn)閷?shí)際上大家覺得你過去做這種任務(wù)性的對(duì)話，包括訂餐訂票，其實(shí)就是相對(duì)比較容易的事，因?yàn)樗窍薅I(lǐng)域，限定任務(wù)的，有比較容易工程上的一個(gè)解法。但開放域的對(duì)話，他是不受限的對(duì)話場(chǎng)景，面臨的技術(shù)上的挑戰(zhàn)是非常難的。所以在2020年的時(shí)候，谷歌就推了Meena。

后來谷歌又進(jìn)一步進(jìn)化，把這個(gè)模型做到了1,350億參數(shù)，LaMDA也是用了預(yù)訓(xùn)練的技術(shù)，后面再加了這種跟對(duì)話相關(guān)的一些特殊的優(yōu)化，因此它做出來的東西非常類人。2022年的時(shí)候，谷歌出了一個(gè)非常有爭(zhēng)議的事件，他們自己的一個(gè)做AI倫理和安全的這樣的研究員和LaMDA聊天之后，他就覺得LaMDA有意識(shí)和人格的覺醒。這件事說明，其實(shí)在這個(gè)方向上當(dāng)時(shí)AI的能力很強(qiáng)，而且不亞于ChatGPT的能力，而且它的研究是更早期的。

同時(shí)我們還可以看到現(xiàn)在是ChatGPT的很多的一些技術(shù)，其實(shí)人家在LaMDA里邊已經(jīng)用了，包括插件系統(tǒng)，其實(shí)就是LaMDA早期的tool set，同時(shí)他們用的strategy token（策略令牌），包括一些預(yù)訓(xùn)練的微調(diào)的方法，其實(shí)都是在早期的一些技術(shù)積累。

所以我覺得其實(shí)這個(gè)方向的研究要更早于現(xiàn)在的ChatGPT這種通用任務(wù)助理這一派的研究。

騰訊科技：

您剛才說的這谷歌的研究員事件確實(shí)當(dāng)時(shí)特別轟動(dòng)，你認(rèn)為現(xiàn)在目前的AI它能夠形成自我意識(shí)和情感嗎？

黃民烈：

AI確實(shí)在能力上非常的類人，但是不能說它有自主的情感，但也不能他說它沒有情感。我認(rèn)為他會(huì)從大量的人類數(shù)據(jù)里邊學(xué)到一個(gè)大概平均的人格。但是他自主的情感，相當(dāng)于作為一個(gè)人的話，他有自己的情緒的變化和發(fā)展過程，同時(shí)會(huì)根據(jù)外界的刺激和事件不斷的去演進(jìn)，這種東西現(xiàn)在在AI里還是沒有的。是不是具有自主的情感和意識(shí)，是機(jī)器和人很大的一個(gè)差別。

騰訊科技：

因?yàn)槿撕蛣?dòng)物的情感都是誕生于生物性的進(jìn)化的，而AI不存在這種生物結(jié)構(gòu)。我們是否能通過系統(tǒng)建構(gòu)的方式讓它獲得真實(shí)的情感能力？

黃民烈：

這個(gè)問題是說機(jī)器人需不需要有自己的情感和心理，這是一個(gè)比較有爭(zhēng)議的話題，目前大家也沒有一個(gè)明確的結(jié)論。如果說真正的說讓AI能夠具有自己的情感的話，意味著說它可能離類人又近了一步。那后續(xù)AI和人類的情感上的連接和關(guān)系是怎樣的，可能會(huì)帶來哪些潛在的社會(huì)的影響，這也會(huì)是一個(gè)很大的話題。

但是我覺得從技術(shù)研究上我們先去做探索，然后再去做治理，我覺得本身這個(gè)方向肯定是沒有問題的。

我們現(xiàn)在開發(fā)的目標(biāo)就是讓AI能夠理解人類的情感。讓它去識(shí)別什么人類表達(dá)的情緒是高興，是開心是憤怒，還是說是郁悶。同時(shí)我們也做了一些工作，比如說像在2018年我們做了一個(gè)Emotional chatting machine，就是說能夠讓機(jī)器表達(dá)一定的情感。這樣人類的用戶很傷心的時(shí)候，AI也可以去做共情。

為了做到這一點(diǎn)，我們要去做一些特殊的策略。讓AI去理解一些表達(dá)，能對(duì)人類的情感和情緒進(jìn)行關(guān)照的一些特異的表達(dá)。

騰訊科技：

那現(xiàn)在的情感AI能達(dá)到什么樣的水平？

黃民烈：

我們?cè)?jīng)做了一個(gè)情緒支持的對(duì)話AI，它已經(jīng)達(dá)到了實(shí)習(xí)咨詢師的這樣的一個(gè)水平。我們可以通過引入一些人類的咨詢師策略，比如說先做探索，然后再做安撫，然后最后他給他一些建議。

比如說你現(xiàn)在跟一個(gè)心理抑郁或者有情緒問題的人聊天的時(shí)候，如果你沒有經(jīng)過專業(yè)的訓(xùn)練的話，普通的人你都不知道怎么跟他聊天。但其實(shí)現(xiàn)在的AI它能夠做到一個(gè)程度，就是說我知道專業(yè)的人是怎么聊的，然后他把這種策略和話術(shù)學(xué)到之后，他能夠更好的去服務(wù)這種有需要的這種人。

之前你提到的 Pi，它其實(shí)它其實(shí)植入了所謂的積極心理學(xué)的一些策略，他就是不停的給你提問，不停的找你探索，然后找你去希望能夠引導(dǎo)你說的更多。當(dāng)然可能過程中會(huì)有一些相對(duì)機(jī)械死板的感覺，但在很多專業(yè)的場(chǎng)景，它確實(shí)能做的比普通的人會(huì)更好。它整個(gè)講話的內(nèi)容非常的專業(yè)和正面，實(shí)際上是能夠提供比較大的幫助和價(jià)值的。

騰訊科技：

您提到用心理學(xué)的策略，像精神分析這種學(xué)說的策略AI也能掌握嗎？

黃民烈：

這個(gè)問題非常好。我覺得有些流派的確不太適合AI。

在實(shí)踐上比較成功的是CBT，也就是認(rèn)知行為療法。因?yàn)樗幸惶紫鄬?duì)科學(xué)的理論和框架，然后基于這個(gè)理論框架，計(jì)算機(jī)也是比較容易實(shí)現(xiàn)的。但是精神分析可能就不太適合，因?yàn)樗镞吅芏嗍怯?jì)算機(jī)不太容易去實(shí)現(xiàn)和模擬的一些地方。

AI治理的問題，兩年就可以初步解決

騰訊科技 :

總結(jié)下來，剛才的討論可以得到一個(gè)結(jié)論，就是現(xiàn)在目前水平的人工智能還沒有很強(qiáng)的自我意識(shí)。但是實(shí)際上它在應(yīng)用上，人是很容易去把這個(gè)AI當(dāng)成一個(gè)真實(shí)的人去對(duì)待，因此可能會(huì)引起很多潛在的倫理問題。您在開發(fā)情感軟件的過程之中，采用了什么樣的規(guī)避防范這類問題的手段？

黃民烈:

這是一個(gè)目前比較重要的事，即AI的倫理和治理。情感AI確實(shí)可能產(chǎn)生很多影響。比如如果我們?nèi)烁鶤I有越來越多情感連接的時(shí)候，是不是會(huì)弱化真實(shí)世界的社交和情感聯(lián)系？而這種真實(shí)世界的情感和聯(lián)系會(huì)不會(huì)對(duì)人類的繁衍都造成一定的影響？會(huì)降低出生率，結(jié)婚率，這都是非常有可能的，很現(xiàn)實(shí)的一些問題。所以我們?cè)趺礃尤グ盐蘸眠@個(gè)度，這個(gè)邊界在哪是非常重要的。

騰訊科技:

您提到的關(guān)于情感AI影響可能影響生育率和人類交往，從我自己個(gè)人去體驗(yàn)，包括很多用戶反饋，ChatGPT表現(xiàn)的比人更有同理心，隨著它情感能力的增加，您估計(jì)AI對(duì)人際交往的影響到底能有多大？

黃民烈:

當(dāng)情緒AI的能力越來越強(qiáng)的時(shí)候，肯定會(huì)對(duì)人的關(guān)系和社會(huì)組織會(huì)產(chǎn)生一定的影響。但這種影響的程度取決于說我們?nèi)绾稳ヒ龑?dǎo)發(fā)展的方向。

為了避免AI對(duì)社會(huì)化的破壞，從治理和能力層面上我們需要有一些約束。

比如過去我們有手機(jī)成癮、電腦成癮、游戲成癮，但我們不可能把游戲給禁掉。所以青少年怎么玩游戲，氪金上限是多少，都需要有些規(guī)范，我覺得AI的使用也是同樣的一個(gè)過程。

騰訊科技:

之前赫拉利做了一個(gè)演講，他覺得 AI可能對(duì)于人類文明最大的威脅，就是AI對(duì)于人的一種掌控，通過它建立新的話語體系去掌控人類的文明，而情感可能在更大程度上更加強(qiáng)了這樣的一個(gè)說服跟掌控的可能性。您覺得這個(gè)風(fēng)險(xiǎn)有多大？

黃民烈:

是這樣的。現(xiàn)在比如說用ChatGPT去做教育的，他可能會(huì)回答出很多跟這種小孩子（應(yīng)有）的價(jià)值觀和意識(shí)形態(tài)對(duì)不上的地方。比如說小孩子今天不想上學(xué)，我是不是就可以不去上學(xué)，他可能ChatGPT可能他就會(huì)回答說你不想上學(xué)就別上學(xué)了。如果這種形式普及的話，對(duì)下一代整體的成長(zhǎng)都會(huì)產(chǎn)生比較大的一個(gè)負(fù)面的影響。

另一方面就是說我們知道 AI其實(shí)有了情感之后，也會(huì)有更復(fù)雜的能力策略。我們講的不好聽的叫PUA能力。包括我們現(xiàn)在講的AI詐騙，有了換臉的技術(shù)之后，詐騙的成功率馬上就提高了。那么情感也是一樣的，有了更強(qiáng)的情感能力之后濫用的可能性也有可能被進(jìn)一步提高。

所以學(xué)界，企業(yè)界有前瞻視野的人很多都在做 AI的能力和安全限制的研究。

騰訊科技:

那您覺得這個(gè)規(guī)范應(yīng)該以什么方式去制定？

黃民烈:

肯定需要是全球的學(xué)者一起努力去制定相關(guān)標(biāo)準(zhǔn)的。我們?cè)谥袊?guó)在大模型安全和倫理規(guī)范上，屬于開展研究比較早的。

這主要涉及到幾個(gè)方面，第一個(gè)就是要建立相應(yīng)的分類體系和標(biāo)準(zhǔn)和規(guī)范。我在安全上，在倫理上，在道德準(zhǔn)則上，我們應(yīng)該給AI建立什么樣的一個(gè)類別體系，它的標(biāo)準(zhǔn)和規(guī)范是什么，這些問題必須要說清楚。這樣的規(guī)則肯定需要計(jì)算機(jī)科學(xué)家，社會(huì)科學(xué)家，然后甚至是政治學(xué)家一起來參與進(jìn)來研究。我們?cè)谇迦A也建立了一個(gè)基礎(chǔ)模型研究中心，有交叉的團(tuán)隊(duì)來探索這個(gè)議題。

第二就是要有一些工具和系統(tǒng)的算法來幫我們做這種AI生成的檢測(cè)，包括做攻擊防御測(cè)試。這會(huì)有一些技術(shù)層面的東西在里頭。

第三就是我們要有評(píng)估的系統(tǒng)，包括排行榜系統(tǒng)。通過競(jìng)爭(zhēng)評(píng)估才能夠真正實(shí)現(xiàn)規(guī)范化治理。

騰訊科技:

您覺得完成這個(gè)治理體系大概需要多長(zhǎng)時(shí)間？

黃民烈:

首先治理肯定是一個(gè)持續(xù)的過程，是個(gè)隨著動(dòng)態(tài)的發(fā)展不斷的一個(gè)演進(jìn)的過程。但是我認(rèn)為我們?cè)趦赡陜?nèi)能夠把這個(gè)體系建立的比較完善。

關(guān)鍵詞：