題：人工智能商業(yè)化提速，如何平衡創(chuàng)新與治理？

【資料圖】

中新財經(jīng)記者 夏賓

在大模型、AIGC引領(lǐng)的產(chǎn)業(yè)熱潮下，人工智能商業(yè)化落地提速，企業(yè)關(guān)心將技術(shù)應(yīng)用到產(chǎn)業(yè)中產(chǎn)出價值，從政府的角度也必須要考慮如何平衡創(chuàng)新和治理間的關(guān)系。

“人工智能確實成為當(dāng)前引領(lǐng)新一輪科技革命發(fā)展潮流，大家也有一定擔(dān)心，生成式AI被視為一種顛覆性技術(shù)，同時具有破壞性，它是雙刃劍，可以解放生產(chǎn)力、發(fā)展生產(chǎn)力，但是對現(xiàn)有的破壞也需要考量，可能帶來不可預(yù)知的風(fēng)險和挑戰(zhàn)?！敝袊鴩H經(jīng)濟交流中心經(jīng)濟研究部副部長劉向東近日在京參加騰訊舉行的“人工智能技術(shù)創(chuàng)新發(fā)展”研討會時如是說。

劉向東說，社會擔(dān)心，若不對生成式AI進行有效監(jiān)管，在倫理和安全上會產(chǎn)生較大挑戰(zhàn)，甚至產(chǎn)生不可預(yù)知的風(fēng)險，比如出現(xiàn)它不受人控制的情況都可能存在。

他進一步稱，由此，各國家都對如何發(fā)展人工智能提出了一些辦法，中國政府也發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，這既需要把生成式AI發(fā)展和應(yīng)用的范圍劃定清晰，同時又不妨礙其發(fā)展，所以在包容審慎和分類分級監(jiān)管方面通過一個暫行辦法，如有不合適的，根據(jù)各方反饋再去調(diào)整，如此促進生成式人工智能的發(fā)展。

中國信通院云大所人工智能部副主任曹峰表示，從大模型發(fā)展趨勢來看，今年是大模型多、應(yīng)用范圍多，且向醫(yī)療、教育、能源、電力、工業(yè)等行業(yè)深度融合。

但他也提出，大模型的可信風(fēng)險日漸突顯，大模型本就沒有解決原來人工智能存在的問題，比如可解釋、黑盒、數(shù)據(jù)泄露、不穩(wěn)定等問題，同時帶來很多新的問題，比如涉及知識產(chǎn)權(quán)問題、生成不恰當(dāng)內(nèi)容問題以及生成虛假肖像、圖片、語音而用于非法行為的問題。

為解決上述問題，曹峰建議，從政策層面，比如網(wǎng)信辦對生成式人工智能的相關(guān)規(guī)定，同時國際上不斷強調(diào)需要關(guān)注倫理、隱私、版權(quán)等問題。

從產(chǎn)業(yè)層面，很多產(chǎn)業(yè)機構(gòu)等也提出了大模型需要產(chǎn)業(yè)重視的問題，比如重視數(shù)據(jù)風(fēng)險、模型風(fēng)險、隱私風(fēng)險等一系列風(fēng)險?！拔覀冃枰獜募夹g(shù)和管理雙管齊下，在技術(shù)層面的隱私保護技術(shù)、公平性技術(shù)、可解釋性技術(shù)等，在管理層面的風(fēng)險管理、人員管理、質(zhì)量管理、合規(guī)管理等。”

北京理工大學(xué)計算機學(xué)院副教授、網(wǎng)絡(luò)與安全研究所所長閆懷志強調(diào)說，人工智能系統(tǒng)自身安全問題容易被忽視，它是個盲點。具體體現(xiàn)在多個方面，比如對抗機器學(xué)習(xí)，惡意樣本生成，訓(xùn)練數(shù)據(jù)污染，出現(xiàn)偽造臟、假數(shù)據(jù)的情況。

閆懷志直言，問題出在“智能算法的理想”與“軟件實現(xiàn)的現(xiàn)實”的差異。一是人工智能框架安全，現(xiàn)在開源人工智能編程框架和商業(yè)人工智能編程框架很多，二是人工智能算法安全，對抗樣本的出現(xiàn)就證明了人工智能算法缺乏可解釋性，三是人工智能數(shù)據(jù)安全，構(gòu)造一些非法數(shù)據(jù)、誤導(dǎo)數(shù)據(jù)實施干擾，從而造成機器學(xué)習(xí)模型的過擬合或完全失效。

人工智能行業(yè)天使投資人郭濤認(rèn)為，人工智能監(jiān)管趨嚴(yán)是人工智能商業(yè)化面臨重大問題之一，比如AIGC內(nèi)容生成的相關(guān)版權(quán)歸屬問題，訓(xùn)練數(shù)據(jù)合法性問題，大量人臉數(shù)據(jù)、圖片數(shù)據(jù)等的來源問題，對數(shù)據(jù)來源的監(jiān)管、算法模型的監(jiān)管、對應(yīng)用場景的監(jiān)管、對社交平臺的監(jiān)管，這些監(jiān)管趨勢都非常嚴(yán)。

騰訊研究院產(chǎn)業(yè)研究中心負(fù)責(zé)人宋揚則提到，大模型對現(xiàn)有知識產(chǎn)權(quán)有一定沖擊，尤其對版權(quán)有一定沖擊，而從倫理和安全角度，AI生態(tài)需要更加完善。

宋揚表示，高盛預(yù)測AI將取代3億人的全職工作，世界經(jīng)濟論壇的報告表明未來五年勞動者44%的核心技能會發(fā)生改變。此外，用AI生成類似真人的數(shù)字人技術(shù)，它會進行新型詐騙，目前已經(jīng)有詐騙案例出現(xiàn)，所以推動AI倫理及AI安全需要產(chǎn)業(yè)共同努力。(完)

關(guān)鍵詞：