中新網(wǎng)8月17日電 題：人工智能商業(yè)化提速，如何平衡創(chuàng)新與治理？

(相關(guān)資料圖)

中新財(cái)經(jīng)記者 夏賓

在大模型、AIGC引領(lǐng)的產(chǎn)業(yè)熱潮下，人工智能商業(yè)化落地提速，企業(yè)關(guān)心將技術(shù)應(yīng)用到產(chǎn)業(yè)中產(chǎn)出價(jià)值，從政府的角度也必須要考慮如何平衡創(chuàng)新和治理間的關(guān)系。

“人工智能確實(shí)成為當(dāng)前引領(lǐng)新一輪科技革命發(fā)展潮流，大家也有一定擔(dān)心，生成式AI被視為一種顛覆性技術(shù)，同時(shí)具有破壞性，它是雙刃劍，可以解放生產(chǎn)力、發(fā)展生產(chǎn)力，但是對(duì)現(xiàn)有的破壞也需要考量，可能帶來(lái)不可預(yù)知的風(fēng)險(xiǎn)和挑戰(zhàn)?！敝袊?guó)國(guó)際經(jīng)濟(jì)交流中心經(jīng)濟(jì)研究部副部長(zhǎng)劉向東近日在京參加騰訊舉行的“人工智能技術(shù)創(chuàng)新發(fā)展”研討會(huì)時(shí)如是說(shuō)。

劉向東說(shuō)，社會(huì)擔(dān)心，若不對(duì)生成式AI進(jìn)行有效監(jiān)管，在倫理和安全上會(huì)產(chǎn)生較大挑戰(zhàn)，甚至產(chǎn)生不可預(yù)知的風(fēng)險(xiǎn)，比如出現(xiàn)它不受人控制的情況都可能存在。

他進(jìn)一步稱，由此，各國(guó)家都對(duì)如何發(fā)展人工智能提出了一些辦法，中國(guó)政府也發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，這既需要把生成式AI發(fā)展和應(yīng)用的范圍劃定清晰，同時(shí)又不妨礙其發(fā)展，所以在包容審慎和分類(lèi)分級(jí)監(jiān)管方面通過(guò)一個(gè)暫行辦法，如有不合適的，根據(jù)各方反饋再去調(diào)整，如此促進(jìn)生成式人工智能的發(fā)展。

中國(guó)信通院云大所人工智能部副主任曹峰表示，從大模型發(fā)展趨勢(shì)來(lái)看，今年是大模型多、應(yīng)用范圍多，且向醫(yī)療、教育、能源、電力、工業(yè)等行業(yè)深度融合。

但他也提出，大模型的可信風(fēng)險(xiǎn)日漸突顯，大模型本就沒(méi)有解決原來(lái)人工智能存在的問(wèn)題，比如可解釋、黑盒、數(shù)據(jù)泄露、不穩(wěn)定等問(wèn)題，同時(shí)帶來(lái)很多新的問(wèn)題，比如涉及知識(shí)產(chǎn)權(quán)問(wèn)題、生成不恰當(dāng)內(nèi)容問(wèn)題以及生成虛假肖像、圖片、語(yǔ)音而用于非法行為的問(wèn)題。

為解決上述問(wèn)題，曹峰建議，從政策層面，比如網(wǎng)信辦對(duì)生成式人工智能的相關(guān)規(guī)定，同時(shí)國(guó)際上不斷強(qiáng)調(diào)需要關(guān)注倫理、隱私、版權(quán)等問(wèn)題。

從產(chǎn)業(yè)層面，很多產(chǎn)業(yè)機(jī)構(gòu)等也提出了大模型需要產(chǎn)業(yè)重視的問(wèn)題，比如重視數(shù)據(jù)風(fēng)險(xiǎn)、模型風(fēng)險(xiǎn)、隱私風(fēng)險(xiǎn)等一系列風(fēng)險(xiǎn)。“我們需要從技術(shù)和管理雙管齊下，在技術(shù)層面的隱私保護(hù)技術(shù)、公平性技術(shù)、可解釋性技術(shù)等，在管理層面的風(fēng)險(xiǎn)管理、人員管理、質(zhì)量管理、合規(guī)管理等?！?/p>

北京理工大學(xué)計(jì)算機(jī)學(xué)院副教授、網(wǎng)絡(luò)與安全研究所所長(zhǎng)閆懷志強(qiáng)調(diào)說(shuō)，人工智能系統(tǒng)自身安全問(wèn)題容易被忽視，它是個(gè)盲點(diǎn)。具體體現(xiàn)在多個(gè)方面，比如對(duì)抗機(jī)器學(xué)習(xí)，惡意樣本生成，訓(xùn)練數(shù)據(jù)污染，出現(xiàn)偽造臟、假數(shù)據(jù)的情況。

閆懷志直言，問(wèn)題出在“智能算法的理想”與“軟件實(shí)現(xiàn)的現(xiàn)實(shí)”的差異。一是人工智能框架安全，現(xiàn)在開(kāi)源人工智能編程框架和商業(yè)人工智能編程框架很多，二是人工智能算法安全，對(duì)抗樣本的出現(xiàn)就證明了人工智能算法缺乏可解釋性，三是人工智能數(shù)據(jù)安全，構(gòu)造一些非法數(shù)據(jù)、誤導(dǎo)數(shù)據(jù)實(shí)施干擾，從而造成機(jī)器學(xué)習(xí)模型的過(guò)擬合或完全失效。

人工智能行業(yè)天使投資人郭濤認(rèn)為，人工智能監(jiān)管趨嚴(yán)是人工智能商業(yè)化面臨重大問(wèn)題之一，比如AIGC內(nèi)容生成的相關(guān)版權(quán)歸屬問(wèn)題，訓(xùn)練數(shù)據(jù)合法性問(wèn)題，大量人臉數(shù)據(jù)、圖片數(shù)據(jù)等的來(lái)源問(wèn)題，對(duì)數(shù)據(jù)來(lái)源的監(jiān)管、算法模型的監(jiān)管、對(duì)應(yīng)用場(chǎng)景的監(jiān)管、對(duì)社交平臺(tái)的監(jiān)管，這些監(jiān)管趨勢(shì)都非常嚴(yán)。

騰訊研究院產(chǎn)業(yè)研究中心負(fù)責(zé)人宋揚(yáng)則提到，大模型對(duì)現(xiàn)有知識(shí)產(chǎn)權(quán)有一定沖擊，尤其對(duì)版權(quán)有一定沖擊，而從倫理和安全角度，AI生態(tài)需要更加完善。

宋揚(yáng)表示，高盛預(yù)測(cè)AI將取代3億人的全職工作，世界經(jīng)濟(jì)論壇的報(bào)告表明未來(lái)五年勞動(dòng)者44%的核心技能會(huì)發(fā)生改變。此外，用AI生成類(lèi)似真人的數(shù)字人技術(shù)，它會(huì)進(jìn)行新型詐騙，目前已經(jīng)有詐騙案例出現(xiàn)，所以推動(dòng)AI倫理及AI安全需要產(chǎn)業(yè)共同努力。(完)

關(guān)鍵詞：