圖：AIGC帶來巨大發(fā)展機遇的同時，也衍生了知識產(chǎn)權(quán)保護、算法歧視、安全挑戰(zhàn)、倫理風(fēng)險、環(huán)境風(fēng)險等問題。

　　推動AIGC（生成式人工智能）健康發(fā)展和規(guī)范應(yīng)用，亟需各方協(xié)同努力，以促進市場潛力釋放。AIGC一方面為金融行業(yè)帶來了巨大的發(fā)展機遇，另一方面，知識產(chǎn)權(quán)保護、算法歧視、安全挑戰(zhàn)、倫理風(fēng)險、環(huán)境風(fēng)險等問題都制約了AIGC在金融行業(yè)的應(yīng)用。中國亟需探索構(gòu)建可持續(xù)人工智能生態(tài)的路徑。

　　“我們總是高估未來兩年的技術(shù)改變，但低估未來10年的技術(shù)影響?！闭缥④泟?chuàng)始人比爾．蓋茨所言，在下一個黃金十年，AI（人工智能）將進一步釋放歷次科技革命和產(chǎn)業(yè)變革積蓄的巨大能量。

　　歐盟和美國等西方多數(shù)國家都主張采用多元主體參與、協(xié)同共治的模式，人工智能治理從政府主導(dǎo)向“政府＋市場”主導(dǎo)轉(zhuǎn)型。希望既加速人工智能產(chǎn)業(yè)發(fā)展，又同步推進監(jiān)管規(guī)則的制定。

　　2019年，歐盟發(fā)布《可信賴人工智能道德準則》（以下簡稱《準則》），提出了實現(xiàn)可信賴人工智能全生命周期的框架。提出四項倫理準則：尊重人自主性、預(yù)防傷害、公平性和可解釋性。列出實現(xiàn)可信賴AI的七個關(guān)鍵條件：人的能動性和監(jiān)督；技術(shù)穩(wěn)健性和安全性；隱私和數(shù)據(jù)管理；透明度；多樣性、非歧視性和公平性；社會和環(huán)境福祉；問責(zé)。

　　《準則》將“信任”與“可信賴”等術(shù)語置于文件的核心地位，這也是世界各國制定的人工智能倫理準則中廣泛使用的概念之一。2023年6月，歐洲議會又邁出了具有歷史意義的重要一步，通過《人工智能法案》草案，但距離完全生效可能還需數(shù)年時間，為未來的人工智能監(jiān)管奠定了法律基礎(chǔ)。這一舉措讓外界看到了超越道德和法律的人工智能科技在歐洲迎來了一扇有法可管的大門。同時，歐洲也立下了全球人工智能監(jiān)管的新標準。

　　中美監(jiān)管思路各異

　　美國為了平衡創(chuàng)新與治理的需要，采取了較為寬松的“軟監(jiān)管”。2020年1月，美國聯(lián)邦政府發(fā)布了《人工智能應(yīng)用的監(jiān)管指南》，要求聯(lián)邦政府以減少人工智能技術(shù)應(yīng)用的障礙和促進技術(shù)創(chuàng)新為目標。在治理主體上，美國成立了“人工智能國家安全委員會”，由政府官員、科學(xué)家、企業(yè)高管和學(xué)者等組成的多元治理主體?？梢钥闯?，美國不僅側(cè)重維護自身核心價值，而且更加強調(diào)對人工智能創(chuàng)新與發(fā)展的促進，避免一刀切式的過度干預(yù)。其優(yōu)先考慮不通過政策手段阻礙人工智能技術(shù)和產(chǎn)業(yè)發(fā)展，降低創(chuàng)新門檻和成本，高度重視為人工智能應(yīng)用創(chuàng)建“安全港”、監(jiān)管轄免等。

　　歐美AI治理對于中國的金融機構(gòu)和眾多產(chǎn)業(yè)提供了啟示。努力確保AI算法和模型具有透明度和可解釋性，使用戶和監(jiān)管機構(gòu)能夠理解決策的依據(jù)和過程，這有助于建立信任。另外，金融機構(gòu)要積極參與國際合作，密切跟蹤技術(shù)前沿，科學(xué)、動態(tài)地制定和調(diào)整倫理規(guī)范。倡導(dǎo)發(fā)展“以人為本”的人工智能，共同參與制定倫理治理標準和規(guī)范。讓AI的發(fā)展符合社會倫理，為人類創(chuàng)造積極價值。

　　在AIGC方面，中外監(jiān)管思路存在差異。歐美國家側(cè)重于從數(shù)據(jù)安全、數(shù)據(jù)保護和數(shù)據(jù)治理的角度進行監(jiān)管；而中國則采取綜合治理的思路，強調(diào)權(quán)益保護、數(shù)據(jù)治理和內(nèi)容治理等多個方面的監(jiān)管。

　　為了促進AIGC健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，2023年7月，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（簡稱“《辦法》”）于2023年8月15日起施行。這是國家首次專門針對AIGC進行系統(tǒng)監(jiān)管的文件，重點強調(diào)了AIGC產(chǎn)品訓(xùn)練數(shù)據(jù)及生成內(nèi)容的真實性，對技術(shù)發(fā)展與治理做出具體要求。

　　《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵A(yù)IGC創(chuàng)新發(fā)展，對AIGC服務(wù)實行包容審慎和分類分級監(jiān)管，明確了提供和使用AIGC服務(wù)總體要求。明確了發(fā)展與安全并重、創(chuàng)新和依法治理相結(jié)合，將“發(fā)展”置于“安全”前、“創(chuàng)新”置于“治理”之前，還明確指出“鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用”等。相比此前的征求意見稿，正式辦法的基調(diào)從強監(jiān)管、禦風(fēng)險轉(zhuǎn)變?yōu)榘輰徤?、鼓勵發(fā)展，凸顯了中央對AIGC技術(shù)發(fā)展的支持。

　　《辦法》被看作是一個重大的信號，體現(xiàn)了提前研判、提前介入、提前監(jiān)管的思路。隨著監(jiān)管法規(guī)的不斷完善，有望指引AIGC行業(yè)發(fā)展方向，促進行業(yè)長期健康發(fā)展。同時，政府、企業(yè)和社會各界也需要共同努力，加強合作與溝通，共同推動AIGC技術(shù)的創(chuàng)新和應(yīng)用，為社會帶來更多的福祉和發(fā)展機會。

　　完善制度規(guī)避風(fēng)險

　　在中國，金融機構(gòu)開展AIGC合規(guī)發(fā)展和有效治理尤為重要。筆者認為共筑可信生態(tài)的路徑，可從以下七個方面進行：

　　1）“三駕馬車”共護數(shù)據(jù)安全。《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等“三駕馬車”構(gòu)成了中國數(shù)據(jù)安全領(lǐng)域完整的基礎(chǔ)性法律體系。金融機構(gòu)主體要遵守現(xiàn)行相關(guān)法律體系，以及征求意見稿等最新監(jiān)管規(guī)定，建立健全內(nèi)部監(jiān)管制度。在訓(xùn)練數(shù)據(jù)、數(shù)據(jù)清洗、數(shù)據(jù)出境等全流程中采取嚴格的數(shù)據(jù)安全措施，構(gòu)建和完善合理的數(shù)據(jù)采集、使用和共享機制，防止數(shù)據(jù)洩露和濫用。

　　2）建立算法模型審查機制。金融機構(gòu)在AIGC產(chǎn)品上線前應(yīng)主動進行事前審查，及時發(fā)現(xiàn)其運作程序、服務(wù)內(nèi)容存在的問題，彌補外部監(jiān)督的缺陷，使算法倫理問題可溯源可追責(zé)。借助決策樹、特征重要性、敏感性分析、原型選擇等算法解釋器，以一定的方式和程度向監(jiān)管部門和公眾說明自動化決策的內(nèi)在邏輯，履行透明度義務(wù)，回應(yīng)公眾所關(guān)心的特定因素對算法決策的具體影響。

　　3）加強AIGC技術(shù)研究和創(chuàng)新，持續(xù)改進應(yīng)用。積極應(yīng)用隱私計算、區(qū)塊鏈等新技術(shù)和新模型，創(chuàng)新算法保護和倫理判別技術(shù)手段。定期審核、評估、驗證生成合成類算法機制機理，持續(xù)評估人工智能系統(tǒng)的性能、合規(guī)性和風(fēng)險。根據(jù)反饋結(jié)果，及時調(diào)整和改進系統(tǒng)，使模型應(yīng)用與人類價值觀保持一致并遵循人類意圖。

　　4）建立獨立倫理委員會或?qū)彶闄C制。探索人工智能倫理治理，基于風(fēng)險分級和應(yīng)用分類，采取政策指南、監(jiān)管沙盒、試點、標準認證等多元化監(jiān)管措施。加強對生成內(nèi)容審查及內(nèi)容過濾，避免基于種族、性別、年齡等因素造成的偏見和不公平現(xiàn)象，打造可信AIGC生態(tài)。

　　5）建立健全應(yīng)急處置制度。對人工智能系統(tǒng)的使用進行風(fēng)險評估和管理，包括技術(shù)風(fēng)險、操作風(fēng)險和道德風(fēng)險等方面。建立相應(yīng)的風(fēng)險管理框架和流程，定期開展應(yīng)急演練，測試和評估安全應(yīng)急預(yù)案的可行性和有效性。

　　6）積極構(gòu)建人才培養(yǎng)體系。加快高水平AIGC人才培養(yǎng)，打造領(lǐng)軍人才和創(chuàng)新團隊。布局一批適應(yīng)AIGC技術(shù)研究所需的科教資源和數(shù)字化資源平臺，促進各類創(chuàng)新要素優(yōu)化聚集，深化產(chǎn)學(xué)研合作。

　　7）廣泛開展國際交流合作。學(xué)習(xí)借鑒國際AIGC領(lǐng)域的先進經(jīng)驗，與其他組織、學(xué)術(shù)界和政府機構(gòu)進行合作，共享最佳實踐。參與行業(yè)標準制定，促進大模型綠色低碳發(fā)展。

　　AIGC的誕生帶來了許多驚喜和創(chuàng)新，同時也引發(fā)了爭議和挑戰(zhàn)。面對這種新興技術(shù)，我們需要保持開放、包容和積極的態(tài)度，尋求法律和制度的創(chuàng)新來規(guī)避風(fēng)險，實現(xiàn)可持續(xù)發(fā)展。AI是不能錯過的一次革命。麥肯錫公司預(yù)測，未來10年的科技進步，將超過之前100年的總和。AI作為新的電力，有望在未來幾年改變所有主流行業(yè)。守正創(chuàng)新行穩(wěn)致遠，共筑AIGC生態(tài)新范式，必將造福全社會。