李東榮：人工智能的不當(dāng)使用可能會(huì)引發(fā)個(gè)人隱私泄露等風(fēng)險(xiǎn)

【IT時(shí)代網(wǎng)北京報(bào)道】12月11日，由新浪財(cái)經(jīng)主辦的2020中國(guó)銀行業(yè)發(fā)展論壇智慧金融峰會(huì)在北京舉行，中國(guó)互聯(lián)網(wǎng)金融協(xié)會(huì)會(huì)長(zhǎng)、中國(guó)人民銀行原副行長(zhǎng)李東榮出席會(huì)議并發(fā)表演講。

李東榮表示，人工智能在我國(guó)金融領(lǐng)域已獲得一定的應(yīng)用成效，但人工智能技術(shù)本身尚處于不斷發(fā)展演進(jìn)的過(guò)程中，其在金融領(lǐng)域更大規(guī)模的應(yīng)用落地客觀上還面臨數(shù)據(jù)、成本、安全、人才等各種顯性和隱性的障礙。而且由于存在技術(shù)黑箱、算法共振、算法歧視、數(shù)據(jù)高依賴度等情況，其在金融領(lǐng)域不當(dāng)應(yīng)用可能會(huì)引發(fā)責(zé)任邊界模糊、市場(chǎng)羊群效應(yīng)、數(shù)字金融排斥、個(gè)人隱私泄露等一系列的風(fēng)險(xiǎn)挑戰(zhàn)，必須引起高度的重視。【責(zé)任編輯/周末】

以下為嘉賓發(fā)言全文：

尊敬的各位嘉賓、朋友們：

大家好!很高興出席2020中國(guó)銀行業(yè)發(fā)展論壇——智慧金融峰會(huì)，與大家共同探討智慧金融的未來(lái)與發(fā)展這一重要議題。談到智慧金融，我認(rèn)為，其前提是數(shù)據(jù)要素的積累，基礎(chǔ)是算法算力的進(jìn)步，關(guān)鍵是適用場(chǎng)景的挖掘，核心是人工智能的應(yīng)用。鑒于此，我也想結(jié)合今天論壇的主題，就推進(jìn)人工智能在金融領(lǐng)域的應(yīng)用，談幾點(diǎn)個(gè)人思考和意見，供大家參考。

大家知道，人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)。近年來(lái)，得益于有力的政策支持、巨大的應(yīng)用需求和開放的市場(chǎng)環(huán)境，我國(guó)人工智能技術(shù)和產(chǎn)業(yè)蓬勃發(fā)展，專用芯片、應(yīng)用算法、開放平臺(tái)等技術(shù)產(chǎn)品不斷優(yōu)化，計(jì)算機(jī)視覺(jué)、自然語(yǔ)言理解等技術(shù)應(yīng)用達(dá)到國(guó)際先進(jìn)水平。根據(jù)世界知識(shí)產(chǎn)權(quán)組織有關(guān)報(bào)告，去年我國(guó)申請(qǐng)人工智能專利的數(shù)量位居世界前列，與美國(guó)、日本合計(jì)占據(jù)了全球總量的78%。

具體到金融領(lǐng)域，2017年國(guó)務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，將金融列為人工智能應(yīng)用試點(diǎn)示范和產(chǎn)業(yè)智能化升級(jí)的重要領(lǐng)域之一。去年人民銀行發(fā)布的《金融科技發(fā)展規(guī)劃》明確提出，要穩(wěn)妥推動(dòng)人工智能技術(shù)與金融業(yè)務(wù)深度融合，這些政策文件為人工智能在金融領(lǐng)域的應(yīng)用提供了良好的政策環(huán)境。根據(jù)中國(guó)互聯(lián)網(wǎng)金融協(xié)會(huì)對(duì)A股88家上市金融機(jī)構(gòu)2019年年報(bào)的統(tǒng)計(jì)分析，73%的上市金融機(jī)構(gòu)已開展人工智能應(yīng)用，主要的應(yīng)用場(chǎng)景如智能風(fēng)控、智能客服和智能營(yíng)銷。機(jī)構(gòu)的占比分別為47%、41%和32%。其中，上市公司在人工智能應(yīng)用方面更為積極，超九成的上市銀行已開展相關(guān)的應(yīng)用探索。

總體來(lái)看，人工智能在我國(guó)金融領(lǐng)域已獲得一定的應(yīng)用成效，但人工智能技術(shù)本身尚處于不斷發(fā)展演進(jìn)的過(guò)程中，其在金融領(lǐng)域更大規(guī)模的應(yīng)用落地客觀上還面臨數(shù)據(jù)、成本、安全、人才等各種顯性和隱性的障礙。而且由于存在技術(shù)黑箱、算法共振、算法歧視、數(shù)據(jù)高依賴度等情況，其在金融領(lǐng)域不當(dāng)應(yīng)用可能會(huì)引發(fā)責(zé)任邊界模糊、市場(chǎng)羊群效應(yīng)、數(shù)字金融排斥、個(gè)人隱私泄露等一系列的風(fēng)險(xiǎn)挑戰(zhàn)，必須引起高度的重視。

面對(duì)人工智能在金融領(lǐng)域應(yīng)用的重大機(jī)遇和現(xiàn)實(shí)挑戰(zhàn)，我認(rèn)為有必要加強(qiáng)前瞻研究和規(guī)范引導(dǎo)，做到揚(yáng)長(zhǎng)避短、趨利避害。鑒于此，結(jié)合有關(guān)國(guó)際經(jīng)驗(yàn)，在國(guó)家新一代人工智能治理專委會(huì)發(fā)布的《新一代人工治理原則》總體框架下 ，我倡議提出人工智能在金融領(lǐng)域應(yīng)用應(yīng)堅(jiān)持的四個(gè)基本原則：

一是依法合規(guī)。嚴(yán)格遵守以人工智能金融應(yīng)用相關(guān)的信息技術(shù)、網(wǎng)絡(luò)安全、數(shù)據(jù)治理、隱私保護(hù)、業(yè)務(wù)監(jiān)管等領(lǐng)域法律規(guī)范，堅(jiān)守智能金融的合規(guī)底線和行為紅線。積極采用人工智能相關(guān)國(guó)家標(biāo)準(zhǔn)、金融行業(yè)標(biāo)準(zhǔn)和自律標(biāo)準(zhǔn)，鼓勵(lì)執(zhí)行嚴(yán)于法律規(guī)范、國(guó)家標(biāo)準(zhǔn)和金融行業(yè)標(biāo)準(zhǔn)的企業(yè)標(biāo)準(zhǔn)。結(jié)合人工智能應(yīng)用新進(jìn)展新特點(diǎn)，積極加強(qiáng)人工智能應(yīng)用與發(fā)展的共性法律問(wèn)題研究，推動(dòng)建立符合我國(guó)國(guó)情、更具智能化時(shí)代適應(yīng)性的多層次智能金融法治體系。

二是以人為本。以維護(hù)金融消費(fèi)者合法權(quán)益、增進(jìn)金融消費(fèi)者共同利益為應(yīng)用導(dǎo)向，尊重社會(huì)共同價(jià)值觀和倫理道德，持續(xù)提升技術(shù)水平、改進(jìn)管理方式，開發(fā)“有溫度的”智能金融產(chǎn)品服務(wù)，促進(jìn)數(shù)字普惠金融發(fā)展。堅(jiān)持守正創(chuàng)新、科技向善，制定實(shí)施科學(xué)合理的金融消費(fèi)者保護(hù)機(jī)制、隱私安全政策、風(fēng)險(xiǎn)緩釋措施和應(yīng)急處置安排，在數(shù)據(jù)獲取、算法設(shè)計(jì)、產(chǎn)品研發(fā)和應(yīng)用過(guò)程中消除偏見和歧視，禁止人工智能濫用、惡用，避免誤用。

三是安全可控。加強(qiáng)人工智能研發(fā)者、使用者及其他相關(guān)方的能力建設(shè)和行為規(guī)范建設(shè)，確保相關(guān)人員具備人工智能金融應(yīng)用所需的專業(yè)能力、業(yè)務(wù)知識(shí)和工作經(jīng)驗(yàn)。加強(qiáng)理論研究、模型測(cè)試、安全評(píng)估和審計(jì)體系建設(shè)，不斷提升智能金融系統(tǒng)透明性、可靠性、可控性，逐步實(shí)現(xiàn)可追溯、可信賴、可審計(jì)。按照分級(jí)分類管理思路，結(jié)合具體應(yīng)用場(chǎng)景確定相應(yīng)級(jí)別的算法模型可解釋程度，不應(yīng)以技術(shù)黑箱等作為可解釋性不足的理由。做好技術(shù)供應(yīng)商盡職調(diào)查、風(fēng)險(xiǎn)隔離和退出管理，不斷提升自身技術(shù)實(shí)力和運(yùn)維能力，避免對(duì)單一供應(yīng)商的過(guò)度依賴。

四是權(quán)責(zé)清晰。從業(yè)機(jī)構(gòu)董事會(huì)及高級(jí)管理層應(yīng)推動(dòng)建立科學(xué)合理的人工智能治理框架，為本機(jī)構(gòu)應(yīng)用人工智能所產(chǎn)生的結(jié)果負(fù)責(zé)。主動(dòng)建立完善清晰、透明、公開的權(quán)責(zé)清單，明確研發(fā)者、使用者及其他相關(guān)方的權(quán)利、義務(wù)和責(zé)任，建立覆蓋人工智能應(yīng)用全流程的問(wèn)責(zé)機(jī)制。堅(jiān)持負(fù)責(zé)任金融理念，通過(guò)信息披露、風(fēng)險(xiǎn)提示、產(chǎn)品公示、隱私政策聲明等方式，切實(shí)維護(hù)金融消費(fèi)者知情權(quán)、自主選擇權(quán)、公平交易權(quán)、信息安全權(quán)等權(quán)利。與合作機(jī)構(gòu)、技術(shù)供應(yīng)商等審慎簽訂合同協(xié)議，明確風(fēng)險(xiǎn)承擔(dān)、服務(wù)安排、數(shù)據(jù)管理、投訴處置等方面的責(zé)任邊界。

各位嘉賓，推進(jìn)人工智能在金融領(lǐng)域應(yīng)用，促進(jìn)智慧金融發(fā)展意義重大，任務(wù)艱巨，我相信，在國(guó)家金融管理部門、行業(yè)協(xié)會(huì)、金融機(jī)構(gòu)、科技公司等多方力量的共同參與和務(wù)實(shí)推動(dòng)下，人工智能在我國(guó)金融領(lǐng)域的應(yīng)用將會(huì)更加深入、廣泛，為金融業(yè)數(shù)字化轉(zhuǎn)型和經(jīng)濟(jì)高質(zhì)量發(fā)展提供持續(xù)的驅(qū)動(dòng)力。

最后，預(yù)祝論壇取得圓滿成功，謝謝大家!

來(lái)源：IT時(shí)代網(wǎng)

IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000，定時(shí)推送，互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來(lái)自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。

相關(guān)文章

李東榮：人工智能的不當(dāng)使用可能會(huì)引發(fā)個(gè)人隱私泄露等風(fēng)險(xiǎn)

多地通知拆除人臉識(shí)別，人工智能行業(yè)要?jiǎng)x車？

東莞城管回應(yīng)“公廁取紙靠人臉識(shí)別”：已協(xié)調(diào)終止使用

創(chuàng)新型產(chǎn)業(yè)集群建設(shè)提速 多地加快布局生物醫(yī)藥人工智能等產(chǎn)業(yè)