av大大超碰在线,在线91av,国产成人在线一区二区

郭毅可教授：讓機(jī)器做得對(duì) 人工智能倫理性亟待更多關(guān)注

新華　2020年10月23日 08:31

當(dāng)下，人工智能的應(yīng)用與研究已經(jīng)成為全球最熱門的話題之一。不久前，當(dāng)“鋼鐵人”馬斯克帶著他的另一個(gè)神奇而偉大的設(shè)備——一枚硬幣大小的腦機(jī)接口新設(shè)備出現(xiàn)在Neuralink發(fā)布會(huì)上，再度驚艷了人們對(duì)于AI世界的夢(mèng)幻與想象。人機(jī)交互，腦機(jī)相連，人類與AI共生的時(shí)代真的到來了嗎?新華網(wǎng)客戶端專訪香港浸會(huì)大學(xué)副校長(zhǎng)、英國(guó)皇家工程院院士郭毅可教授。

新華網(wǎng)客戶端執(zhí)行CEO席卿：您說人工智能的研究，不僅僅是一個(gè)科學(xué)的命題，也是一個(gè)哲學(xué)的命題。我們應(yīng)該怎么理解?

香港浸會(huì)大學(xué)副校長(zhǎng)郭毅可：當(dāng)我們打開手機(jī)刷讀想要了解的新聞，一條條滑過眼前的“推送”是我們真正感興趣的新聞嗎?當(dāng)我們點(diǎn)開網(wǎng)頁尋找想要購買的商品，一個(gè)個(gè)彈入視線的“寶貝”是我們真正心儀的商品嗎?當(dāng)我們登錄程序想要網(wǎng)約一部Uber，系統(tǒng)顯示的價(jià)格是我們真正需要支付的費(fèi)用嗎? 對(duì)于這些生活中司空見慣的場(chǎng)景，大多數(shù)的我們?cè)缫蚜?xí)以為常。不經(jīng)不覺中，人工智能已經(jīng)“侵入”了我們的生活。每當(dāng)我們開啟一次與互聯(lián)網(wǎng)的遠(yuǎn)程對(duì)話，我們已經(jīng)分辨不清想要獲得的結(jié)果，究竟是人給予的還是機(jī)器給予的?我們沉浸于人工智能為我們構(gòu)建的生活中，也封閉在人工智能為我們構(gòu)建的“泡沫”里。撥開人工智能神秘的萬象以及人們追趕潮流的熱望，我們希望回歸本真，在哲學(xué)命題下關(guān)注人工智能的倫理性問題，為人工智能未來的發(fā)展帶來“清涼”的冷思考。

席卿：隨著人工智能應(yīng)用的范圍越來越廣，出現(xiàn)的爭(zhēng)議性問題也越來越多。智能推薦背后的準(zhǔn)則是否合理?金融市場(chǎng)的算法定價(jià)是否隱藏惡意競(jìng)爭(zhēng)與價(jià)格操控?社會(huì)信用系統(tǒng)對(duì)權(quán)利的剝奪是否具有法理的依據(jù)?性愛、聊天機(jī)器人的出現(xiàn)是否改變了人類自然的情感?這些爭(zhēng)議性的問題為人工智能的研究帶來了全新的視角，這些是倫理性研究問題嗎?

郭毅可：其實(shí)所謂智能倫理，是人機(jī)共存社會(huì)中法理及組織的形式與變化。眾所周知，人工智能的發(fā)展離不開大數(shù)據(jù)、模型算法和算力三大要素。高質(zhì)量的數(shù)據(jù)資源、先進(jìn)的學(xué)習(xí)算法以及支撐算法執(zhí)行的算力為人工智能的騰飛插上了助力的翅膀，而良好的數(shù)據(jù)生態(tài)環(huán)境、社會(huì)倫理則是人工智能得以飛得平穩(wěn)致遠(yuǎn)的兩個(gè)重要因素。人們不斷地要求機(jī)器做得更多，卻往往忽略機(jī)器做得對(duì)與不對(duì)。這也是為何一直以來人工智能的倫理學(xué)沒有得到更多的關(guān)注。人在賦予機(jī)器智能的同時(shí)，也要對(duì)機(jī)器行為理解與審視，這便是智能倫理學(xué)的研究范疇。人工智能倫理學(xué)不僅僅是技術(shù)問題、科學(xué)問題，更多的是哲學(xué)問題。不同的理解與價(jià)值觀未必得到相同的答案，因此人工智能倫理學(xué)的研究將作為一個(gè)開放的課題伴隨著未來人工智能的發(fā)展。

探討人工智能倫理問題產(chǎn)生的本源，我們先從機(jī)器學(xué)習(xí)說起。如果從認(rèn)知學(xué)的角度理解機(jī)器學(xué)習(xí)，它和人腦學(xué)習(xí)的邏輯和過程非常相似。我們把人腦中的知識(shí)看作是一種模型，人腦的認(rèn)知模型就是對(duì)世界的看法、對(duì)觀察結(jié)果的抽象。人腦通過觀察獲取信息、獲得結(jié)果，當(dāng)觀察的結(jié)果與人腦的認(rèn)知模型一致，人腦除了對(duì)產(chǎn)生一些使人愉悅的多巴胺，不會(huì)做出什么行為;當(dāng)觀察的結(jié)果與人腦的模型不一致，人腦就會(huì)做出反應(yīng)，它可以很理性，認(rèn)為自己的認(rèn)知有問題，于是就對(duì)腦中的認(rèn)知模型做出改變，或者它很自信，充分相信自己的模型，于是，就付諸行動(dòng)，去改變世界。人腦改變認(rèn)知是學(xué)習(xí)，改變世界是決策指導(dǎo)下的行動(dòng)。這是認(rèn)知學(xué)對(duì)學(xué)習(xí)的理解。

機(jī)器學(xué)習(xí)也是如此，在機(jī)器學(xué)習(xí)中，模型是以函數(shù)的形式來表達(dá)的。機(jī)器學(xué)習(xí)的目的是找到一個(gè)函數(shù)的形式，以及函數(shù)的參數(shù)，機(jī)器用這個(gè)參數(shù)來對(duì)觀察的結(jié)果作比較，進(jìn)而使誤差最小化。機(jī)器學(xué)習(xí)中，無論是監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)，目標(biāo)都只有一個(gè)，找到與觀察具有一致性的模型。審視機(jī)器學(xué)習(xí)的過程，我們會(huì)發(fā)現(xiàn)一系列的根本性的問題。首先，如何向機(jī)器表達(dá)人的認(rèn)知目的。人告訴機(jī)器做什么，是通過效用函數(shù)來表達(dá)的。用效用函數(shù)來定義人的認(rèn)知目的非常困難。我們既要達(dá)到最好的結(jié)果，又要滿足對(duì)社會(huì)倫理的要求，效用函數(shù)難以完美表達(dá)這一要求。其次，機(jī)器學(xué)習(xí)也是一個(gè)效用函數(shù)求優(yōu)的過程，這個(gè)過程我們很難理解。求優(yōu)必須調(diào)整很多參數(shù)，改變一些可控制的變量，就像“煉金術(shù)”，調(diào)參的過程會(huì)導(dǎo)致很多的問題。

席卿：人們?cè)谫x予機(jī)器“超能力”的同時(shí)，一邊享受著機(jī)器行為帶來的諸多得益，一邊也對(duì)機(jī)器行為產(chǎn)生諸多質(zhì)疑，包括新聞撰寫中的生成算法是可靠的嗎?法律庭審中的機(jī)器助審會(huì)有偏見嗎?醫(yī)學(xué)診斷中機(jī)器得出的結(jié)果是正確的嗎?

郭毅可：機(jī)器行為是機(jī)器對(duì)世界的改變，也是人對(duì)機(jī)器的感知。機(jī)器行為可以從行為目的、行為原則、行為結(jié)果和行為依據(jù)四個(gè)方面來理解和考慮。理解機(jī)器行為對(duì)于我們更好地應(yīng)用機(jī)器至關(guān)重要。然而，人們一旦掌握了機(jī)器行為，有時(shí)也會(huì)變成攻擊機(jī)器的武器。自動(dòng)汽車的投入使用就存在這樣的痛點(diǎn)。自動(dòng)駕駛最大的問題在于路權(quán)選擇，當(dāng)人與車出現(xiàn)在同一路面上，如果人知道機(jī)器的選擇是保證對(duì)人的傷害最小，人就會(huì)惡性地同機(jī)器進(jìn)行較量，導(dǎo)致車永遠(yuǎn)無法開走。在城市交通管理方面，當(dāng)交通非常流暢高效的時(shí)候，人們即使不需要開車也想要開車，這就會(huì)再次造成污染問題。這些全局性行為的平衡，也是人工智能發(fā)展必須要應(yīng)對(duì)的。

理解機(jī)器行為是人工智能研究的一個(gè)重要問題，也是人工智能未來研究的主要方向。未來的人工智能，不是要求機(jī)器做得多，而是要求機(jī)器做得對(duì)。什么是對(duì)，不僅是個(gè)哲學(xué)的問題，也是一個(gè)價(jià)值觀的問題。如何向機(jī)器表達(dá)對(duì)的行為目的，如何判斷機(jī)器做得對(duì)不對(duì)，如何理解機(jī)器做對(duì)的緣由，以及機(jī)器行為的解釋和驗(yàn)證，這些都是理解機(jī)器行為的重要課題。向機(jī)器表達(dá)正確的目的是人工智能倫理學(xué)研究的主要方向。當(dāng)我們用效用函數(shù)向機(jī)器表達(dá)學(xué)習(xí)目的，函數(shù)表達(dá)的正確性，以及驗(yàn)證函數(shù)的正確性需要考慮;利益最大化，誰的利益最大化?這里有一個(gè)所謂的“代理人”原則：你找律師為你辦事，你要搞清楚，到底這個(gè)律師是為你辦事，還是把你的事越搞越復(fù)雜，他好賺錢?還有一個(gè)“不可預(yù)知”原則——即好心辦壞事的問題也需要認(rèn)真思考。向機(jī)器表達(dá)目標(biāo)函數(shù)所考慮的倫理性、合理性、公平性歸根結(jié)底都是表達(dá)的問題。判斷機(jī)器做得對(duì)與不對(duì)，如何驗(yàn)證?在求證的過程中，什么是最優(yōu)?最優(yōu)是否合理? 人工智能系統(tǒng)應(yīng)該具有怎樣的性質(zhì)才能贏得信任?這些也都是有待深入研究的人工智能倫理性問題。未來的學(xué)習(xí)要增加對(duì)機(jī)器行為的因果性予以理解。我們正在進(jìn)行的關(guān)于隱空間的語義解釋的研究便與此相關(guān)。機(jī)器進(jìn)行零樣本學(xué)習(xí)的時(shí)候，我們對(duì)隱空間的語義進(jìn)行解釋，將一些特征編輯成向量，當(dāng)一個(gè)沒出現(xiàn)過的物體出現(xiàn)時(shí)，機(jī)器可以通過編碼得到向量，再由質(zhì)點(diǎn)推演出特征。我們計(jì)劃將隱空間的概念再放大，用一個(gè)概率模型映像到概念空間去，來解釋很多深層的方法。

席卿：您介紹了人工智能的倫理性，我們發(fā)現(xiàn)，與真正的“圖靈時(shí)代”還相距甚遠(yuǎn)。因?yàn)楫?dāng)我們向人和機(jī)器共處的黑屋提問，并無法區(qū)分得到的回答來自人還是機(jī)器的時(shí)候，我們可以追問一句：“請(qǐng)告訴我，你是如何得到這個(gè)問題的答案的?”人是能回答這個(gè)問題的，而機(jī)器則一定很茫然。未來，對(duì)于人機(jī)共存的世界，您怎么理解?

郭毅可：人是能回答這個(gè)問題的，而機(jī)器則一定很茫然。然而，對(duì)于人機(jī)共存的世界，我們毋庸置疑。事實(shí)上，我們?cè)絹碓搅?xí)慣和機(jī)器共生在這個(gè)二元的新世界。我們一邊與機(jī)器相互交流，一邊也要嘗試?yán)斫鈾C(jī)器行為。只有理解了機(jī)器行為，才能相信機(jī)器行為，相信和我們朝夕相處的機(jī)器。人要理解機(jī)器的表達(dá)行為，機(jī)器也要學(xué)會(huì)理解人的意圖。對(duì)機(jī)器行為的解釋、理解和驗(yàn)證，以及機(jī)器行為的倫理性將成為人工智能研究的核心重點(diǎn)，也是科學(xué)家們著力克服解決的難點(diǎn)與痛點(diǎn)。在沒有解決和深入理解這些問題之前，我們奢談對(duì)未來人工智能統(tǒng)治人類未免為時(shí)過早。

人工智能，不是“神話”，而是一個(gè)實(shí)實(shí)在在的算法。人工智能的研究體現(xiàn)了人類對(duì)未來的不斷追求，對(duì)未知的不斷探索。人工智能，我們既不能輕視，也不能恐懼，更無法回避。我們要透過踏實(shí)地努力、艱苦地勞動(dòng)，以豐富的思想，開發(fā)出扎實(shí)的技術(shù);以東方文明特有的包容與理解，建設(shè)二元的新世界。智能的機(jī)器和人類的共生共存，是人工智能未來發(fā)展的方向，也是我們未來社會(huì)的藍(lán)圖。【責(zé)任編輯/李小可】

來源：新華網(wǎng)

IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000，定時(shí)推送，互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。

相關(guān)文章