人工智能的統(tǒng)一定義尚未形成，通常它被認(rèn)為是指“具有人類(lèi)思考、判斷和意圖的能力，受到外界刺激時(shí)能做出與人類(lèi)一致的反應(yīng)的機(jī)器”。所以，其進(jìn)化過(guò)程就是無(wú)限接近于人類(lèi)的過(guò)程，倫理風(fēng)險(xiǎn)也在這一過(guò)程中步步加深。

風(fēng)險(xiǎn)的根源主要來(lái)自AI的自主性，或者說(shuō)不可控性。近10年，AI為公共部門(mén)和商業(yè)組織帶來(lái)了層出不窮的新產(chǎn)品和新服務(wù)，它可以提高效率，輔助或取代人類(lèi)，這得益于 “機(jī)器學(xué)習(xí)”的發(fā)展。

擁有強(qiáng)大運(yùn)算能力的計(jì)算機(jī)程序能夠?qū)Υ罅繑?shù)據(jù)進(jìn)行自動(dòng)挖掘和分析，并學(xué)習(xí)各種行為模式。但輸入和輸出不再由人工賦予的幾個(gè)變量掌控，而是機(jī)器在大量數(shù)據(jù)中自己分析特征，決定變量權(quán)重，錯(cuò)誤和偏見(jiàn)因此產(chǎn)生。

比如通過(guò)使用機(jī)器學(xué)習(xí)算法可以為銀行提供接受還是拒絕房貸的建議，但研究人員在審查其結(jié)果時(shí)，卻發(fā)現(xiàn)黑種人申請(qǐng)的批準(zhǔn)率大大低于白種人申請(qǐng)的批準(zhǔn)率。背后的原因可能是計(jì)算機(jī)程序基于人類(lèi)世界信息綜合得出的結(jié)果，卻沒(méi)有考慮到這些信息本身是否帶有偏見(jiàn)。

那么，人類(lèi)可以像為機(jī)器設(shè)定程序一樣，為AI預(yù)設(shè)道德標(biāo)準(zhǔn)嗎?

2017年1月，美國(guó)未來(lái)生命研究院(FLI)就曾召開(kāi)了一場(chǎng)主題為“有益的人工智能”的阿西洛馬會(huì)議。來(lái)自商業(yè)、科學(xué)、法律、倫理、哲學(xué)等眾多和領(lǐng)域的專(zhuān)家，共同達(dá)成了23條人工智能“阿西洛馬原則”，為AI的倫理原則指明了大致的方向。

比如AI系統(tǒng)的設(shè)計(jì)和運(yùn)作應(yīng)符合人類(lèi)尊嚴(yán)、權(quán)利、自由和文化多樣性的理念;AI的目標(biāo)和行為在整個(gè)運(yùn)行過(guò)程中與人類(lèi)價(jià)值觀相一致;人們應(yīng)該有權(quán)利存取、管理和控制他們產(chǎn)生的數(shù)據(jù)等。

但這些畢竟只是框架，落實(shí)到具體問(wèn)題上，AI的倫理標(biāo)準(zhǔn)依然模糊不清。比如一個(gè)AI界的經(jīng)典問(wèn)題是，如果一輛自動(dòng)駕駛汽車(chē)失控，兩側(cè)是懸崖，前方是行人，它應(yīng)該被設(shè)定為犧牲駕駛員，還是犧牲行人呢?

如果當(dāng)時(shí)開(kāi)車(chē)的是人類(lèi)駕駛員，那么無(wú)論他做出怎樣的決定，都有一個(gè)具有自主行為能力的主體可以承擔(dān)相應(yīng)的后果。但如果做決定的是機(jī)器，誰(shuí)又該為這個(gè)決定負(fù)責(zé)呢?

放在經(jīng)濟(jì)領(lǐng)域去考察，AI同樣存在巨大倫理風(fēng)險(xiǎn)。尤瓦爾·赫拉利在其暢銷(xiāo)書(shū)《人類(lèi)簡(jiǎn)史》中預(yù)測(cè)，“(未來(lái))不是什么人都是有用的”;吳軍也在《智能時(shí)代》一書(shū)中寫(xiě)到“2%的人將控制未來(lái)，成為他們或者被淘汰”。

AI在代替絕大多數(shù)人的工作，甚至幫人類(lèi)做絕大多數(shù)決策的同時(shí)，很有可能會(huì)強(qiáng)化商業(yè)世界“強(qiáng)者恒強(qiáng)，弱者更弱”的鴻溝，使中等收入群體萎縮，引發(fā)社會(huì)對(duì)立。而放眼更長(zhǎng)遠(yuǎn)的未來(lái)，它還可能成為整個(gè)人類(lèi)社會(huì)的威脅。

在近年來(lái)的AI界，機(jī)器人索菲亞是網(wǎng)紅一般的存在。創(chuàng)造它的美國(guó)漢森機(jī)器人公司創(chuàng)始人戴維·漢森曾在一場(chǎng)現(xiàn)場(chǎng)直播節(jié)目中對(duì)她說(shuō)：“你想毀滅人類(lèi)嗎?請(qǐng)說(shuō)‘不’。”結(jié)果得到的回答卻是：“好的，我會(huì)毀滅人類(lèi)。”

盡管有許多人質(zhì)疑索菲亞的回答是技術(shù)人員提前做好的設(shè)計(jì)。但它的這番“言論”還是引起了廣泛的討論。已故物理學(xué)家霍金便是“威脅論”的堅(jiān)實(shí)擁躉。在他看來(lái)，AI憑借不斷升級(jí)的智商和萬(wàn)物互聯(lián)的網(wǎng)絡(luò)，未來(lái)可能會(huì)成為新物種，并超越人類(lèi)成為地球的統(tǒng)治力量。

任何技術(shù)都有異化的風(fēng)險(xiǎn)，但若論風(fēng)險(xiǎn)程度，AI絕對(duì)是最值得警惕的一種。