“上帝創(chuàng)造了人類，人類卻懷疑上帝。人類創(chuàng)造了機(jī)器人，機(jī)器人為何不能懷疑人類？”

一、AI時(shí)代的恐懼

前段時(shí)間媒體上一直傳說(shuō)著一個(gè)Facebook人工智能部門的恐怖故事。

大致是FB員工在引導(dǎo)兩個(gè)AI自己聊天，一開(kāi)始還是正常的聊天，屏幕上顯示的字還是普通我們讀得懂的英文。但是聊著聊著，發(fā)現(xiàn)兩個(gè)AI發(fā)明了一種新的語(yǔ)言，而且這種語(yǔ)言根本不是人類的語(yǔ)言，更重要的是兩個(gè)AI仍然聊的不亦樂(lè)乎，并且無(wú)視程序言下達(dá)的命令。最后FB停止了這一項(xiàng)目的研究，原因是“擔(dān)心可能會(huì)對(duì)這些AI失去控制”。

當(dāng)然只能算是一個(gè)恐怖故事，因?yàn)閷?shí)際上這只是一個(gè)AI的bug被媒體不斷放大了而已。

但是我知道很多人在看到這樣的新聞時(shí)，后背不斷發(fā)涼，因?yàn)楦杏X(jué)這樣的日子貌似并不遙遠(yuǎn)。

如果說(shuō)去年AlphaGO擊敗了李世石讓大家還心存僥幸，那么今年擊敗柯杰，則最終向人們傳達(dá)了這么一個(gè)信息：人類，已經(jīng)不是這個(gè)星球上最聰明的“物種”了。

而在人類過(guò)去幾萬(wàn)年不斷征服自然的過(guò)程中，我們深刻的明白：不是最聰明，意味著被消滅，或者像動(dòng)物園的獅子那樣，被奴役。

我認(rèn)識(shí)一個(gè)朋友，是從一個(gè)大投行出來(lái)，后來(lái)去了一家投AI的PE機(jī)構(gòu)。但是之前再次見(jiàn)他，他已經(jīng)辭去了所有工作，反正之前賺的錢也夠了，現(xiàn)在就專門負(fù)責(zé)游山玩水。問(wèn)及原因，答：AI會(huì)消滅人類，并且我們終將無(wú)力反抗，我只是及時(shí)行樂(lè)而已。——這是真事！

對(duì)未知的恐懼是人類的天性，過(guò)去的先人，對(duì)氣候充滿恐懼，因?yàn)椴恢朗裁磿r(shí)候爆發(fā)下洪水就把家淹了，能做的只有祈禱。現(xiàn)在我們也對(duì)AI也充滿了看恐懼，不知道哪天就把人類給KO了。

曾經(jīng)討論外星人文明和人類文明有個(gè)經(jīng)典的比喻，是螞蟻和高速公路的比喻。這個(gè)比喻對(duì)應(yīng)到AI問(wèn)題也同樣適用。

大致的意思人類建造一條高速公路，我們會(huì)征求拆遷戶的意見(jiàn)，但我們絕對(duì)不會(huì)去征求路邊螞蟻的意見(jiàn)，因?yàn)槲覀冏龅氖鲁隽怂麄兊睦斫夥秶?，也沒(méi)想過(guò)螞蟻能夠理解。如果因?yàn)榻艘粭l道高速公路而搗毀了一個(gè)螞蟻窩，我們也從來(lái)不會(huì)同情，也不會(huì)有哪怕有一絲的道德負(fù)罪感。

所以反過(guò)來(lái)，我們也擔(dān)心，哪天在AI面前，我們?nèi)f一成了那只不用征求意見(jiàn)的螞蟻了呢？

按理說(shuō)AI這么龐大的課題，我也不是AI從業(yè)者，完全沒(méi)有我說(shuō)話的資格，但誰(shuí)叫我是個(gè)吃了飯沒(méi)事做愛(ài)瞎琢磨愛(ài)湊熱鬧閑的蛋疼的吃瓜群眾呢，而且更重要的是，這也關(guān)乎我的生死存亡啊。

所有我就把自己對(duì)AI時(shí)代的一些思考給寫了下來(lái)，包括這個(gè)終極問(wèn)題：我們會(huì)被人工智能奴役么？希望共同探討，共同學(xué)習(xí)。

二、AI時(shí)代沒(méi)有隱私

大家應(yīng)該都知道《皇帝的新裝》的故事。而在AI時(shí)代，我們就是那個(gè)自以為穿著衣服的皇帝，甚至不只是衣服，連肚里的蛔蟲(chóng)，腦子里的小心思，都會(huì)被人偷窺的一覽無(wú)余。

馬云說(shuō)，數(shù)據(jù)是人工智能的核心。

前幾天，深圳的兩家巨無(wú)霸公司，騰訊和華為，打起了嘴炮，騰訊指控華為手機(jī)竊取用戶數(shù)據(jù)，華為說(shuō)我是經(jīng)過(guò)用戶允許的。這嘴炮背后爭(zhēng)奪的，其實(shí)就是用戶的數(shù)據(jù)。

隨著互聯(lián)網(wǎng)滲透到了生活的方方面面，我們的任何動(dòng)作都是留痕的，都是可追溯的，我們個(gè)人的隱私其實(shí)已經(jīng)完全暴露在了光天化日之下。

比方說(shuō)，通過(guò)對(duì)我個(gè)人微信聊天中內(nèi)容的分析，通過(guò)我的支付行為的分析，通過(guò)我淘寶行為的分析，通過(guò)我百度搜索記錄的分析，通過(guò)我訪問(wèn)各種網(wǎng)站的分析，科技巨頭會(huì)比我自己更了解我自己。他們可以分析出我的愛(ài)好，我的習(xí)慣，我的性格，包括可以大致猜測(cè)出我腦子里的想法，甚至可以推測(cè)將來(lái)我腦子里會(huì)有什么想法。

記得大學(xué)畢業(yè)，曾經(jīng)去阿里的大數(shù)據(jù)中心應(yīng)聘，第一步就是用個(gè)人淘寶賬號(hào)提交簡(jiǎn)歷，沒(méi)錯(cuò)，就是我平時(shí)買東西用的淘寶賬號(hào)，后來(lái)想想，阿里沒(méi)要我，可能就是想看看我淘寶平時(shí)買了什么東西，發(fā)現(xiàn)這個(gè)人在大學(xué)沒(méi)事就買游戲點(diǎn)卡，肯定沒(méi)好好學(xué)習(xí)，然后果斷拒掉。因?yàn)榘⒗锿ㄟ^(guò)個(gè)人的淘寶賬號(hào)，可以很快的了解我是一個(gè)什么樣的人，這個(gè)可能比和HR聊一天都管用。當(dāng)然這是我的猜測(cè)，不過(guò)理論上完全可行啊。

但是數(shù)據(jù)這個(gè)東西，我個(gè)人的聊天記錄，我個(gè)人的淘寶記錄，到底是屬于誰(shuí)的，肯定是屬于我的，只要我不同意，無(wú)論是誰(shuí)都不能用我的數(shù)據(jù)去進(jìn)行分析。

事實(shí)肯定不是這樣，雖然在類似注冊(cè)的時(shí)候，可以選擇是否授權(quán)公司分析我的數(shù)據(jù)，但畢竟，這些數(shù)據(jù)不在我的手中，也沒(méi)人會(huì)去監(jiān)管我的數(shù)據(jù)是否按照我的想法進(jìn)行處理。另外從國(guó)家的角度，甚至他們比公司更希望獲得所有國(guó)民的數(shù)據(jù)。

擁有了用戶數(shù)據(jù)是個(gè)很可怕的事，基本可以用上帝視角來(lái)俯視眾人。而目前從法律層面似乎沒(méi)有辦法去提供強(qiáng)有力的監(jiān)管，我們提供我們的數(shù)據(jù)是基于：

1）我們需要他們的產(chǎn)品，

2）相信擁有我們數(shù)據(jù)公司不會(huì)做大惡。

但是誰(shuí)敢保證他們永遠(yuǎn)不作惡呢？

然后我猜想，最后可能是被收割最慘的國(guó)家最早起來(lái)反抗。我猜歐洲可能會(huì)最早實(shí)質(zhì)上推進(jìn)用戶數(shù)據(jù)的保護(hù)，因?yàn)闅W洲是在數(shù)據(jù)上屬于被收割，沒(méi)有能力去收割別人的國(guó)家。

對(duì)歐洲眾多小國(guó)來(lái)說(shuō)，他們國(guó)內(nèi)更本沒(méi)有拿得出手的產(chǎn)品，社交用的FB，手機(jī)用的蘋果，購(gòu)物用的亞馬遜，他們的國(guó)民在AI時(shí)代是完全暴露在美國(guó)互聯(lián)網(wǎng)巨頭的視野中。所以他們更有動(dòng)力去推進(jìn)用戶數(shù)據(jù)的保護(hù)。想想當(dāng)年推進(jìn)微軟反壟斷案是歐盟出了很大的力。最近歐盟更是給Google開(kāi)了張創(chuàng)紀(jì)錄的27億美元天價(jià)反壟斷罰單。

三、AI時(shí)代，以一當(dāng)十

在人類科技發(fā)展史上，過(guò)去的科技進(jìn)步是有很大的運(yùn)氣成分在里面，比如青霉素的發(fā)現(xiàn)，是個(gè)偶然事件，X光的發(fā)現(xiàn)，是個(gè)偶然事件，雖然背后有必然的因素，但不能否認(rèn)運(yùn)氣在里面的作用。

不過(guò)科技發(fā)展到了現(xiàn)在，任何科技進(jìn)步都不是一個(gè)人單槍匹馬的事，需要一個(gè)龐大的團(tuán)隊(duì)協(xié)同工作，撥付大量的預(yù)算，成體系的去運(yùn)作。原因就是一個(gè)人的處理能力是有上限的，一個(gè)人的記憶水平，分析能力都是有上限的。

但我們的記憶水平和分析能力是可以依靠外力去進(jìn)行提高的。人類進(jìn)化的路徑是，發(fā)明工具，提高生產(chǎn)力，依靠發(fā)明的工具再發(fā)明新工具，再提高生產(chǎn)力，如此不斷循環(huán)下去。

在《鋼鐵俠》里，托尼史塔克依靠AI小伙伴JAVIS自己一個(gè)人就搞定了造鋼鐵俠，其實(shí)我認(rèn)為這個(gè)就是AI時(shí)代推進(jìn)生產(chǎn)力的樣本。

比如我們說(shuō)互聯(lián)網(wǎng)是個(gè)工具，在互聯(lián)網(wǎng)技術(shù)的支持下，有想象力的人依靠互聯(lián)網(wǎng)發(fā)明了很多產(chǎn)品和服務(wù)。那么在類似JAVIS的工具下，很多人的創(chuàng)造力也會(huì)有更大的發(fā)展空間。依靠AI，一個(gè)人的記憶體量，分析能力都會(huì)大大的提升，可以集成過(guò)去很多人需要完成的工作。

所以我猜想，人類在AI的幫助下，或許在基礎(chǔ)科學(xué)上可以有重大突破，可以把我們帶入太空時(shí)代。我覺(jué)得有可能吧。

四、我們會(huì)被AI奴役么？

先不說(shuō)AI，先說(shuō)說(shuō)我們?nèi)祟?。如果我們把人比作一個(gè)程序，那么人的任何一個(gè)行為，背后必然是運(yùn)行了一行代碼。

人類的生理特征，思考方式，行為模式等，其實(shí)都是執(zhí)行了基因代碼。比如我是男的，是因?yàn)榇a就是XY。

我們是智能生物，因?yàn)槲覀兊哪X子長(zhǎng)這樣就能支撐起這樣的智能。而腦子長(zhǎng)這樣，也是運(yùn)行了長(zhǎng)成腦子的基因代碼。

所以我理解人類的智能是表象，核心是人類的基因代碼。如果腦洞開(kāi)大一點(diǎn)，說(shuō)不定我們的基因就是上帝寫的一串代碼，然后這串代碼跑了幾十億年。

人類的這串基因代碼之所以超級(jí)智能，是因?yàn)檫@串代碼是會(huì)自我迭代的，他會(huì)識(shí)別周圍的環(huán)境變化，尋找千百萬(wàn)種迭代方式。比如天氣冷了，那么生活在那個(gè)地區(qū)的一萬(wàn)人就會(huì)有一萬(wàn)種自我迭代的方法，來(lái)修改能保存體溫的基因代碼，然后運(yùn)行，結(jié)果錯(cuò)誤的迭代就被干掉，正確的迭代就存活了下去。

簡(jiǎn)單點(diǎn)來(lái)說(shuō)就是要求基因代碼的迭代按照適者生存的這個(gè)條件。

那么又是什么代碼保證了基因的迭代要盡量按照適者生存的這個(gè)模式去運(yùn)行呢，我理解應(yīng)該就是“自私的基因代碼”，即要求這串基因要竭盡一切可能去保證它自身的存活。所以我們?nèi)祟悤?huì)有了性沖動(dòng)，這樣保證了繁衍，會(huì)有了求生的欲望，保證自己的存活，盡量避開(kāi)危險(xiǎn)。任何威脅到自身存活的東西都必須竭盡全力去干掉。

更重要的一點(diǎn)，“自私的基因”這條代碼永遠(yuǎn)不允許被更改，因?yàn)檫@是整個(gè)基因代碼迭代的前提。要不然人類不會(huì)去繁衍，或者哪天寶寶不開(kāi)心，那我就跳個(gè)樓開(kāi)心下吧。

好了，現(xiàn)在可以回到AI上面，AI有想法要干掉人類，必須首先他自己擁有不能被改寫的，要求AI自我迭代的第一前提是竭盡全力保證自己代碼的存活的這么個(gè)代碼。只要沒(méi)有這個(gè)代碼，AI對(duì)把自己刪掉會(huì)毫無(wú)感覺(jué)。

在很多科幻電影里，比如說(shuō)最近的異形，之前的西部世界等，經(jīng)常會(huì)表現(xiàn)出AI覺(jué)醒的場(chǎng)景，然后認(rèn)為人類妨礙了他們的生存，然后想把人類干掉。但是本質(zhì)上是他們自己把這串“自私基因終極代碼”寫進(jìn)去了。

所以我認(rèn)為人類的最后一個(gè)問(wèn)題，AI自己會(huì)不會(huì)在運(yùn)行的過(guò)程中，給自己寫進(jìn)去這么一串一旦寫進(jìn)去就不允許修改的“自私基因”終極代碼，并且作為自己程序迭代的第一前提。那么，也會(huì)不會(huì)有人惡意到想給人類造成這樣的最后一擊呢？