專欄卷首語(yǔ)

Alpha Go和人類在棋盤上的對(duì)決已經(jīng)結(jié)束，科幻美劇《西部世界》第一季也已落幕。但人類對(duì)于未來(lái)和未知的探索不會(huì)改變。以太資本不僅希望陪伴那些具有創(chuàng)新精神、企圖改變未來(lái)的創(chuàng)業(yè)公司，更時(shí)刻關(guān)注可能對(duì)世界產(chǎn)生改變的技術(shù)。無(wú)線路由器一直顯示注冊(cè)狀態(tài)我們成立了人工智能專精小組來(lái)跟上這場(chǎng)革命。從今天開(kāi)始，每周會(huì)由我們的投資經(jīng)理為你精挑細(xì)選出人工智能領(lǐng)域的好文章，希望與你分享我們的視野，并希望和你一起向前。

《西部世界》第一季已經(jīng)結(jié)束。從第一集開(kāi)始，我就深深的意識(shí)到這是集合了3D打印、機(jī)器人、NLP（自然語(yǔ)言處理）、CV（計(jì)算機(jī)視覺(jué)）、人造皮膚等等高科技細(xì)分領(lǐng)域技術(shù)的神劇。其實(shí)現(xiàn)階段以上所有方面技術(shù)的終極形態(tài)也不過(guò)如此。但試想一下以下可能：未來(lái)機(jī)器對(duì)話能達(dá)到10層、20層、100層無(wú)線路由器一直顯示注冊(cè)狀態(tài)；當(dāng)CV數(shù)據(jù)積累到錯(cuò)誤率更低的時(shí)候；對(duì)于隨機(jī)事件的發(fā)生，其結(jié)果和影響結(jié)果所有因素都計(jì)算之時(shí)，真實(shí)的西部世界距離我們還會(huì)多遠(yuǎn)？最希望的還是這一天到來(lái)的時(shí)刻，真實(shí)的西部世界中，有中國(guó)AI領(lǐng)域創(chuàng)業(yè)者的產(chǎn)品在其中得到應(yīng)用。

——推薦人： 吳月忠

《西部世界》上周播出了第一季最終集，結(jié)局雖然褒貶不一，有人說(shuō)神劇，有人說(shuō)爛尾，但毫無(wú)疑問(wèn)非常震撼。本文前半部分來(lái)自 futureoflife，作者采訪了創(chuàng)造性 AI 和知覺(jué)研究的兩位專家，從「AI能否有意識(shí)」以及「有意識(shí)的AI是否危險(xiǎn)」的角度評(píng)論此劇。后半部分是《衛(wèi)報(bào)》的評(píng)論，從機(jī)器人設(shè)計(jì)的角度分析劇中出現(xiàn)的機(jī)器人。

這部由《盜夢(mèng)空間》導(dǎo)演克里斯托弗·諾蘭的親弟弟喬納森·諾蘭指導(dǎo)、電視劇界著名金主HBO投資拍攝的新劇從上映開(kāi)始就備受關(guān)注，IMDb總評(píng)分高達(dá)9.2。根據(jù)Deadline統(tǒng)計(jì)，本季最后一集收視人數(shù)高達(dá) 220 萬(wàn)。而各平臺(tái)上總觀眾數(shù)估計(jì)達(dá)到了 1200 萬(wàn)（僅限美國(guó)）。收視率甚至超過(guò)了《權(quán)利的游戲》。

「這些殘暴的歡愉，終將以殘暴結(jié)局。」——莎士比亞

HBO 播出的《西部世界》引起了大眾對(duì)「強(qiáng)人工智能」的關(guān)注。如果你還沒(méi)有看過(guò)《西部世界》，簡(jiǎn)單介紹一下：《西部世界》（Westworld）的故事設(shè)定在未來(lái)世界，在一個(gè)龐大的高科技主題公園中，環(huán)境類似美國(guó)的西部荒原。游客花費(fèi)大量金錢來(lái)到這個(gè)主題公園，在那里，擬人的機(jī)器人「接待員」能讓游客享盡情欲、暴力等欲望的放縱。游客可以殺死機(jī)器人，每次機(jī)器人「死亡」后，它的身體會(huì)被清洗，內(nèi)存被擦除，然后再開(kāi)始一個(gè)新的腳本。

這部劇上周末播出了第一季的最終集，毫無(wú)疑問(wèn)結(jié)局是個(gè)大爆炸，但不用擔(dān)心，本文沒(méi)有劇透。

－只有一行代碼確保機(jī)器人不會(huì)傷害人類－

《西部世界》劇集改編自美國(guó)科幻小說(shuō)家、編劇邁克爾·克萊頓（Michael Crichton）的同名電影，克萊頓也是《侏羅紀(jì)公園》的編劇，他為該劇創(chuàng)作的故事線不禁讓觀眾懷疑，在科學(xué)不斷發(fā)展的未來(lái)，人類是否還能維持對(duì)世界的掌控？

原始版本電影中機(jī)器人是邪惡的，但在改編的劇集中，機(jī)器人被描繪成具有同情心，甚至可以說(shuō)是最人性化的角色。

對(duì)公園的安全問(wèn)題的擔(dān)憂很快就浮現(xiàn)出來(lái)。公園由一個(gè)人監(jiān)督，他可以對(duì)機(jī)器人進(jìn)行任何他想要的程序更新，而不需要經(jīng)過(guò)其他人的試運(yùn)行或安全檢查。機(jī)器人會(huì)記錄下他們被虐待的痕跡。其中一個(gè)角色提到，程序中只有一行代碼確保機(jī)器人不會(huì)傷害人類。

這些只是該劇涉及到的許多問(wèn)題中的一部分，它觸及到當(dāng)前對(duì) 真正的 AI 安全擔(dān)憂：僅僅使用一個(gè)高級(jí) AI 的「邪惡智能體」就能故意對(duì)人類造成傷害；軟件里發(fā)生的小故障也可能引起致命事故；而且代碼中也缺少冗余性和魯棒性來(lái)確保人類的安全。

但該劇出現(xiàn)的許多安全和倫理方面的問(wèn)題都取決于機(jī)器人是否有自主意識(shí)。實(shí)際上，該劇主要探討的問(wèn)題，也是最難的問(wèn)題是：什么是意識(shí)？人類能否創(chuàng)造出有自主意識(shí)的智能體？如果能，我們能控制它們嗎？我們想找到答案嗎？

為了解決這些問(wèn)題，我采訪了喬治亞理工學(xué)院的 AI 研究員 Mark Riedl，他的研究方向是創(chuàng)造性 AI，以及提出著名的「知覺(jué)難題」（hard problem of consciousness）的紐約大學(xué)David Chalmers 教授。

－AI 能夠感受疼痛嗎？－

我先向 Riedl 提問(wèn)，假如機(jī)器人被編程能夠有痛覺(jué)，機(jī)器人能感受到多大程度的疼痛？Riedl 說(shuō)：「首先，我不能容許對(duì)人類、動(dòng)物，或者擬人化的機(jī)器人以及 AI 施行暴力?！谷缓笏忉屨f(shuō)，人類和動(dòng)物的疼痛感受是一種「避免特定的刺激」的警告信號(hào)。

然而，對(duì)機(jī)器人來(lái)說(shuō)，「最類似的可能是強(qiáng)化學(xué)習(xí)智能體，它們進(jìn)行反復(fù)的試錯(cuò)學(xué)習(xí)。」根據(jù)它們特定的行為，AI 會(huì)得到積極或消極的獎(jiǎng)勵(lì)，并且會(huì)相應(yīng)地調(diào)整其未來(lái)的行為。Riedl 認(rèn)為消極的獎(jiǎng)勵(lì)并不像「疼痛感覺(jué)」，而更像「在電子游戲中失分」。

Riedl 說(shuō)：「機(jī)器人和 AI 可以被編程，實(shí)現(xiàn)以類似人類的方式來(lái)表達(dá)疼痛，但這其實(shí)是錯(cuò)覺(jué)。造成這種錯(cuò)覺(jué)的原因之一是：機(jī)器人以一種可以理解的方式，將其內(nèi)在狀態(tài)傳達(dá)給人類，并且引起人類的同情。」

Riedl 不擔(dān)心 AI 會(huì)感覺(jué)到真正的痛苦，假如機(jī)器人的記憶每天晚上都會(huì)被完全刪除，他認(rèn)為那就像是什么也沒(méi)發(fā)生過(guò)。但他也認(rèn)為這其中存在可能的安全問(wèn)題。為了讓強(qiáng)化學(xué)習(xí)起效，AI 需要為積極的獎(jiǎng)勵(lì)進(jìn)行優(yōu)化。如果機(jī)器人的內(nèi)存沒(méi)有被完全刪除——如果機(jī)器人開(kāi)始記住在它身上發(fā)生的壞事，那么它可能會(huì)試圖避開(kāi)觸發(fā)這些消極獎(jiǎng)勵(lì)的行為或人類。

Riedl 說(shuō)，從理論上說(shuō)，這些智能體能夠?qū)W會(huì)提前計(jì)劃，盡可能以最低的成本減少消極獎(jiǎng)勵(lì)的可能性。如果機(jī)器人不理解其避開(kāi)消極獎(jiǎng)勵(lì)的行為可能帶來(lái)的其他影響，這也意味著它們?cè)谔崆安扇⌒袆?dòng)阻止人類傷害它們。

但 Riedl 也指出，在可預(yù)見(jiàn)的未來(lái)，我們還沒(méi)法造出擁有這些能力的，需要引起人類擔(dān)憂的機(jī)器人。但假設(shè)這樣的機(jī)器人出現(xiàn)了，消極獎(jiǎng)勵(lì)帶來(lái)的問(wèn)題可能對(duì)人類來(lái)說(shuō)是潛在的威脅。

－AI 能有自主意識(shí)嗎？－

Chalmers 的看法則有點(diǎn)不同。Chalmers 說(shuō)：「我對(duì)意識(shí)的看法，也是大多數(shù)人對(duì)意識(shí)的看法——這些人無(wú)疑是有自主意識(shí)的。他們有相當(dāng)豐富的情感體驗(yàn)，表現(xiàn)為可以感覺(jué)疼痛，思考問(wèn)題，等等。他們不僅被動(dòng)地對(duì)命令進(jìn)行反應(yīng)，還會(huì)思考自身的狀態(tài)。他們?cè)谕评怼：茱@然，人是有感情的?！?/p>

Chalmers 認(rèn)為，不用試圖找出什么能讓機(jī)器人擁有意識(shí)，而應(yīng)該思考機(jī)器人缺乏什么。最明顯的是，它們?nèi)狈ψ杂梢庵竞陀洃浟?。但是，我們?nèi)祟愔幸灿泻芏嗳松钤跓o(wú)法打破的慣例中，也有許多人有嚴(yán)重的記憶問(wèn)題，但沒(méi)人會(huì)認(rèn)為應(yīng)該消滅掉這些人。

Chalmers 反問(wèn)道：「在這部劇中，這些機(jī)器人被認(rèn)為可以隨意虐待，難道是因?yàn)檫@些機(jī)器人有缺陷，或者別的什么原因嗎？」

《西部世界》中描繪的場(chǎng)景是不現(xiàn)實(shí)的，因?yàn)?Chalmers 認(rèn)為二分心智理論（Bicameral-mind theory）不可能帶來(lái)意識(shí)，哪怕對(duì)機(jī)器人來(lái)說(shuō)也是如此。他說(shuō)，「我認(rèn)為作為一種理論它是無(wú)望的。機(jī)器人的意識(shí)，或者說(shuō)機(jī)器人的自主意識(shí)，要比預(yù)編程的復(fù)雜得多。而編程讓機(jī)器人直接監(jiān)控它們自己的想法則要簡(jiǎn)單得多?！?/p>

任何情況下，虐待機(jī)器人都很容易對(duì)人類的安全造成威脅。我們冒險(xiǎn)去創(chuàng)造沒(méi)有自主意識(shí)的機(jī)器人，它們從消極反饋中吸取經(jīng)驗(yàn)教訓(xùn)；或者我們無(wú)意中（或者比如在西部世界的情況下，是有意地）創(chuàng)造了有意識(shí)的機(jī)器人，最終將面對(duì)機(jī)器人的虐待和壓迫。

在該劇第二集中，一個(gè)機(jī)器人「接待員」被問(wèn)及她是否「真實(shí)」，她回答說(shuō)：「如果你分辨不出來(lái)，真實(shí)還是不真實(shí)，重要嗎？」

－云端的大腦：《西部世界》中的機(jī)器人設(shè)計(jì)都很糟糕嗎？－

《西部世界》有多條時(shí)間線，不過(guò)故事的「當(dāng)前」時(shí)間線應(yīng)該是21世紀(jì)中期至后期，那時(shí)公園已經(jīng)存在約35年。也就是說(shuō)，西部世界主題公園出現(xiàn)在「近未來(lái)」，這意味著最早的「接待員」機(jī)器人（設(shè)計(jì)上比后面的版本更顯機(jī)械性）是使用與我們現(xiàn)在的技術(shù)相差不遠(yuǎn)的技術(shù)造出的。

臺(tái)式機(jī)處理器在黃金時(shí)期每年以指數(shù)級(jí)的速度飛速增長(zhǎng)，在十多年前這個(gè)黃金時(shí)期結(jié)束。那樣的處理器對(duì)構(gòu)造人工智能來(lái)說(shuō)非常不便，所以人們結(jié)合使用了兩種策略。首先，建立大型服務(wù)器中心來(lái)收集并處理「大數(shù)據(jù)」，同時(shí)作為一種在線服務(wù)提供原始處理能力。第二，使用專門的顯卡芯片來(lái)處理大型數(shù)據(jù)，事實(shí)證明它們比通用的處理器性能更好。

在這期間，消費(fèi)者已經(jīng)從臺(tái)式機(jī)轉(zhuǎn)移到移動(dòng)設(shè)備或 laptop。這些設(shè)備需要依賴電池，而電池技術(shù)的升級(jí)并沒(méi)有像我們想要的那么快，所以芯片制造商們關(guān)注更多的是芯片的能源效率而非原始性能。顯然，節(jié)省能耗的另一種方法是減少在移動(dòng)設(shè)備上處理的任務(wù)，而把更多任務(wù)放到云上處理。這樣，移動(dòng)設(shè)備成了一個(gè)低功耗的接口，通過(guò)這個(gè)接口，我們可以訪問(wèn)及使用存儲(chǔ)于別的地方的數(shù)據(jù)和處理能力。

例如蘋果的 Siri，亞馬遜的 Echo 等智能助理，雖然它們似乎有物理實(shí)體，但它們的「大腦」在別處。我們通過(guò)便宜、可置換的設(shè)備與它們對(duì)話，而這些設(shè)備的作用只不過(guò)是繼電器。這些設(shè)備把接收到的指令通過(guò)互聯(lián)網(wǎng)傳遞給一個(gè)嗡嗡作響的黑盒子——世界各地的數(shù)據(jù)中心有成千上萬(wàn)這樣的黑盒子，并等待讀取回答。這很合理，所以為什么西部世界的接待員不能也使用這種方式？

　　圖：CERN的一個(gè)服務(wù)器中心。如果我們現(xiàn)在想造「接待員」，他們的「大腦」應(yīng)該是像這樣的。

設(shè)想你正在設(shè)計(jì)第一個(gè)「接待員」機(jī)器人。你有一些很明確的要求。我們已經(jīng)知道這些接待員會(huì)受到傷害。他們可以活動(dòng)很長(zhǎng)時(shí)間，而沒(méi)有明顯的充電方式。他們必須是安全的。假如他們偏離了腳本，需要有可控制的方法。他們需要進(jìn)行定期的質(zhì)量檢查。他們絕對(duì)不允許離開(kāi)公園，Delos 把這一點(diǎn)看得非常重要，接待員們體內(nèi)被認(rèn)為有基于感知位置的引爆物。

物理地給接待員安上「大腦」是毫無(wú)意義的。這會(huì)大大增加它們的能源消耗。物理上的傷害可以永久地改變角色，例如劇中 Clementine 被施行了額葉切除術(shù)。這會(huì)阻礙遠(yuǎn)程控制。管理人需要實(shí)際出現(xiàn)以進(jìn)行診斷，而接待員必須要人工地進(jìn)行訓(xùn)練。

然后是 Maeve 的故事線：她試圖離開(kāi)公園去往「大陸」（劇中一個(gè)場(chǎng)景可以看到她的編程中有這樣的代碼）。如果她的智能位于本地網(wǎng)絡(luò)的服務(wù)器中，那么這整個(gè)「離開(kāi)」的概念本身就不可能。當(dāng)她走出最后一個(gè)無(wú)線路由器的覆蓋范圍，她的身體馬上就會(huì)宕機(jī)。相比在機(jī)器人體內(nèi)安置炸藥，這似乎是更安全的解決方案。

在本地處理平衡、移動(dòng)等自動(dòng)控制功能可以理解，但是為什么要在接待員內(nèi)部進(jìn)行那么多的高級(jí)處理，而不是在通過(guò)網(wǎng)絡(luò)連接的服務(wù)器上進(jìn)行呢？我們知道這畢竟只是軟件，不是某種黑盒。如果可以在未來(lái)的iPad上編輯他們的性格，應(yīng)該也能夠在服務(wù)器上運(yùn)行他們。

我唯一能想到的技術(shù)原因是帶寬。接待員有雙眼視覺(jué)、立體聲聽(tīng)覺(jué)和觸覺(jué)。他們也有某種形式的本體感覺(jué)——一種對(duì)他們的身體部位的相對(duì)定位感覺(jué)。假如在同一個(gè)地方存儲(chǔ)、傳輸幾百個(gè)接待員的全部數(shù)據(jù)，可能會(huì)使無(wú)線網(wǎng)絡(luò)癱瘓。但是既然 Delos 有能力構(gòu)造有知覺(jué)的機(jī)器，他們應(yīng)該能造出更好的路由器。

有一個(gè)我喜歡稱之為「廢話哲學(xué)」的觀點(diǎn)。其中的關(guān)鍵詞是「具身認(rèn)知」（embodied cognition），即人類的智能需要與身體、感覺(jué)運(yùn)動(dòng)的技能以及環(huán)境緊密聯(lián)系，換句話說(shuō)，需要人的經(jīng)驗(yàn)。

這很有道理，但在這里關(guān)系不大，因?yàn)檫@樣的聯(lián)系不依賴于物理位置。假如你的大腦放置在 Luton 的一個(gè)倉(cāng)庫(kù)，它通過(guò)超快速的網(wǎng)絡(luò)連接和路由器讓你說(shuō)話，這種「人的經(jīng)驗(yàn)」也沒(méi)有實(shí)際的區(qū)別。除了你發(fā)現(xiàn)這個(gè)事實(shí)之后可能會(huì)覺(jué)得有點(diǎn)怪怪的。

也有另外兩種可能性。一個(gè)是「因?yàn)榍楣?jié)需要」，這沒(méi)什么好說(shuō)的。更有趣的一個(gè)是：接待員不滿足要求，因?yàn)樗麄儾幌霛M足這些要求。他們的創(chuàng)造者從一開(kāi)始就打算讓他們獲得知覺(jué)能力和自主意識(shí)。如果沒(méi)有自己的大腦，就不可能獨(dú)立，可能這種想法超越了其他的所有要求。

誰(shuí)知道呢？Jonathan Nolan 表示這部劇將在第二季探討更多接待員的功能?？纯此麄兊脑O(shè)計(jì)選擇是否有意義，這會(huì)很有趣。畢竟，將來(lái)某天我們可能想建一個(gè)真正的西部世界主題公園。

▲轉(zhuǎn)自新智元（ID：AI_era）

以太資本成立了AI專精小組

每周分享3-5篇深度的AI行業(yè)觀察

同時(shí)，我們也開(kāi)通了AI項(xiàng)目綠色BP通道

ytbp@ethercap.com

10位AI專精FA和50位AI領(lǐng)域投資人

隨時(shí)為您待命

　　吳月忠

　　以太資本 高級(jí)投資經(jīng)理

　　【教育背景】哈工大航天本科，UFL EE 碩士，4年硅谷芯片設(shè)計(jì)經(jīng)驗(yàn)

　　【成功案例】流深激光、Perfxlab、圖 靈工業(yè)機(jī)器人、慧靈智能科技等

　　【關(guān)注領(lǐng)域】AI，工業(yè)自動(dòng)化，機(jī)器人 汽車方面的硬科技類

　　【聯(lián)系方式】微信joewu-sd