埃隆•馬斯克(Elon Musk)曾說(shuō)，人類在人工智能(AI)領(lǐng)域取得的巨大進(jìn)步如同在“召喚惡魔”。小哥，惡魔可不會(huì)下圍棋。

人工智能公司DeepMind最近宣布，其已研發(fā)出了一種擅長(zhǎng)玩這種古老的中國(guó)棋盤游戲的算法。最牛的是，這款叫做AlphaGo Zero (AGZ)的算法完全是“自學(xué)成才”的。研究人員只給它輸入了下圍棋的規(guī)則，而沒有輸入任何人類知識(shí)和經(jīng)驗(yàn)。

該算法的前身AlphaGo使用人類棋手玩過的數(shù)千盤棋所積累起來(lái)的數(shù)據(jù)培訓(xùn)過。兩種算法對(duì)弈，結(jié)果AGZ以100比零取勝。這樣說(shuō)來(lái)，完全不借助人類智慧，AGZ自己就可以成為頂尖的棋藝高手。

雖說(shuō)DeepMind最有可能害得馬斯克噩夢(mèng)不斷，但在其他地方，機(jī)器自主方面的研究也取得了很大進(jìn)展。今年1月，卡耐基梅隆大學(xué)(Carnegie Mellon University)的研究人員公布了一種能夠打敗人類頂級(jí)撲克玩家的算法。在與頂級(jí)專業(yè)玩家進(jìn)行“單挑無(wú)限下注德州撲克”（一種極具挑戰(zhàn)性的牌類游戲）比賽時(shí)，這臺(tái)叫做Libratus的機(jī)器贏了將近200萬(wàn)美元籌碼。人類玩家稱，被一臺(tái)機(jī)器詐唬住真叫人“灰心喪氣”。同樣，Libratus也是通過發(fā)覺自身弱點(diǎn)并加以彌補(bǔ)來(lái)提高技藝，而不是借助于人類直觀知識(shí)。

AGZ和Libratus都只有“一技之長(zhǎng)”，但技術(shù)人員還渴望開發(fā)出具備多種能力的機(jī)器。例如，DeepMind就宣布，希望研發(fā)出“能夠自主地在多個(gè)最具挑戰(zhàn)性的領(lǐng)域?qū)崿F(xiàn)超越人類能力的算法”。一旦高速、深?yuàn)W的算法完全不受遲鈍、淺薄、令人失望的人類智慧的桎梏，它們可能開始處理我們這個(gè)平庸的物種從未面對(duì)過的問題。頂尖的科技思想家并不是在模擬人類智慧打造機(jī)器，而是每日鉆研如何讓人類智慧變得無(wú)關(guān)緊要。

假如未來(lái)有一天我們回首今日，我們可能會(huì)覺得AGZ和Libratus就像是人工智能邁向“奇點(diǎn)”(Singularity)過程中的蹣跚學(xué)步。奇點(diǎn)假說(shuō)引起了很多爭(zhēng)論，它是指人工智能發(fā)展成為超級(jí)智能、能夠在不依靠人類干預(yù)的情況下控制自己命運(yùn)的階段。最具有反烏托邦色彩的情景是人工智能威脅到人類生存。

假設(shè)超級(jí)智能機(jī)器為了實(shí)現(xiàn)被程序設(shè)定的目標(biāo)，計(jì)算出最佳做法是研制更加聰明的下一代機(jī)器。一個(gè)失控的循環(huán)由此形成，從而飛速地進(jìn)入怪誕的計(jì)算領(lǐng)域。

有一天，這些由目標(biāo)驅(qū)動(dòng)的生產(chǎn)力模范可能還會(huì)算出，在沒有威脅的情況下，它們可以通過消滅人類來(lái)最好地完成任務(wù)。有人就開過這樣的玩笑，要戰(zhàn)勝癌癥，最冷酷的合理方法就是消滅罹患癌癥的器官。全球饑荒和氣候變化也是類似情況。

這些都是“回形針?biāo)枷雽?shí)驗(yàn)”之類的想法，提出這個(gè)實(shí)驗(yàn)的哲學(xué)家尼克•博斯特羅姆(Nick Bostrom如今在牛津大學(xué)(Oxford University)人類未來(lái)研究所(Future of Humanity Institute)工作。如果不負(fù)有道德責(zé)任的超級(jí)智能機(jī)器被設(shè)定的唯一目標(biāo)是最大化地生產(chǎn)回形針，它最終可能霸占一切可用的原子來(lái)實(shí)現(xiàn)這一目標(biāo)。對(duì)人類來(lái)說(shuō)，肯定沒有哪種死亡比被做成辦公用品更悲慘。博斯特羅姆教授的警告清晰地表明了“能力謹(jǐn)慎性原則”(capability caution principle)，這條原則在機(jī)器人技術(shù)領(lǐng)域廣受認(rèn)同，即我們不一定能承受人工智能提高能力的后果。

擔(dān)心工作被取代是很實(shí)際的：包括本文作者在內(nèi)，我們很多人都是通過完成有限范圍的任務(wù)來(lái)獲得薪水。我們即將迎來(lái)自動(dòng)化。但只有傻瓜才會(huì)在想到更遙遠(yuǎn)的未來(lái)時(shí)無(wú)憂無(wú)慮——那時(shí)機(jī)器的智力可能會(huì)以我們現(xiàn)在想象不到的方式超越人類。

“中國(guó)•成都五金機(jī)電指數(shù)”:http://www.peitelai.com