新華社北京１月４日電 記者手記：當(dāng)只有“斷線”才能阻止人工智能

新華社記者黃堃

最近幾天，一個(gè)名為Ｍａｓｔｅｒ的神秘圍棋賬號(hào)在一些網(wǎng)站上橫掃人類(lèi)頂級(jí)棋手，先后擊敗了目前世界排名第一的柯潔、韓國(guó)目前第一人樸廷桓等多位世界冠軍頭銜擁有者。到４日下午，這個(gè)神秘賬號(hào)又擊敗了“棋圣”聶衛(wèi)平，目前已經(jīng)５５勝。

在一連串對(duì)局中，目前只有陳耀燁九段阻止了對(duì)手５２連勝，不過(guò)這是因?yàn)樗麆傁聨撞骄W(wǎng)絡(luò)就斷線了，系統(tǒng)最后判定這盤(pán)棋是和棋。

雖然Ｍａｓｔｅｒ的真實(shí)身份尚未披露，但許多專(zhuān)業(yè)人士認(rèn)定，沒(méi)有人能取得如此強(qiáng)大的戰(zhàn)績(jī)，除非它是一只“狗”——去年昵稱(chēng)“阿爾法狗”的人工智能程序ＡｌｐｈａＧｏ在“圍棋人機(jī)大戰(zhàn)”中戰(zhàn)勝頂尖棋手李世石后，“狗”已經(jīng)成為圍棋界對(duì)人工智能程序的代稱(chēng)。中國(guó)圍棋隊(duì)總教練俞斌說(shuō)，不排除Ｍａｓｔｅｒ就是“阿爾法狗”，也可能是新研發(fā)的圍棋人工智能程序。

不管是不是“阿爾法狗”，人類(lèi)已必須思考，人工智能會(huì)帶來(lái)什么影響。

首先，必須認(rèn)識(shí)到人工智能正在加速發(fā)展。就在十多年前，許多專(zhuān)家還認(rèn)為圍棋是“人類(lèi)智慧最后的堡壘”，人工智能再過(guò)一百年也不可能戰(zhàn)勝人類(lèi)頂尖圍棋手。而就在去年３月，“阿爾法狗”以４：１戰(zhàn)勝了曾多年占據(jù)世界排名第一位的李世石。當(dāng)時(shí)李世石還贏過(guò)一盤(pán)，而現(xiàn)在各路頂尖棋手在Ｍａｓｔｅｒ前已全無(wú)招架之力。

其次，應(yīng)該認(rèn)真評(píng)估人工智能帶來(lái)的機(jī)遇和挑戰(zhàn)。機(jī)遇很多，像日漸普及的自動(dòng)駕駛汽車(chē)，就是人工智能進(jìn)入我們生活的一大例證。當(dāng)然，自動(dòng)駕駛汽車(chē)出事故的消息也已見(jiàn)諸報(bào)端，潛在的購(gòu)買(mǎi)者仍需考慮風(fēng)險(xiǎn)。

真正的挑戰(zhàn)在于，人工智能在充分發(fā)展后是否會(huì)對(duì)整個(gè)人類(lèi)產(chǎn)生威脅？著名科學(xué)家霍金就曾提出過(guò)這方面的擔(dān)憂(yōu)。如果有朝一日人工智能掌握了各種重要基礎(chǔ)設(shè)施和武器系統(tǒng)，稍有不慎就可能讓人類(lèi)面臨風(fēng)險(xiǎn)。

那是不是要讓所有人工智能“斷線”阻止它們進(jìn)一步發(fā)展呢？現(xiàn)在倒還不必，因?yàn)槟壳暗娜斯ぶ悄苋杂性S多限制，以“阿爾法狗”為例，它首先需要海量樣本的訓(xùn)練，而人類(lèi)學(xué)習(xí)新事物時(shí)往往只需很少的樣本。其應(yīng)用范圍離“通用人工智能”還有很大距離，不像人類(lèi)，一個(gè)小學(xué)生就能學(xué)會(huì)下棋、繪畫(huà)等多種才藝。

就算將來(lái)的人工智能全面超越人類(lèi)的智商，我們也至少可以在其底層施加一些限制措施，比如著名科幻作家阿西莫夫提出的“機(jī)器人三定律”，第一條就是“機(jī)器人不得傷害人類(lèi)”。

關(guān)于人工智能，今年還有一大看點(diǎn)。開(kāi)發(fā)“阿爾法狗”的“深度思維”公司表示，下一個(gè)目標(biāo)是著名即時(shí)戰(zhàn)略游戲《星際爭(zhēng)霸》。與圍棋對(duì)弈中雙方都能看到所有棋子不同，這款游戲的玩家只能根據(jù)有限的視覺(jué)信息來(lái)猜測(cè)對(duì)方行動(dòng)，因此決策更加復(fù)雜，對(duì)人工智能的挑戰(zhàn)也更大。如果人工智能在這一游戲中戰(zhàn)勝人類(lèi)頂尖玩家，是否要“斷線”以阻止其前進(jìn)？這才是一個(gè)考驗(yàn)。