您的反饋 必有回響

霍金：人工智能未來將發(fā)展出自己的意志

導(dǎo)語：最近幾年，霍金針對(duì)人工智能發(fā)表了一系列令人頗感恐慌的警告。

據(jù)外媒報(bào)道，雖然史蒂芬·霍金（Stephen Hawking）一直以來都在警告人工智能蘊(yùn)含的各種危險(xiǎn)，但他最近卻出人意料地出席了一個(gè)人工智能研究中心的成立儀式，并且發(fā)表了演講。

每當(dāng)霍金發(fā)話，人們總會(huì)側(cè)耳傾聽。

最近幾年，霍金針對(duì)人工智能發(fā)表了一系列令人頗感恐慌的警告。他在2014年接受BBC采訪時(shí)說：“人工智能的全面發(fā)展將宣告人類的滅亡?！闭蛉绱耍?dāng)這位全球最著名的科學(xué)家祝賀一個(gè)新的人工智能研究中心的成立時(shí)，全世界都頗感意外。

霍金在劍橋大學(xué)利弗休姆未來智能研究中心（Leverhulme Centre for the Future of Intelligence，以下簡稱“CFI”）的成立儀式上發(fā)表了演講。雖然他緩和了對(duì)人工智能的態(tài)度，但并沒有改變基本觀點(diǎn)。

“對(duì)人類而言，強(qiáng)大的人工智能技術(shù)的崛起可謂‘不成功，則成仁’。”他說，“但究竟是‘成功’還是‘成仁’，目前還不清楚?！?/p>

霍金之的態(tài)度所以稍微有所緩和，可能是源自這個(gè)研究中心的使命。CFI的工作并不是開發(fā)人工智能技術(shù)，而是評(píng)估人工智能對(duì)人類文明產(chǎn)生的影響，從而對(duì)由此產(chǎn)生的好處和威脅提前做出應(yīng)對(duì)，并就相應(yīng)的公共政策提出建議。

CFI獲得了利弗休姆信托基金1000萬英鎊的撥款，這家機(jī)構(gòu)為全英國的眾多研究項(xiàng)目提供資金。CFI匯聚了全球4所頂尖高校的力量，包括劍橋大學(xué)、牛津大學(xué)、加州大學(xué)伯克利分校和倫敦帝國理工學(xué)院，他們計(jì)劃建設(shè)一個(gè)國際化的跨學(xué)科研究團(tuán)隊(duì)。CFI還將與政府和產(chǎn)業(yè)界展開合作，就具體問題制定相應(yīng)的計(jì)劃——例如，針對(duì)自動(dòng)化武器制定監(jiān)管政策。

根據(jù)劍橋大學(xué)發(fā)布的官方新聞稿，該研究中心在第一個(gè)“3年計(jì)劃”內(nèi)將著眼于7大項(xiàng)目，最初一批項(xiàng)目包括：

——智能的科學(xué)、價(jià)值和未來

——政策與負(fù)責(zé)任的創(chuàng)新

——探究自動(dòng)化武器的監(jiān)管政策

——信任與透明

學(xué)術(shù)界似乎都在為人工智能的進(jìn)步做好準(zhǔn)備，而政府也在積極籌備相關(guān)工作。例如，美國白宮就在10月12日發(fā)布了長達(dá)60頁的相關(guān)報(bào)告

除了CFI之外，最近還誕生了另外幾個(gè)以人工智能為主要研究方向的智庫。例如，美國馬薩諸塞州的未來生活研究所（Future of Life Institute）和牛津大學(xué)的人類未來研究所（ Future of Humanity Institute）。

特斯拉創(chuàng)始人伊隆·馬斯克（Elon Musk）的OpenAI組織雖然明確以人工智能技術(shù)為開發(fā)方向，但對(duì)人類文明本身也懷有更大的擔(dān)憂。該機(jī)構(gòu)的網(wǎng)站寫道：“我們的使命是開發(fā)安全的人工智能技術(shù)，確保人們可以盡可能廣泛而平均地受益于此?！?/p>

即便單純從公關(guān)角度來看，霍金對(duì)這座新研究中心的背書也非常重要。作為全球最著名的科學(xué)家，霍金擁有無與倫比的影響力。

以下為霍金當(dāng)天的演講全文：

很高興今天能夠參加這座新的研究中心的成立儀式。我們花了很多時(shí)間研究歷史，但不得不承認(rèn)，人類的歷史多半是一部愚蠢史。所以很高興人們轉(zhuǎn)而把研究方向轉(zhuǎn)向了智能的未來。

智能是人類之所以成為人類的關(guān)鍵因素。人類文明的一切成就都是人類智能的產(chǎn)物：從學(xué)習(xí)取火和種植食物到理解宇宙，無一例外。

我相信，生物大腦與電腦所能達(dá)到的成就并沒有本質(zhì)的差異。因此，從理論上講，電腦可以模擬人類智能，甚至可以超越人類。

人工智能研究目前的進(jìn)展很快。從無人駕駛汽車到電腦在圍棋中戰(zhàn)勝人類頂尖選手，這一系列標(biāo)志性事件都預(yù)示著未來的走向。海量資金正在涌入這一領(lǐng)域，與今后幾十年的進(jìn)步相比，如今的成就必然相形見絀。

人工智能的潛在利益十分巨大。當(dāng)我們本身的思維都要靠人工智能來擴(kuò)充時(shí)，我們就無法預(yù)測(cè)未來的成就。憑借著這場(chǎng)新的科技革命帶來的工具，我們或許能夠挽回上一場(chǎng)工業(yè)化革命給自然界帶來的破壞。我們也希望最終消除疾病和貧困。我們生活的方方面面都將改變。簡而言之，成功創(chuàng)造人工智能將成為人類文明史上最重大的事件。

然而，這也有可能成為最后一個(gè)重大事件——除非我們學(xué)會(huì)如何規(guī)避風(fēng)險(xiǎn)。除了各種好處外，人工智能還將帶來危險(xiǎn)，包括強(qiáng)大的自動(dòng)化武器，或者幫助少數(shù)人欺壓普通大眾的方法。這將對(duì)我們的經(jīng)濟(jì)造成巨大破壞。人工智能未來還將發(fā)展出自己的意志——這種意志將與人類的意志產(chǎn)生沖突。

簡而言之，對(duì)人類而言，強(qiáng)大的人工智能技術(shù)的崛起可謂“不成功，則成仁”，但究竟是“成功”還是“成仁”，目前還不清楚。正因如此，我與其他幾個(gè)人在2014年呼吁對(duì)這一領(lǐng)域展開更多研究。我很高興有人聽從了我的建議！

這個(gè)中心所開展的研究對(duì)于我們的文明和我們這個(gè)物種的未來至關(guān)重要。我真心祝福你們！