在這次波多黎各的會(huì)議上，代表們簽署了一封公開(kāi)信，承諾進(jìn)行目的健康、積極的人工智能研究，避免誤入歧途。埃隆·馬斯克也在公開(kāi)信上簽了名，“所有這些最優(yōu)秀的前沿研究者都認(rèn)為人工智能的安全問(wèn)題非常重要，”他說(shuō)，“我同意他們的意見(jiàn)?！?/div>

    2015年第一個(gè)星期天的下午，埃隆·馬斯克（Elon Musk）在波多黎各的一個(gè)度假勝地參加了一場(chǎng)有關(guān)“智力爆炸”（intelligence explosion）的閉門會(huì)議。 這個(gè)略顯嚇人的理論詞匯描述的是人工智能在認(rèn)知能力上不受控制的飛躍，埃隆·馬斯克和物理學(xué)家斯蒂芬·霍金擔(dān)憂，有朝一日這將給整個(gè)人類帶來(lái)滅頂之災(zāi)。這是一次有關(guān)人工智能倫理的會(huì)議，長(zhǎng)期以來(lái)，這一領(lǐng)域的專家、學(xué)者都不怎么引人注目。

　　會(huì)議的主題是“人工智能的未來(lái)：機(jī)遇與挑戰(zhàn)”，顯得十分樂(lè)觀。牛津大學(xué)人工智能倫理學(xué)家尼可·博斯特倫（Nick Bostrom）與商業(yè)巨頭，如Skype的創(chuàng)始人揚(yáng)·塔里安（Jaan Tallinn）、谷歌公司人工智能專家謝恩·列格（Shane Legg）都參與了這次會(huì)議。

　　埃隆·馬斯克和霍金擔(dān)憂“人工智能天啟”的到來(lái)，但目前還存在著更加迫在眉睫的威脅。在過(guò)去五年中，人工智能——特別是被稱為“深層神經(jīng)網(wǎng)絡(luò)”的人工智能算法分支——的快速發(fā)展使人工智能主導(dǎo)的產(chǎn)品在我們的生活中越來(lái)越占據(jù)著中心和前沿的地位。谷歌、Facebook、微軟和百度等公司，都在以前所未有的速度尋找人工智能研究者，投入數(shù)以億計(jì)的美元，試圖開(kāi)發(fā)出更好的算法和更聰明的計(jì)算機(jī)。

　　幾年之前人們認(rèn)為似乎無(wú)法解決的人工智能難題如今逐漸被攻克，推動(dòng)了安卓系統(tǒng)的語(yǔ)音識(shí)別，使Skype能像《星際迷航》里那樣進(jìn)行即時(shí)的翻譯；谷歌公司正在研制自動(dòng)駕駛汽車，以及可以自動(dòng)學(xué)習(xí)如何分辨貓類視頻的計(jì)算機(jī)系統(tǒng)；機(jī)器大狗如今的行走能力也越來(lái)越接近現(xiàn)實(shí)中的狗了。

　　“計(jì)算機(jī)視覺(jué)已經(jīng)開(kāi)始應(yīng)用；語(yǔ)音識(shí)別也開(kāi)始了應(yīng)用，人工智能系統(tǒng)有相當(dāng)快的發(fā)展速度，”參與會(huì)議的人工智能倫理學(xué)家、康奈爾大學(xué)教授巴特·塞爾曼（Bart Selman）說(shuō)，“這使得這一議題變得更加緊迫?！?/p>

　　鑒于如此快速的發(fā)展，埃隆·馬斯克和其他許多人開(kāi)始向人工智能產(chǎn)品的開(kāi)發(fā)者發(fā)出呼吁：要考慮開(kāi)發(fā)過(guò)程中的倫理問(wèn)題。在這次波多黎各的會(huì)議上，代表們簽署了一封公開(kāi)信，承諾進(jìn)行目的健康、積極的人工智能研究，避免誤入歧途。埃隆·馬斯克也在公開(kāi)信上簽了名，“所有這些最優(yōu)秀的前沿研究者都認(rèn)為人工智能的安全問(wèn)題非常重要，”他說(shuō)，“我同意他們的意見(jiàn)?！?/p>

　　谷歌公司的雄心

　　九位來(lái)自DeepMind公司的研究者也在公開(kāi)信上簽了字。DeepMind是一家人工智能公司，去年被谷歌收購(gòu)。這個(gè)故事要從2011年開(kāi)始講起。當(dāng)時(shí)，德米斯·哈薩比斯（Demis Hassabis）在一次人工智能會(huì)議上做了演講，之后認(rèn)識(shí)了主動(dòng)前來(lái)自我介紹的揚(yáng)·塔里安。哈薩比斯剛剛創(chuàng)立了DeepMind，而塔里安在創(chuàng)立Skype之后，逐漸成了一個(gè)人工智能安全問(wèn)題的“布道者”，正在尋找一位志同道合的人。兩個(gè)人開(kāi)始談?wù)撈鹑斯ぶ悄埽锇埠芸炀屯顿Y了DeepMind。去年，谷歌公司花了4億美元收購(gòu)了這家僅有50人的公司，一舉擁有了世界上最大的深度學(xué)習(xí)領(lǐng)域人才和專利庫(kù)。不過(guò)，谷歌還是顯得十分低調(diào)，甚至不讓哈薩比斯接受采訪。DeepMind正在進(jìn)行的研究包括對(duì)周圍環(huán)境具有更好感知能力的智能機(jī)器人和自動(dòng)駕駛汽車。

　　不過(guò)，這些研究卻讓揚(yáng)·塔里安有點(diǎn)擔(dān)心。他在此次波多黎各的會(huì)議上做了個(gè)演講，回憶起哈薩比斯在一個(gè)午餐會(huì)上向他展示自己所開(kāi)發(fā)的機(jī)器學(xué)習(xí)系統(tǒng)，該機(jī)器能玩20世紀(jì)80年代流行的街機(jī)游戲《Breakout》。事實(shí)上，它不僅會(huì)玩，而且非常精通，高效而無(wú)情，令塔里安感到震驚。“盡管作為技術(shù)人員的我對(duì)這一成就感到驚奇，但另一方面的我想到，我正在見(jiàn)證一個(gè)開(kāi)啟人工智能災(zāi)難的玩具模型。一次突然的展示，讓我看到了意想不到的智能潛力。”塔里安回憶道。

　　在1975年的阿希洛馬會(huì)議（Asilomar Conference）上，分子生物學(xué)家們就重組DNA的道德底線問(wèn)題進(jìn)行了討論，最終在安全標(biāo)準(zhǔn)上取得了共識(shí)，簽名保證不讓人工基因改造的生物對(duì)公眾造成威脅。相比波多黎各的這次人工智能會(huì)議，阿希洛馬會(huì)議的結(jié)果顯然更加具體。

　　在波多黎各的這次會(huì)議上，參會(huì)者的公開(kāi)信概述了人工智能的研究重點(diǎn)，如人工智能的經(jīng)濟(jì)和法律效應(yīng)，以及人工智能系統(tǒng)的安全性。近日，埃隆·馬斯克斥資一千萬(wàn)美元用于支持這項(xiàng)研究。這些都是防止機(jī)器人破壞世界經(jīng)濟(jì)，或防止它們向人類大開(kāi)殺戒的重要一步。一些公司已經(jīng)走得更遠(yuǎn)。去年，加拿大機(jī)器人公司Clearpath Robotics承諾不研制用于軍事的自主機(jī)器人。該公司首席技術(shù)官瑞恩·加里皮（Ryan Gariepy）在公司網(wǎng)頁(yè)上寫(xiě)道：“致反對(duì)殺人機(jī)器人的人們：我們支持你?！?/p>