2015年第一個星期天的下午，埃隆·馬斯克（Elon Musk）在波多黎各的一個度假勝地參加了一場有關(guān)“智力爆炸”（intelligence explosion）的閉門會議。 這個略顯嚇人的理論詞匯描述的是人工智能在認(rèn)知能力上不受控制的飛躍，埃隆·馬斯克和物理學(xué)家斯蒂芬·霍金擔(dān)憂，有朝一日這將給整個人類帶來滅頂之災(zāi)。這是一次有關(guān)人工智能倫理的會議，長期以來，這一領(lǐng)域的專家、學(xué)者都不怎么引人注目。

　　會議的主題是“人工智能的未來：機(jī)遇與挑戰(zhàn)”，顯得十分樂觀。牛津大學(xué)人工智能倫理學(xué)家尼可·博斯特倫（Nick Bostrom）與商業(yè)巨頭，如Skype的創(chuàng)始人揚·塔里安（Jaan Tallinn）、谷歌公司人工智能專家謝恩·列格（Shane Legg）都參與了這次會議。

　　埃隆·馬斯克和霍金擔(dān)憂“人工智能天啟”的到來，但目前還存在著更加迫在眉睫的威脅。在過去五年中，人工智能——特別是被稱為“深層神經(jīng)網(wǎng)絡(luò)”的人工智能算法分支——的快速發(fā)展使人工智能主導(dǎo)的產(chǎn)品在我們的生活中越來越占據(jù)著中心和前沿的地位。谷歌、Facebook、微軟和百度等公司，都在以前所未有的速度尋找人工智能研究者，投入數(shù)以億計的美元，試圖開發(fā)出更好的算法和更聰明的計算機(jī)。

　　幾年之前人們認(rèn)為似乎無法解決的人工智能難題如今逐漸被攻克，推動了安卓系統(tǒng)的語音識別，使Skype能像《星際迷航》里那樣進(jìn)行即時的翻譯；谷歌公司正在研制自動駕駛汽車，以及可以自動學(xué)習(xí)如何分辨貓類視頻的計算機(jī)系統(tǒng)；機(jī)器大狗如今的行走能力也越來越接近現(xiàn)實中的狗了。

　　“計算機(jī)視覺已經(jīng)開始應(yīng)用；語音識別也開始了應(yīng)用，人工智能系統(tǒng)有相當(dāng)快的發(fā)展速度，”參與會議的人工智能倫理學(xué)家、康奈爾大學(xué)教授巴特·塞爾曼（Bart Selman）說，“這使得這一議題變得更加緊迫?！?/p>

　　鑒于如此快速的發(fā)展，埃隆·馬斯克和其他許多人開始向人工智能產(chǎn)品的開發(fā)者發(fā)出呼吁：要考慮開發(fā)過程中的倫理問題。在這次波多黎各的會議上，代表們簽署了一封公開信，承諾進(jìn)行目的健康、積極的人工智能研究，避免誤入歧途。埃隆·馬斯克也在公開信上簽了名，“所有這些最優(yōu)秀的前沿研究者都認(rèn)為人工智能的安全問題非常重要，”他說，“我同意他們的意見?！?/p>

　　谷歌公司的雄心

　　九位來自DeepMind公司的研究者也在公開信上簽了字。DeepMind是一家人工智能公司，去年被谷歌收購。這個故事要從2011年開始講起。當(dāng)時，德米斯·哈薩比斯（Demis Hassabis）在一次人工智能會議上做了演講，之后認(rèn)識了主動前來自我介紹的揚·塔里安。哈薩比斯剛剛創(chuàng)立了DeepMind，而塔里安在創(chuàng)立Skype之后，逐漸成了一個人工智能安全問題的“布道者”，正在尋找一位志同道合的人。兩個人開始談?wù)撈鹑斯ぶ悄?，塔里安很快就投資了DeepMind。去年，谷歌公司花了4億美元收購了這家僅有50人的公司，一舉擁有了世界上最大的深度學(xué)習(xí)領(lǐng)域人才和專利庫。不過，谷歌還是顯得十分低調(diào)，甚至不讓哈薩比斯接受采訪。DeepMind正在進(jìn)行的研究包括對周圍環(huán)境具有更好感知能力的智能機(jī)器人和自動駕駛汽車。

　　不過，這些研究卻讓揚·塔里安有點擔(dān)心。他在此次波多黎各的會議上做了個演講，回憶起哈薩比斯在一個午餐會上向他展示自己所開發(fā)的機(jī)器學(xué)習(xí)系統(tǒng)，該機(jī)器能玩20世紀(jì)80年代流行的街機(jī)游戲《Breakout》。事實上，它不僅會玩，而且非常精通，高效而無情，令塔里安感到震驚?！氨M管作為技術(shù)人員的我對這一成就感到驚奇，但另一方面的我想到，我正在見證一個開啟人工智能災(zāi)難的玩具模型。一次突然的展示，讓我看到了意想不到的智能潛力?！彼锇不貞浀?。

　　在1975年的阿希洛馬會議（Asilomar Conference）上，分子生物學(xué)家們就重組DNA的道德底線問題進(jìn)行了討論，最終在安全標(biāo)準(zhǔn)上取得了共識，簽名保證不讓人工基因改造的生物對公眾造成威脅。相比波多黎各的這次人工智能會議，阿希洛馬會議的結(jié)果顯然更加具體。

　　在波多黎各的這次會議上，參會者的公開信概述了人工智能的研究重點，如人工智能的經(jīng)濟(jì)和法律效應(yīng)，以及人工智能系統(tǒng)的安全性。近日，埃隆·馬斯克斥資一千萬美元用于支持這項研究。這些都是防止機(jī)器人破壞世界經(jīng)濟(jì)，或防止它們向人類大開殺戒的重要一步。一些公司已經(jīng)走得更遠(yuǎn)。去年，加拿大機(jī)器人公司Clearpath Robotics承諾不研制用于軍事的自主機(jī)器人。該公司首席技術(shù)官瑞恩·加里皮（Ryan Gariepy）在公司網(wǎng)頁上寫道：“致反對殺人機(jī)器人的人們：我們支持你?！?/p>