承諾不開發(fā)“終結(jié)者”僅僅是開始。像谷歌這樣的人工智能公司必須考慮他們的產(chǎn)品,如自動駕駛汽車的安全性和法律責(zé)任問題。無論機器人是否會使人類失去工作,人工智能算法所導(dǎo)致的意想不到的后果,對人類來說都顯得不是很公平。舉例來說,亞馬遜公司在不同社區(qū)出售商品的價格不同,這是否符合倫理?有沒有什么安全措施,來保障大宗商品市場不被某個交易算法破壞?在自動駕駛交通工具的時代,從事大巴司機這樣職業(yè)的人將何去何從?
Binatix是一家從事股票市場交易的深度學(xué)習(xí)公司,其創(chuàng)始人伊塔馬爾·阿雷爾(Itamar Arel)并沒有參加波多黎各的會議,但他在讀完公開信后馬上簽了名。對他來說,智能算法領(lǐng)域的革命,以及價格低廉的智能機器人需要被人們更好地理解?!笆菚r候要花更多精力去理解人工智能系統(tǒng)取代藍(lán)領(lǐng)工作所帶來的社會影響了,”他說,“這是肯定的,社會無法跟上人工智能系統(tǒng)發(fā)展的速率。這絕對是個問題?!?/p>
倫敦帝國學(xué)院的認(rèn)知機器人教授穆雷·沙納漢(Murray Shanahan)稱,對破壞性人工智能超級大腦的預(yù)測或許會登上頭版頭條,但在近幾年,這些更加枯燥、平淡的擔(dān)憂意見才是更應(yīng)該見諸媒體的。他說:“很難預(yù)測到底會發(fā)生什么,但我們能肯定,它們一定會對社會造成影響?!?/p>