Facebook關(guān)閉‘失控’人工智能系統(tǒng)，因其發(fā)展出人類無法理解的語言。
嚇?biāo)懒恕?/p>
事情是這樣的：據(jù)“外媒報(bào)道”，F(xiàn)acebook開發(fā)的聊天機(jī)器人創(chuàng)造了自己的語言。雖然語言還是英語，但人類無法理解。
文章來源是TechWeb的編譯組。“Facebook不得不拔掉其研究人員正在研究的人工智能系統(tǒng)的插頭，因?yàn)槭虑槭Э亓恕保琓echWeb寫道。
關(guān)于“人工智能是否邪惡”的話題，F(xiàn)acebook創(chuàng)始人扎克伯格上周還在跟特斯拉CEO馬斯克爭(zhēng)吵。馬斯克站正方，認(rèn)為人工智能非常值得擔(dān)憂，扎克伯格站反方，認(rèn)為人工智能很有益處，擔(dān)憂完全是過慮。
所以……小扎就這么快打臉了？曾在著名科幻電影《終結(jié)者》中出現(xiàn)過的“SkyNet”（天網(wǎng)），真的來臨了？
抱歉，這完全是在胡扯。我們來看看到底是怎么一回事。
Facebook的人工智能研究院（FAIR）想要訓(xùn)練一個(gè)聊天機(jī)器人，讓它學(xué)會(huì)談判。于是他們開發(fā)了一個(gè)人工智能系。為了幫助大家理解，我們一步一步解釋：
Facebook用了一個(gè)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來開發(fā)這個(gè)系統(tǒng)。這個(gè)結(jié)構(gòu)叫做“生成式對(duì)抗網(wǎng)絡(luò)”（Generative Adversarial Networks），以下簡(jiǎn)稱GAN。
你可以把神經(jīng)網(wǎng)絡(luò)理解為一種多層次的、模仿人腦神經(jīng)元之間相互連接的思考方式的“電腦程序”。
而GAN是一種在目前非常先進(jìn)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，可以理解為兩個(gè)神經(jīng)網(wǎng)絡(luò)玩《街霸》。玩的越多、時(shí)間越長(zhǎng)，大家的水平都會(huì)越來越高。當(dāng)然，GAN也有三個(gè)甚至更多個(gè)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。
聊天機(jī)器人你肯定很見過：蘋果Siri就是一個(gè)。亞馬遜Alexa和Google Assitant也是。
Facebook的這項(xiàng)研究也是如此。研究人員訓(xùn)練了這樣一個(gè)聊天機(jī)器人，讓它帶著“目的”和人類對(duì)話。而這個(gè)目的也很簡(jiǎn)單：一共有兩本書，一頂帽子和三個(gè)籃球，三樣?xùn)|西分別設(shè)定了不同的權(quán)重，為的是讓機(jī)器人明白它到底對(duì)這些東西有多想要，然后去和人談判。
Facebook觀察到的結(jié)果是比較正常的，體現(xiàn)在下圖中：
但是人跟機(jī)器人聊天已經(jīng)不稀奇了……倆機(jī)器人能聊成啥樣？研究人員都很感興趣。
今天的對(duì)話就發(fā)生在聊天機(jī)器人Alice和聊天機(jī)器人Bob之間：
什么鬼？
原來，研究人員在把這兩個(gè)聊天機(jī)器人拼到一起，但忘了給神經(jīng)網(wǎng)絡(luò)設(shè)定“用英語溝通”的激勵(lì)。
剛才說了，神經(jīng)網(wǎng)絡(luò)是個(gè)程序，里面有一大堆各種線性的數(shù)學(xué)公式。但有時(shí)候線性的公式無法取得想要的結(jié)果，有些非線性的需求沒法用線性公式表達(dá)出來，這時(shí)候就要設(shè)定一個(gè)激勵(lì)函數(shù)。激勵(lì)這件事對(duì)于神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)單來說就是告訴神經(jīng)網(wǎng)絡(luò)“這樣做得分更高”——傻子都能理解。
“堅(jiān)持用英語說話沒有激勵(lì)，”這個(gè)研究小組的成員之一，佐治亞理工學(xué)院的訪問學(xué)者Dhruv Batra這樣解釋Alice和Bob奇怪的對(duì)話。“機(jī)器人會(huì)脫線發(fā)明一些它們之間才能理解的句法。”
結(jié)果，Alice和Bob就聊成了這樣。等于是研究人員告訴了它們：“請(qǐng)用英文”，但忘了告訴它們：“請(qǐng)用英文語法”。
研究人員真的是因?yàn)椤笆虑槭Э亓恕保拧安坏貌话蔚粝到y(tǒng)的插頭”嗎？事情真的像聽上去那樣令人心驚膽顫嗎？
并非如此。
“我們的目標(biāo)是讓機(jī)器人和人聊天（提高和人聊天的技巧）。”小組的另一名研究員Mike Lewis指出，Alice和Bob的對(duì)話根本就是個(gè)試驗(yàn)而已，讓兩個(gè)聊天機(jī)器人聊天根本沒有意義。
而且，Alice和Bob根本就沒有發(fā)明新的語言，因?yàn)樗麄冞€是在用“i”、“balls”、“the”等英文單詞溝通，只是創(chuàng)造了一種新的表達(dá)方式而已。
而且他們“發(fā)明”的新語言，人類真的聽不懂嗎？
再看一遍它們的對(duì)話：
Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
如果你明白了前面描述的試驗(yàn)?zāi)康模苋菀拙湍苊靼姿鼈兊奶茁贰＞浞ǖ拇_是亂的，但一句話里tome重復(fù)的越多，這個(gè)東西對(duì)它的意義越大（權(quán)重越高）。
翻譯過來就是：
Bob：我可以我任何其他（其他任何東西都可以給你）
Alice：球有0對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我（我沒有球，球?qū)ξ姨貏e特別特別特別特別特別特別特別重要）
Bob：你我任何其他（你可以拿走其他任何東西）
Alice：球有球?qū)ξ覍?duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我（我要球，球?qū)ξ姨貏e特別特別特別特別特別特別特別重要）
難理解嗎？
而且根本不是在談判，就是很普通的表達(dá)而已。不給就吵嘛……
Facebook并沒有“關(guān)掉”這個(gè)系統(tǒng)，而是重新設(shè)定了正確的激勵(lì)，修正了機(jī)器人的行為，讓機(jī)器人用標(biāo)準(zhǔn)的英文語法來進(jìn)行交流。修正的原因也不是因?yàn)楹ε翧I失控——他們的目標(biāo)是讓機(jī)器人和人聊天（提高和人聊天的技巧）。兩個(gè)聊天機(jī)器人聊天根本沒有意義。
GAN這個(gè)東西，蘋果曾經(jīng)用它搭建了一個(gè)系統(tǒng)，讓它自動(dòng)合成足以以假亂真的圖片。但設(shè)計(jì)的目的并非欺騙人，而是為學(xué)界和業(yè)界的其他研究者帶來幫助。因?yàn)橛?xùn)練神經(jīng)網(wǎng)絡(luò)需要大量的圖片，但世界上已有的、已標(biāo)記的圖片數(shù)據(jù)庫(kù)也就那么多，蘋果的這項(xiàng)研究，能自動(dòng)創(chuàng)建帶標(biāo)記的、能被用來訓(xùn)練的圖片，解了大家燃眉之急。
今年二月，我介紹過Google本部的人工智能團(tuán)隊(duì)Google Brain做的另外一個(gè)實(shí)驗(yàn)：同樣用GAN，他們訓(xùn)練了三個(gè)機(jī)器人Alice、Bob和Eve，讓Alice和Bob倆人從零開始琢磨出一個(gè)加密方法，讓Eve來猜。這三個(gè)網(wǎng)絡(luò)的加密學(xué)知識(shí)都是0，但隨著訓(xùn)練次數(shù)越來越多，Alice和Bob默契越來越好，Eve也破解不了。
——這才是發(fā)明了人類都不懂的語言。可也沒看見Google著急啊。
人工智能能夠幫助人類做很多事情。比如圖像識(shí)別技術(shù)就被投入到圖片搜索引擎中。當(dāng)你在搜索引擎里搜索關(guān)鍵詞，選擇圖片，才能找到符合描述的照片。
再比如語音識(shí)別和自然語言理解技術(shù)。當(dāng)你和Siri、Alexa說話的時(shí)候，它們才能比較準(zhǔn)確地理解你的意圖。
從神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展程度來看，人工智能的確很厲害了。但我可以告訴你的是：圖像識(shí)別、語言理解準(zhǔn)確度上能做到現(xiàn)在這么高，完全是因?yàn)槿祟惥幊陶{(diào)優(yōu)的結(jié)果。
它既不知道自己是誰，也不知道自己在哪兒，更不知道自己在干什么。
所以和人工智能相比，那些成天瞎吹人工智能威脅論的人才更可怕吧……
