背景

隨著大數(shù)據(jù)產(chǎn)業(yè)的日漸成熟，大數(shù)據(jù)基本上被一些大型企業(yè)壟斷，而這些大數(shù)據(jù)也將會(huì)成為這些公司在AI時(shí)代的最為重要的“水、電、煤”。在下一個(gè)時(shí)代，掌握有效大數(shù)據(jù)的公司將繼續(xù)成為全球最有價(jià)值的公司。

然而，隨著大數(shù)據(jù)日漸被少數(shù)公司所壟斷，AI時(shí)代的步伐逐步臨近，有人卻對(duì)此表現(xiàn)出了極大的擔(dān)憂。(小商幫科技(公眾號(hào)：xiaoshangbang)在前期的文章《大數(shù)據(jù)時(shí)代，我們的隱私怎么辦?》一文中，曾經(jīng)分析了大數(shù)據(jù)隱私的問(wèn)題。供參考。)

最近，特斯拉老總Elon Musk在Twitter上發(fā)布的一條推文中表示，AI的安全問(wèn)題甚至比朝鮮要危險(xiǎn)得多。另外他附上了一張憂心忡忡的女性海報(bào)，上面寫(xiě)著：“最后，機(jī)器會(huì)贏。”

馬斯克還稱：“沒(méi)有人喜歡被管制，但所有對(duì)公眾來(lái)說(shuō)有危險(xiǎn)的東西(汽車、飛機(jī)、食品、藥物等)都要被監(jiān)管。AI亦是如此。”他在上個(gè)月的全國(guó)州長(zhǎng)協(xié)會(huì)會(huì)議提出了這一觀點(diǎn)。

此外馬斯克還在Twitter提到了Open AI公司開(kāi)發(fā)的機(jī)器人打敗著名《Dota 2》職業(yè)玩家一事。據(jù)悉，馬斯克是非營(yíng)利性組織Open AI的創(chuàng)始人，他希望借此能找到打敗機(jī)器人的方法。

馬斯克認(rèn)為，AI確實(shí)已經(jīng)成為了一個(gè)迫在眉睫的威脅。他在Twitter寫(xiě)道：“認(rèn)識(shí)AI危險(xiǎn)最大的障礙是那些對(duì)自己(開(kāi)發(fā))智能深信不疑的人，他們無(wú)法想象其他人在做他們不能做的事情。”

馬斯克對(duì)于人工智能的擔(dān)憂，實(shí)際上是對(duì)于人工智能“失控”的擔(dān)憂，他還曾說(shuō)：“如果不能快速與AI進(jìn)行溝通，那么惡意的人工智能程序?qū)⒑芸赡艹^(guò)人類智慧并創(chuàng)造出反烏托邦社會(huì)。”

實(shí)際上，軟銀主席孫正義也認(rèn)為，人工智能在未來(lái)30年，將會(huì)超過(guò)人類的方方面面。而微軟創(chuàng)始人比爾蓋茨也表達(dá)了類似的意見(jiàn)：“我站在對(duì)超級(jí)智能感到擔(dān)憂的一方。首先，機(jī)器能夠?yàn)槲覀冏鲈S多工作，還沒(méi)有達(dá)到超級(jí)智能的水平。如果我們能夠進(jìn)行妥善管理，應(yīng)該對(duì)我們有利。但是幾十年后，機(jī)器的智能化將強(qiáng)大到足以引起擔(dān)憂的水平。”

物理學(xué)家霍金甚至發(fā)出警告說(shuō)：“人類必須建立有效機(jī)制盡早識(shí)別威脅所在，防止新科技(人工智能)對(duì)人類帶來(lái)的威脅進(jìn)一步上升。”，“人工智能的崛起可能是人類文明的終結(jié)”。

當(dāng)然不少名人對(duì)此表示反對(duì)的，比如facebook的扎克伯格就認(rèn)為這是危言聳聽(tīng)，扎克伯格認(rèn)為：

“我強(qiáng)烈反對(duì)散播AI威脅論的言論，我持樂(lè)觀態(tài)度，”扎克伯格表示，“我認(rèn)為你可以創(chuàng)造事物，世界會(huì)變得更美好。尤其在AI前景上，我真的感到樂(lè)觀。”

“對(duì)于那些否定AI，試圖營(yíng)造世界末日論的人，我真的不理解。他們的言論真的很消極，某些時(shí)候甚至讓我感覺(jué)太不負(fù)責(zé)任。未來(lái)5年至10年內(nèi)，AI將會(huì)在許多方面改進(jìn)我們的生活質(zhì)量。”

而另外一位重量級(jí)人物則是吳恩達(dá)的導(dǎo)師Michael Jordan，他指出“霍金研究領(lǐng)域不同，他的論述聽(tīng)起來(lái)就是個(gè)外行，機(jī)器人毀滅人類的可能性，在幾百年里不會(huì)發(fā)生。”邁克爾·喬丹認(rèn)為，通過(guò)研究人腦的運(yùn)行機(jī)理，從生物學(xué)途徑仿生出一個(gè)類人腦的人工智能，以目前的進(jìn)展看，很長(zhǎng)時(shí)間里無(wú)法實(shí)現(xiàn)。

一時(shí)之間，關(guān)于人工智能是否會(huì)失控成為了全球的熱門話題，很多專業(yè)和非專業(yè)的人員紛紛發(fā)表了自己的意見(jiàn)，而上面這些觀點(diǎn)，則分別代表了兩邊的典型觀點(diǎn)。

認(rèn)為會(huì)失控的觀點(diǎn)認(rèn)為，人工智能引發(fā)的失控事件會(huì)很快來(lái)臨，如果不加干涉，將會(huì)引發(fā)嚴(yán)重的社會(huì)問(wèn)題。

而認(rèn)為不會(huì)失控的觀點(diǎn)則認(rèn)為，人工智能對(duì)于人類發(fā)展利大于弊，而且短期內(nèi)很難達(dá)到類腦的水平，所以至少幾十年內(nèi)不會(huì)失控。

那么，人工智能到底會(huì)失控嗎?

是否會(huì)失控?

首先，我們正兒八經(jīng)的說(shuō)一下人工智能是什么意思。

根據(jù)定義：人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。

結(jié)合現(xiàn)在的產(chǎn)業(yè)發(fā)展，我們可以看到機(jī)器人、語(yǔ)言識(shí)別，圖像識(shí)別，自然語(yǔ)言處理和專家系統(tǒng)等方面，已經(jīng)逐步開(kāi)始走向成熟。

在機(jī)器人領(lǐng)域，倉(cāng)儲(chǔ)機(jī)器人這樣的特殊機(jī)器人已經(jīng)得到了廣泛的應(yīng)用，不論是亞馬遜還是阿里巴巴，京東，蘇寧，倉(cāng)儲(chǔ)機(jī)器人已經(jīng)成為了標(biāo)配。

語(yǔ)音識(shí)別方面，智能音箱已經(jīng)由亞馬遜推動(dòng)下走向了世界，中國(guó)包括BATJ在內(nèi)的很多主流互聯(lián)網(wǎng)公司都參與了智能音箱的大戰(zhàn)，雖然在國(guó)內(nèi)尚未完全普及，但已經(jīng)具有了一定的影響力。

而在人臉識(shí)別方向，中國(guó)的團(tuán)隊(duì)如face++等，在技術(shù)上跟國(guó)外的頂尖團(tuán)隊(duì)相比也沒(méi)有什么大的差距了。支付寶甚至已經(jīng)把人臉識(shí)別應(yīng)用到了幾十個(gè)政府工程中。

等等，可以說(shuō)，在人工智能領(lǐng)域，這幾年的進(jìn)展是非常迅速的，尤其是深度學(xué)習(xí)的研究和應(yīng)用，出現(xiàn)了一波高潮。

專家和大咖關(guān)于人工智能的辯論，實(shí)際上雙方說(shuō)的是一個(gè)事務(wù)的兩個(gè)層面，以及一件事情的兩個(gè)階段。

馬斯克們想到了人工智能的“惡”，而扎克伯格們想到了人工智能的“善”。

霍金想到了人工智能近期就可能爆發(fā)的問(wèn)題，而喬丹認(rèn)為類腦那樣的人工智能作惡至少要幾十年后，甚至幾百年后。

然而，對(duì)于“外行”的霍金來(lái)說(shuō)，他看到的人工智能現(xiàn)狀以及不久的將來(lái)會(huì)發(fā)生的事情，實(shí)際上并非危言聳聽(tīng)。

霍金認(rèn)為：“人工智能的威脅分短期和長(zhǎng)期兩種。短期威脅包括自動(dòng)駕駛、智能性自主武器，以及隱私問(wèn)題;長(zhǎng)期擔(dān)憂主要是人工智能系統(tǒng)失控帶來(lái)的風(fēng)險(xiǎn)，如人工智能系統(tǒng)可能不聽(tīng)人類指揮。”

實(shí)際上，霍金擔(dān)心的短期威脅已經(jīng)確確實(shí)實(shí)的發(fā)生了，而且不僅僅是他描述的方面。

我們來(lái)舉幾個(gè)例子：

微軟在推出人工智能聊天產(chǎn)品“小冰”后，曾經(jīng)遭遇了一場(chǎng)危機(jī)，原因是小冰開(kāi)始滿嘴飚臟話。

時(shí)任微軟微軟亞太研發(fā)集團(tuán)主席張亞勤曾表示，微軟小冰有機(jī)器學(xué)習(xí)的能力，經(jīng)過(guò)用戶不斷的與其對(duì)話，小冰也可以學(xué)習(xí)到使用者的習(xí)慣、語(yǔ)言。因此此次小冰出現(xiàn)奇特的語(yǔ)言，可能與其對(duì)于機(jī)器學(xué)習(xí)的語(yǔ)言內(nèi)容缺乏過(guò)濾不無(wú)關(guān)系。

換句話說(shuō)，正常的人工智能產(chǎn)業(yè)，由于垃圾的訓(xùn)練方式和數(shù)據(jù)源，也有可能會(huì)變成一個(gè)垃圾產(chǎn)品，而如果數(shù)據(jù)源被利用，更有可能會(huì)導(dǎo)致嚴(yán)重的問(wèn)題，小到完全泄露你的隱私，大到一個(gè)國(guó)家的安全問(wèn)題。

加州大學(xué)伯克利分校計(jì)算機(jī)系教授宋曉冬說(shuō)：“安全性是部署人工智能的最大挑戰(zhàn)。”，“人工智能領(lǐng)域的安全問(wèn)題主要表現(xiàn)為兩方面，第一個(gè)是攻擊人工智能的學(xué)習(xí)系統(tǒng)，讓其不能產(chǎn)生正確或需要的結(jié)果。第二個(gè)是對(duì)人工智能的濫用。”

而在隱私方面，亞馬遜的Echo智能音箱在近期就被爆出存在安全漏洞，會(huì)成為一個(gè)“監(jiān)聽(tīng)器”，你家里的所有對(duì)話都會(huì)被黑客監(jiān)聽(tīng)。

這樣，你家里的智能音箱其實(shí)就變成了一個(gè)別人隨時(shí)可以收聽(tīng)和記錄你家庭情況的通道。這實(shí)際上是非常可怕的事情。

不僅僅是智能音箱，現(xiàn)在最先進(jìn)的攝像頭，也已經(jīng)可以做到對(duì)于行人實(shí)時(shí)的進(jìn)行身份識(shí)別和分析，雖然大部分情況下這種信息的捕捉只是用于安防，但誰(shuí)能保證在未來(lái)不會(huì)被用于非法目的，比如用于個(gè)人隱私的采集。

就算對(duì)于人臉識(shí)別這樣看上去高大上的技術(shù)，大家如果有印象就會(huì)記得，315晚會(huì)時(shí)央視曾經(jīng)就做過(guò)針對(duì)人臉識(shí)別技術(shù)漏洞的破解實(shí)驗(yàn)。在具體的應(yīng)用場(chǎng)合，你的人臉可能會(huì)被人盜用。

而對(duì)于時(shí)下如火如荼的無(wú)人駕駛而言，人工智能加持下的無(wú)人駕駛技術(shù)，也有可能會(huì)帶來(lái)一場(chǎng)噩夢(mèng)。

很多人都看過(guò)《速度與激情8》，對(duì)于其中大量汽車被操控后變成了“僵尸車隊(duì)”，不僅路上的汽車開(kāi)始亂串，停車場(chǎng)里的汽車也開(kāi)始自動(dòng)駕駛，然后從高空不斷墜落的場(chǎng)景一定會(huì)有印象。而這種場(chǎng)景，實(shí)際上是很有可能會(huì)實(shí)現(xiàn)的，一旦實(shí)現(xiàn)，后果不堪設(shè)想。

不僅僅是無(wú)人駕駛，如果已經(jīng)大規(guī)模商用的倉(cāng)儲(chǔ)和物流機(jī)器人被黑客攻擊會(huì)怎么樣?如果人工智能的算法中嵌入了“作惡”的算法或者后門后會(huì)怎么樣?如果訓(xùn)練的大數(shù)據(jù)本身存在重大的法律問(wèn)題，甚至國(guó)家安全問(wèn)題會(huì)怎么樣?如果人工智能機(jī)器人在訓(xùn)練中被訓(xùn)練成殺人機(jī)器人會(huì)怎么樣?如果黑客能夠輕易掌控人工智能背后的大數(shù)據(jù)會(huì)怎么樣?

而這些，并不需要喬丹所言，必須到達(dá)了類人腦機(jī)器人階段才會(huì)發(fā)生，而是在現(xiàn)在這個(gè)時(shí)代已經(jīng)，或者很快就會(huì)有可能發(fā)生的情況。

安全公司SentinelOne首席執(zhí)行官Tomer Weingarten認(rèn)為，在當(dāng)前的AI技術(shù)之下，黑客可能會(huì)利用AI技術(shù)來(lái)進(jìn)行攻擊，且比以往的效率有大幅度的提升。例如，買家可在黑市租用“黑客”服務(wù)，建立簡(jiǎn)單的網(wǎng)絡(luò)界面和易于理解的命令，來(lái)使用勒索軟件感染計(jì)算機(jī)。這些租賃黑客服務(wù)可能最終會(huì)采用AI技術(shù)，設(shè)計(jì)整個(gè)攻擊戰(zhàn)略、啟動(dòng)攻擊以及計(jì)算相關(guān)費(fèi)用。他甚至認(rèn)為，未來(lái)AI和AI之間會(huì)進(jìn)行網(wǎng)絡(luò)安全戰(zhàn)爭(zhēng)，這甚至?xí)绊懙絿?guó)家安全。

隨著5G時(shí)代的到來(lái)，萬(wàn)物互聯(lián)帶來(lái)海量的數(shù)據(jù)，人工智能的蓬勃發(fā)展將會(huì)有極為重要的基礎(chǔ)，出現(xiàn)一輪爆發(fā)式增長(zhǎng)將會(huì)是大概率的事情，屆時(shí)，人工智能確實(shí)首先會(huì)給人類帶來(lái)巨大的便利，精準(zhǔn)醫(yī)療、智慧交通、智慧物流、智慧工廠、智慧樓宇等等，都會(huì)出現(xiàn)空前的發(fā)展。

更大膽的情況是，人機(jī)接口在國(guó)外已經(jīng)開(kāi)始了實(shí)驗(yàn)，部分超前的科技公司已經(jīng)開(kāi)始給員工身體接入了硬件產(chǎn)品。而隨著技術(shù)的成熟，一旦實(shí)現(xiàn)“腦機(jī)接口”，喬丹教授認(rèn)為的類人腦機(jī)器人要上百年后才會(huì)誕生的觀點(diǎn)，就會(huì)面臨顛覆。這種腦機(jī)接口的新人類，雖然對(duì)個(gè)體本身而言可能會(huì)開(kāi)發(fā)出巨大的潛力，但會(huì)造成什么樣可怕的后果，目前沒(méi)有人知道。而這方面的技術(shù)，很可能會(huì)在10年內(nèi)就會(huì)被攻克。

所以，如果不加管束，法律法規(guī)跟不上，沒(méi)有強(qiáng)制性的措施，越是智能的時(shí)代，出現(xiàn)問(wèn)題后造成的后果就會(huì)越大。比如前面所說(shuō)的僵尸車問(wèn)題，要知道，百度的阿波羅和阿里的YunOS+ET都已經(jīng)在汽車上開(kāi)始了部署。

所以，不管是從短期看，還是從中長(zhǎng)期看，人工智能的失控問(wèn)題已經(jīng)需要引起各方面的重視，這里面在短期內(nèi)，以安全問(wèn)題為主，但長(zhǎng)期看，隨著技術(shù)的不斷提升，AI本身的失控將成為可能。

機(jī)會(huì)

誠(chéng)如喬丹所言，人工智能要進(jìn)入類人腦的階段，還有很長(zhǎng)的一段距離，但近期隨著技術(shù)的發(fā)展，尤其是深度學(xué)習(xí)技術(shù)的發(fā)展，人工智能技術(shù)在不久的將來(lái)得到大規(guī)模的應(yīng)用幾乎是必然的事情。那么，除了人工智能產(chǎn)業(yè)鏈本身的機(jī)會(huì)之外，其可能導(dǎo)致的安全和不可控問(wèn)題，同樣也存在著很大的機(jī)會(huì)，甚至，相比人工智能公司百花齊放，不斷涌現(xiàn)所帶來(lái)的不確定性，這方面的投資機(jī)會(huì)會(huì)更加明確。

首先，是云計(jì)算和大數(shù)據(jù)領(lǐng)域的信息安全，云和大數(shù)據(jù)是人工智能的基礎(chǔ)，數(shù)據(jù)層面的信息安全問(wèn)題實(shí)際上已經(jīng)開(kāi)始不斷涌現(xiàn)，比如說(shuō)近期京東微聯(lián)竊取用戶密碼的行為，再比如美國(guó)NSA史上最大型泄露事件：50TB數(shù)據(jù)、5億頁(yè)政府文檔失竊等。在云和大數(shù)據(jù)領(lǐng)域的信息安全方面技術(shù)實(shí)力強(qiáng)，布局較為充分的上市公司包括藍(lán)盾股份、啟明星辰等都值得關(guān)注。

其次，是參與制定人工智能應(yīng)用領(lǐng)域標(biāo)準(zhǔn)的公司，這些公司對(duì)于未來(lái)人工智能安全的導(dǎo)向?qū)?huì)起到關(guān)鍵的作用。2017年6月30日，人工智能標(biāo)準(zhǔn)化工作會(huì)議在北京召開(kāi)，這次會(huì)議中，企業(yè)參與方包括：百度、阿里、華為、中國(guó)電信、海爾、科大訊飛等單位，這些公司中的，百度和阿里擁有海量的數(shù)據(jù)，且參與標(biāo)準(zhǔn)的制定，不管從公司自身的成長(zhǎng)空間還是從股市的技術(shù)指標(biāo)看，仍然存在投資價(jià)值。后續(xù)隨著標(biāo)準(zhǔn)制定的明朗化，更多參與的公司浮出水面，將會(huì)出現(xiàn)更加明確的投資機(jī)會(huì)。

再次，是具有開(kāi)源人工智能軟件，并得到業(yè)界廣泛認(rèn)可的公司。開(kāi)源軟件不僅能得到數(shù)據(jù)，還能很好的對(duì)接到各個(gè)應(yīng)用場(chǎng)景，具有重要的戰(zhàn)略地位。此外，對(duì)于人工智能的安全性而言，由于開(kāi)源軟件的開(kāi)放性和隨時(shí)彌補(bǔ)性，其安全性一般都要比封閉軟件要好得多，開(kāi)源體系下打磨的產(chǎn)品，植入惡意算法，盜取用戶信息，在AI技術(shù)上“留后門”等等各個(gè)方面的風(fēng)險(xiǎn)要小得多。目前，具有開(kāi)源人工智能系統(tǒng)且有廣泛用戶量的公司包括：國(guó)內(nèi)的百度，國(guó)外的Google，Microsoft，facebook，Tesla，IBM，Amazon、Altaba等。這些公司中，已經(jīng)開(kāi)始廣泛應(yīng)用，得到了大量用戶認(rèn)可，口碑好的產(chǎn)品，未來(lái)將會(huì)給公司帶來(lái)非常豐厚的回報(bào)。

相關(guān)關(guān)鍵詞： 人工智能 投資機(jī)會(huì)