人工智慧加安全，值得我們每一個人器重

摘要：這是國外開發的一個系統，叫做AI2，用人工智能方法來分析你是不是有攻擊的情況，它通過大量的數據學習讓人給它做一個判斷，是不是攻擊。這是等於通過機器人，完全在人不干預的情況下自己去搞計算機的攻擊，來看人工智能能夠發揮什麼樣的作用。

我們先從一個宏觀的角度來看，作為一個新技術和安全有什麼樣的關係?當一個新技術用於安全時，它會存在著兩種情況，一種是把新技術支撐安全，當然它可以做攻擊，也可以做防禦，這個新技術實際上是被安全領域來利用了。第二種是出現了一個新技術，它本身就會帶來一個新的安全問題，也就是說它有可能是自身還不夠安全就用了。

人工智能下的幾種情況：

第一種情況，它用於助力防守，助力攻擊，內生安全，衍生安全。我們從這個視角來看看人工智能是什麼情況。首先人工智能會助力防禦，人工智能供給，樣本攻擊，威脅人類。這是國外開發的一個系統，叫做AI2，用人工智能方法來分析你是不是有攻擊的情況，它通過大量的數據學習讓人給它做一個判斷，是不是攻擊。這種知識就能夠判斷是否會出現新的攻擊。最後得到了很好的效果，發現攻擊的情況比過去提高了3倍。

第二種情況，人工智能助力於網路攻擊，我們叫做自動化的網路攻擊。在美國2013年就準備推這件事，他就說我要搞機器人的自動攻擊。我們兩年後要搞一次比賽，來幹這個事兒。2016年就做了這個比賽，進入了初選，一年時間進行決賽。這是等於通過機器人，完全在人不干預的情況下自己去搞計算機的攻擊，來看人工智能能夠發揮什麼樣的作用。

第三，人工智能自身存在著脆弱性，我們有一個「對抗樣本」。就是無論在一個場景下，我們做什麼都是機器學習，這個場景與原來學的東西無效，它就是讓你判斷失誤。像自動駕駛在我看來，還有很長的路要走，它還是成為輔助駕駛。大家開車從高速要下來要變道，在北京從主幹道往下變非常難，自動駕駛我認為不可能下去。因為人工智能它一定要保護一個安全距離，但是人開車的時候打心理戰。 第四，人工智能具有危及人類的潛在威脅，特斯拉大家都知道，開車自動駕駛的過程當中，撞到了一個白色的箱貨車，車毀人亡。這是因為特斯拉的錄影頭焦距很窄，高清的，所以他先頭看的是白雲，突然看到車廂中間一塊，認為這還是白雲，就撞上去了。所以這個就等於對它的傳感器的識別做出了欺騙。這個車，自動駕駛車把人撞死了，發現這個系統里面看到這個人了，沒有任何決定剎車的動作。這個自動駕駛怎麼了?我們說你可能有你的失誤，但是你危害了人類。人們已經開始關注這類的問題了，國際社會宣言說不能拿人工智能用於武器，國際著名的學者馬斯克認為，人工智能是要威脅到人們的未來，需要加強管理。霍金也認為人工智能一旦脫離約束，這個是不可控的。彼爾蓋茨認為人工智能最終構成一個現實性的威脅。

人工智能技術逐漸發展成為了人們生活不可或缺的利器，然而當人類大量依賴深度學習或人工智能時，其安全問題及應用方向的開拓也就自然成為阻擋在人們面前的一堵高牆，此時，合理應對與防范、開拓思路就顯得尤為重要了。

>人工智能加安全，值得我們每一個人重視