李杉 夏乙 編譯整理

量子位 出品 | 公眾號 QbitAI

人們說，人工智能會帶來風險，人工智能產業要促進，人工智能需要監管，人工智能軍備競賽愈發激烈。

他們還說，人工智能人才非常非常短缺，年輕人，如果你想入行……

深度學習教父Geoffrey Hinton的建議，值得一看。在一份訪談中，他面向想做人工智能研究的年輕人，給出了一些忠告。當然，前邊所說的風險、監管、產業等等問題也都有談及。

這份訪談，來自馬丁·福特（Martin Ford）新書，《智能締造者：人工智能開發者口述真相》（Architects of Intelligence: The Truth About AI from the People Building It）。

Hinton認為，年輕人如果讀個碩士然後就直接進入工業界，對研究是不利的。這樣的人提不出全新的想法，學界應該留住那些受過良好教育的研究生，他們需要坐下來，思考幾年才行。

他也鼓勵年輕人批判地看待基礎理論、挑戰基本假設，也要在認為大家想法都錯了的時候，堅持自己的直覺。

以下，是《智能締造者》中節選出來的這段訪談：

福特：我們來談談人工智能的潛在風險。有一個具體挑戰是對就業市場和經濟的潛在影響。你是否認為所有這些都可能引發新的工業革命並徹底改變就業市場？如果是這樣，我們真的需要為此擔憂，還是說這可能又被誇大其詞了？

Hinton：如果你能夠大幅提高生產力並提供更多好處，那應該是一件好事。

它是否是一件好事完全取決於社會制度，根本不取決於技術。人們卻在研究技術，就像把技術進步是一個問題一樣。

問題在於社會制度，在於我們是否會建立一個公平分享的社會制度，或者說，我們的社會制度會是公平的，還是會讓所有進步集中體現在1％的人群身上，然後把剩下的人看得一文不值。

這與技術無關。

福特：那麼問題就來了，因為很多工作都會消失——特別是可以預測，而且易於自動化的工作。社會對此作出的反應是為這類人提供基本收入。你同意這種做法嗎？

Hinton：是的，我認為基本收入是一個非常明智的想法。

福特：那麼，你認為需要通過政策來解決此事嗎？有些人認為我們應該讓事情自然發展，但那似乎不負責任。

Hinton： 我搬到加拿大是因為這里稅率較高，因為我認為正確的稅收是好事。政府應該做的是建立各種機制，以便當人們出於自身利益行事時，也會幫助到每個人。高稅收是一種這樣的機制：當人們致富時，其他人都會獲得稅收的幫助。

想要確保人工智能讓每所有人都受益，還有很多工作要做。我當然認同這種觀點。

福特：你對其他一些跟人工智能有關的風險怎麼看？比如武器化？

Hinton：是的，我對普京總統最近所說的一些事情感到擔憂。

我認為人們現在應該採取非常積極的措施，努力讓國際社會以對待化學武器和大規模殺傷性武器的態度，來對待那些不需要人類參與就能殺死人類的武器。

福特：你是否讚成暫停某種類型的研發？

Hinton：這種類型的研發不會暫停，就像神經毒劑的發展也沒有暫停一樣，但的確有一套國際機制來阻止它們被廣泛使用。

福特：除軍事武器外，你怎麼看待其他風險？是否有其他問題，比如隱私和透明度？

Hinton：我認為有，用它來操縱選舉和選民非常令人擔憂。劍橋分析由Bob Mercer成立，他是一名機器學習研究人員，你已經看到劍橋分析造成了很大的破壞。我們不得不認真對待。

福特：你認為有監管空間嗎？

Hinton：是的，需要很多監管。這是一個非常有趣的問題，但我不是這方面的專家，所以談不了太多。

福特：你怎麼看一般的全球軍備競賽？你認為不應該讓一個國家遙遙領先領先其他國家嗎？

Hinton：你所談論的是全球政治問題。

很長一段時間，英國是一個占主導地位的國家，但他們表現得不是很好。

然後就是美國，他們表現得也不是很好。

換一個國家主導，我也不指望他們會有很好的表現。

福特：你認為我們應該採取某種形式的產業政策嗎？美國和其他西方政府是否應該關注人工智能，並將其作為國家重要發展方向？

Hinton：技術將迎來巨大的發展，如果一個國家不努力追趕潮流，它肯定是瘋了。所以很明顯，我認為應該有很多投資。這在我看來似乎是常識。

福特：總的來說，你對這一切感到樂觀嗎？你認為人工智能是利大於弊嗎？

Hinton：我希望利大於弊，但我不知道最終能否如願。這是一個社會制度問題，而不是技術問題。

福特： 人工智能人才短缺，大家都在招聘。對於想要進入這個領域的年輕人，你有沒有什麼建議？你能否再提一些建議來吸引更多人，讓他們成為人工智能和深度學習方面的專家？

Hinton：我擔心為基礎理論挑毛病的人不夠多。

我提出的「Capsules」(膠囊網路)的想法就是想說，也許我們現在做事的一些基本方法並不是最好的，我們應該拋出一張更大的網。我們應該思考一些非常基本的假設有沒有替代品。

我給人們的一條建議是，如果你的直覺告訴你，人們在做的事情並不對，而且可能有更好的方法，你應該遵循你的直覺。

你很可能是錯的，但是除非人們在思考如何徹底改變事物時遵循直覺，否則就會深陷其中。

還有一點擔憂，是我認為新思想最富饒的來源是在大學中接受過良好教育的研究生。他們可以自由地提出真正的新想法，他們學到的東西足以讓他們不再單純重復歷史，我們應該留住這些人。

獲得碩士學位然後直接進入工業界的人不會提出全新的想法。我認為你需要坐下來思考幾年。

福特：加拿大似乎成了深度學習中心。這是偶然事件，還是說加拿大有什麼特別的地方起到了幫助？

Hinton：加拿大高級研究院（CIFAR）為高風險領域的基礎研究提供資金，這非常重要。

還有很多事情有運氣成分，比如Yann LeCun（他曾經短暫當過我的博士後）和Yoshua Bengio也都在加拿大。我們三個人可以形成非常富有成果的協作，CIFAR為這種合作提供了資助。

那時，我們身處一個充滿敵意的環境中感覺有點孤立——深度學習的環境直到最近才變得友好起來——所以獲得這筆資金給我們很大幫助，讓我們可以用很多時間召開小型會議，展開相互交流。在那里，我們可以真正分享尚未發表的想法。

One More Thing

在《智能締造者》這本書里，還有很多AI領域名人的訪談。

比如和Hinton並稱三巨頭的Yoshua Bengio、Yann LeCun，著有人工智能經典教材的伯克利教授Stuart Russell，讓馬斯克對人工智能產生興趣和恐懼的牛津大學哲學教授Nick Bostrom，還有我們熟悉的李飛飛、吳恩達、DeepMind創始人Demis Hassabis等等，共23人。

中文版目前還沒有，希望以後能見到。

(☆▽☆)

— 完 —

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

量子位 QbitAI · 頭條號簽約作者

վ’ᴗ’ ի 追蹤AI技術和產品新動態