生化粒子機器人，機器將會有自我意識？

圖片來源@全景視覺

文丨腦極體

文丨腦極體

在眾多「科技鬼故事」中，機器人的意識覺醒，絕對是最吸引眼球的一種。

自從1920年捷克作家卡雷爾·恰佩克在他的劇本《羅素姆的萬能機器人》(Rossum’s Universal Robots)中，第一次使用robot這個詞，描繪了被機器人統治的世界以後，全球的劇作家們就開始各種放飛想像。

從奠定了「機器人三定律」的阿西莫夫小說，到與人類纏鬥不休的《終結者》系列，亦或是充滿哲學浪漫色彩的《愛死亡機器人》，關於機器的善惡二元論，為科幻世界貢獻了無數經典，也成了智能科技領域中最接地氣、人人都能討論兩句的主題之一。

機器人真的會擁有自主意識嗎？又會對人類社會產生怎樣的影響？粒子機器人的出現，似乎又將這道難解之謎推演到了新的階段。

從「細胞」開始，推開機器人覺醒的未來之門

最近，哥倫比亞大學教授、機器人研究權威專家Hod Lipson提出，機器將會有自我意識，這件事是確信無疑的。只不過「這件事情將在10年之後發生，還是100年之後發生」，科學家本人也不知道。

我們知道，以往在設計機器智能系統的時候，技術人員總是會試圖讓它們模擬和還原人類的行為。於是我們看到，機器在copy人類的過程中，學會了如何看、如何下棋，甚至還會像人一樣控制肢體來上一段花式體操。看起來，似乎機器的能力已經比絕大多數普通肥宅要強的多了。但為什麼小說和電影里那麼多牛氣沖天的機器人，生活中卻一個也沒有呢？

別說對著人類突突突的機器人軍團了，想花錢找個機器人管家替我擦桌子洗碗整理家務，都常常被科普「想太多」……而這都源於機器人的自我意識缺失。它只能完成人類告訴它的事情，並且還十分費勁。至於強智能系統需要的自我模擬、自我建模，更是遙遠的天方夜譚。

怎麼現在突然就說機器人要產生自主意識了？乍聽之下簡直震驚我全家，接下來是不是該組織人類反抗軍了？咳咳，抱歉剛看完《終結者》後遺症有點大……關於機器人覺醒，或許要從其最新的成果——生化群體粒子機器人說起。

今年三月，hod lipson團隊發明的新興粒子機器人登上了《自然》雜誌封面，讓「機器的自我意識」出現了松動，這一發現也在學界引起了軒然大波。其創新性主要來自兩個方面：一是這些由「粒子」（即圓盤狀單元）組成的機械系統，不需要人類的強集中控制，也能依靠自主性伸縮和隨機運動完成複雜的任務；二是這種系統很可能產生覺知，通過思考「我為什麼在這里」進而做出自我模擬、自我復制，從而可以在設備故障、特殊作業環境中順利完成任務。

聽到這里，大家可能會在松一口氣的同時也幹到了一絲迷惑：

這種機器人系統看起來和草履蟲也差不太多，並不是很有威脅的樣子，那麼傳說中的「黑客帝國」到底會不會來呢？

模擬人類心智的一小步，機器人的一大步

我們知道，人工智能研究是建立在人腦如何工作的基礎之上的，而意識則是其中十分高級的一環。粒子機器人集群的進步，說明機器人學來到了哪個階段呢？

首先，在擔憂機器威脅人類社會之前，我們會率先品嘗到技術進步帶來的甜蜜時刻。

之所以這麼說，是因為前面的發現，正在將機器能夠模擬的心智能力推向更高維度。根據目前的科學研究，人類的心智主要包括四大能力，其中視覺感知和推理能力，已經被神經網路模型復制到了現實世界，計算機視覺、AI大腦正在成為新的生產力引擎。而情感和社會關係，比如不同文化圈的人類能夠感受到愛恨悲喜等相通的感情，能夠根據合作、競爭、友誼、家人等不同的社會關係來產生動機並預測行為。

後面兩種能力才是機器人和科研人員苦求而不得的高級智能。機器如果擁有它們，會發生什麼呢？至少目光所能及的未來很值得心動。

以粒子機器人為例，這種非常初級的「極可能擁有意識」的機器系統，能夠帶來的社會價值都是巨大的。

一方面，機器人如果能夠模擬其它的人類和機器人，那也就會啟動機器人之間的社會行為，進而可以認知環境、預測未來並主動採取行動。

如果機器某個零件壞了，它就可以自己修復，這使得機器的利用效率和適用範圍大大提升。比如工廠里的機器、家里的吸塵器等，一些部件壞掉就會讓整個機器無法運作。未來由這些奈米級機器人組成的機器，就能夠不斷循環，單個足見壞掉之後依然可以使用，幫助使用者不斷節省成本。

另一方面，能夠為未來科技打開新的想像空間與可能性。比如太空科技，生物醫藥等，隨著粒子機器人技術向毫米、奈米級演進，未來應用到人類的血管中幫助處理病灶，亦或是在月球上機器人可以根據任務的需求改變自身的形態。任何自動化智能系統，包括在技術瓶頸中苦尋出路的無人駕駛等，一旦它們能夠有自我意識，從毀壞中恢復，就能夠更快地改進，這都是並不遙遠得機器智能未來。

青山遮不住，畢竟東流去：機器的善惡誰說了算？

接下來，我們再來聊聊第二個問題——如果機器有意識，它一定會是惡的嗎？

在回答這個問題之前，我們不妨先聊聊計算機的進步。眾所周知，今天的計算機已經比上個世紀更加聰明且強大，但類似《2001太空漫遊》等科幻電影中大型主機反叛人類的擔憂，卻越來越少了。今天，我們也許會擔心網路漏洞所引發的混亂或是人為惡意製造的病毒，卻很少會想像出現什麼電腦殺手或秘密組織。

人類為什麼對智能機器人這麼緊張呢？除了在智力、能力、體力上對人類個體的碾壓之外，恐怕一個很大的恐懼來自於未知與不確定性：一旦機器擁有獨立的人格和認知，會不會傷害人類呢？

問題來了，為什麼機器人想要這麼做呢？為了更多的服務器資源，還是傷害流水線工人會使其得到快感？在沒有足夠「獎勵」的前提下機器會自己變壞嗎？顯然還要問人類自己。

很多人認為，機器人覺醒會像《西部世界》中女主角德洛瑞絲一樣，意識到自己是被人類奴役和玩弄的，進而開始復仇。即使這一天真的會到來，我想以目前人類與機器人之間的關係，也不至於會變得劍拔弩張吧。

（美劇《西部世界》機器人女主角）

哪個「變態科學家」會甘願冒天下之大不韙，丟給智能機器這樣「反人類」的數據集，而不擔心先被機器虐的是自己呢？

事實上，像波士頓動力那樣動輒對機器人拳打腳踢，只是為了訓練其適應性和靈活性的必要方式。就連這樣的操作，也因為人類自身的同理心和同情心，而變得越來越少了。讓AI在仿真環境里打遊戲、讓機械手臂玩魔方、去山坡上溜機械狗……都是時下訓練的新方式，真有覺醒那一天，AI應該也給人類造一個沙盒遊戲場快樂玩耍「投桃報李」才對嘛。

再進一步，如果出現了這樣的人類「恐怖分子」，比如利用AI行騙、犯罪，將機器人改造成爆炸裝置之類的，在技術上能否及時發現並遏制呢？

對於這一點，智能科學正在向網路安全界學習，引入一些成熟的防范機制，比如人工智能開發中的紅色團隊、人工智能系統中的正式驗證，以及負責任地披露人工智能漏洞等等。

去年，由OpenAI、牛津大學、劍橋大學等14家機構和高校共同發布的《人工智能惡意使用》報告中，也進一步號召人工智能領域形成規範和道德框架。

在這樣道德、技術、法律等多方面的做功下，機器人的自主意識還會對人類帶來危險嗎？嚴謹如Hod Lipson也只是回答——沒那麼簡單。

「應該說任何這樣的問題都沒有一個簡單的答案，但是我們必須走上這樣一個歷程，並且一步一步的往前走，我們現在要公開討論它應該可以做些什麼，不可以做些什麼，要不斷地進行研究。」

對技術的擔憂，就如同初次觸摸火種的驚懼，永恒地懸在人類心頭。今天絕大多數人提到AI，已經沒有了初見深藍和阿爾法狗的恐懼，開始重點關注其如何為經濟釋放能量。

從這個角度看，智能機器人的「黃金時代」還沒能到來，它正如所有「前輩們」一樣，經歷著幻想、質疑、混沌。所以，在這個技術尚且十分初級的階段，來探討其覺醒後是善是惡，似乎是一件很形而上的事情，但關乎我們每個人的未來，也孕育在這樣與技術進步相勾連的思索與拷問之間。