尋夢新聞LINE@每日推播熱門推薦文章，趣聞不漏接❤️
摘要：複雜適應性系統不像我們目前的經濟系統那樣指數式地增長，也不符合「技術奇點」 （the Singularity） 理論的應許—— 技術進步可以解決目前人類社會的所有問題。但是，如果超級公司的出現是我們超限的先驅，那麼只有無可救藥的傻瓜才會相信，更多的計算和生物黑客可以幫助我們解決世界上的所有問題，或者相信奇點最終可以破解人類。
本文選自 《設科志》（Journal of Design and Science） ，作者：伊藤穰一，中文版首發於微信公眾號： 神經現實（ID：neureality） ，翻譯：嘉嘉，編輯：夏明明，封面：《攻殼機動隊》
我們需要的是一種人機交融的系統，用音樂而不是算法來干預它。
大自然的生態系統為我們了解複雜適應系統 （ complex adaptive system） 提供了完美案例。這個系統中恒河沙數的「貨幣」交互作用，並對反饋系統「在這樣的反饋系統中，繁盛 （flourishing） 和調控成為可能」作出響應。
複雜適應性系統不像我們目前的經濟系統那樣指數式地增長，也不符合「技術奇點」 （the Singularity） 理論的應許—— 技術進步可以解決目前人類社會的所有問題 。我們應當讓這樣的合作模型，而非指數式增長模型，為我們發展人工智能提供范式。
六十多年以前，麻省理工學院的數學家、哲學家諾伯特·維納 （Norbert Wiener） 警告我們：「如果我們像使用齒輪、杠桿和承軸那樣，將人類死板地安排進那些使用他們的機構里，如果我們不把他們當成有負有責任的人類並尊重他們的權利，我們很容易就會忽略他們是有血有肉的人的事實。」 我們應該聽從維納的警告。
「貨幣」導致的癌症
太陽照射在地球上的時候，光合作用會將水、二氧化碳和太陽能轉化成為氧氣和葡萄糖。在許多將物質和能量由一種形式轉化到另一種形式的生物、化學過程中，光合作用是其中之一。光合作用之後，這些分子會參與別的新陳代謝的生物化學過程，變成其他分子。
科學家們時常稱這樣的分子為「貨幣」，因為這樣的「貨幣」使細胞間或多種生化過程間的互利「交易」得以做到。 這類自然「貨幣」與金融意義上的貨幣之間的最大區別在於，對前者而言不存在「主貨幣」 （master currency） 或是「貨幣兌換」。 與金融貨幣相對，每一種自然「貨幣」只能由特定的過程使用，這類貨幣通行的「市場」驅動著名為「生命」的動態。
當某些生物或生化過程產出的自然「貨幣」過於充裕時，其他的有機體便會演化出一種獨特的機制，將這一「貨幣」轉化為另一種「貨幣」。在數十億年間，地球的生態系統以這樣的方式演化，衍生出條條代謝通路錯綜交織的龐大系統，並形成了複雜的自調控系統 （比如穩定我們身體系統抑或地球系統的溫度） 。
盡管從微觀到宏觀的個體元素一直在波動和變化，系統本身卻能保持相對穩定。一個過程的輸出變成了另一個過程的輸入。最終，萬事萬物都相互關聯，相互依存。
—人類最主要的基本代謝途徑
在我們的文明里，主要的「貨幣」是金錢和權力。在絕大多數情況下，我們的目標是同時積累這兩種「貨幣」，不惜以犧牲社會整體利益為代價。和地球的生態系統比起來，我們的系統過分簡單和脆弱。地球的生態系統有無數的「貨幣」，在不同的過程之間相互轉換，從而構建出種種極為複雜的系統：其輸入與輸出經一系列反饋系統適應並調控著系統內的存量 （stocks） 、流量 （flows） 和關聯 （connections） 。
不幸的是，我們現有的人類社會並不具有我們所處生態環境那樣的韌性。
我們現有的范式給我們設定了目標並推動著社會的演變，然而它正將我們引向一個危險的方向——一個數學家諾伯特·維納早在幾十年前就警告過我們的方向。由於許多公司和機構只重視一種「核心貨幣」 （金錢） ，它們失去了原初的目標和價值。營利性公司獲得了自主性、正當性、權力和幾乎不受控制的社會影響力，而我們的價值觀和對複雜性的解讀愈加集中在創造爆炸式的經濟效益增長上。
這些公司增長的方式如同癌症：健康的細胞會調節其生長並響應周遭環境，而當它們誤入自己所不屬於的器官，它們甚至會自我清除。癌細胞則反其道而行，它們將無限制的生長和擴散置於首位，絲毫不顧自身的功能和所處環境。
驅策我們的皮鞭
這一想法像皮鞭般驅策著我們：我們存在的目的是進步，而進步需要不受控制的指數增長。在這樣的思考范式下，現代公司在自由市場的資本主義體系中自然地產生了。諾伯特·維納將這樣的公司稱為「血肉機器」，並將機械自動化稱為「金屬機器」。
近來矽谷建立了並經營著新一類超級公司 （mega companies） ： 比特機器 （machines of bits） ，其背後站著一群篤信「科技奇點」教的人 。這一新興宗教的產生並不意味著我們的范式發生了根本變革，恰恰相反，這不過是指數增長崇拜與現代計算和科學結合後的自然演進。計算力指數式增長最終收斂於人工智能。
圖：RICHA BHATIA ‘Do we have a shot at singularity in 2018?
提出「奇點」思維的是這樣一群研究者：他們成功通過計算解決了那些一度被認為過於複雜而無法用機器解決的問題。於是他們堅信指數式增長的人工智能遲早會超越人類智力；人類一切既往的成就和目前的努力，與這樣的智力相比都微不足道。
他們找到了幫助人類進行數字計算的完美拍檔：一個看似可知、可控的思考與創造系統，它控制與處理複雜性的能力快速增長，給那些掌控它的人帶來大量的財富和權力。在矽谷，這一技術狂熱團體的從眾思維 （groupthink） 及金融成功締造了一個極端的正反饋系統，幾乎不給負反饋調節留有餘地 （越是相信這樣的奇點思維，越能積累物質財富並且創造出這樣的文化氛圍） 。
這些人矢口否認他們對奇點思維的狂熱信仰近乎宗教，並辯稱他們的想法其實基於科學和證據。然而這些相信科技奇點的人其實空口無憑，他們在缺乏堅實證據情況下盲目推測事物的發展軌跡，臆想出了一幅未來圖景。
奇點主義者相信世界是「可知的」，是可以通過計算模擬的，而且計算機有朝一日會有能力處理現實世界的雜亂無章——畢竟有那麼多過去人們公認計算機無能為力的問題，最終都被解決了。他們相信，因為計算機在過去所向披靡，所以這個奇妙的工具必然在未來繼續不負期望，直到我們超越已知的界限，甚至最終加速到沖破現實的「逃逸速度」。
人工智能正逐漸在駕駛汽車、診斷癌症、研究法庭文件等方面取代人類。於是他們相信人工智能會繼續進步，最終和人腦結合成為一種全知全能的超級智能。對於那些虔誠的信徒來說，計算機可以增強人類的思維並將它延展到一種「超限生命」 （amortality） 的狀態。 （奇點理論的一部分是為「超限生命」鬥爭：雖然將來我們還是會死亡，還是無法永生，但我們不會再死於無情的衰老。）
但是，奇點這個想法——特別是那種像救世主或審判日一般，允許我們超越混亂痛苦的日常生活羽化登仙的「奇點」——本質上就有缺陷。
但是，如果超級公司的出現是我們超限的先驅，那麼只有無可救藥的傻瓜才會相信，更多的計算和生物黑客可以幫助我們解決世界上的所有問題，或者相信奇點最終可以破解人類。我們正夢想著有一天可以提升大腦性能，超越死亡，看得更高更遠，但我們現在需要明白的是，巨型公司已經擁有了某種「超限生命」：只要收支平衡，它們就可以持續存在；並且它們作為整體遠遠超過了其部分之和——它們甚至可以被稱為擁有超限生命的超級智能。
倘若真的寄希望於奇點帶來美好結果，必須要存有這樣的信念：系統在力量足夠的情況下總能以某種方式掌握如何自我調控。即使其最終結果可能極為複雜，遠非當前的人類所能理解，但「它」應當能夠理解並「解答」自我。有些人認為，這樣的智能會採取類似於前蘇聯計劃經濟式的總體規劃/調配，但不同之處在於它將擁有全部信息和無限力量。
還有些人的構想稍成熟些，認為這樣的智能會是一個分布式系統 （distributed system） 。 但所有的奇點主義者都或多或少相信，當我們有了足夠的力量和控制的時候，世界是可以被馴服的。並非所有相信奇點的人都將其當作積極超越 （positive transcendence） 來膜拜，認為它能夠帶來永生和富足，但是他們都相信當所有曲線引向豎直之際，我們就迎來了審判日。
然而，不論你是在一條S形曲線還是鐘形曲線上，一開始的斜率都看上去和指數曲線非常相似。在系統動力學研究者眼中，指數曲線意味著自我強化的過程，也就是說這是一條代表著無限加速增長的正反饋曲線。或許這就是讓奇點主義者興奮不已，也讓系統論者恐懼不堪的原因。
絕大多數對奇點沒有狂熱崇拜的人都相信S形曲線，他們更喜歡自然適應和自我調控，比如當瘟疫掃過，增長會放緩，秩序會調整。當然，事物也許會和過去有所不同，相變可能會發生，但是，奇點這個想法——特別是那種像救世主或審判日一般，允許我們超越混亂痛苦的日常生活羽化登仙的「奇點」——本質上就有缺陷。
這樣的還原主義的思維並不新鮮。在行為心理學家斯金納 （B.F. Skinner） 發現並描述了強化反射原則後，人們依照他的理論設計了教育系統。如今研究學習的科學家們都知道，這種行為主義的方法在教學領域中的適用範圍非常狹窄，可是仍然有大量的學校依靠死記硬背和題海戰術教學。
還有個例子是優生學運動，它把遺傳學在社會中起到的作用過度簡化並扭曲了。優生學運動提供了一種還原主義的科學觀，讓人們以為可以人為推動自然選擇來「修復人類」 （fix humanity） ，甚至助燃了納粹的種族屠戮計劃。優生學的恐怖影響至今陰魂不散，以至於幾乎任何關聯遺傳與智力之類的事物的研究都成了禁忌。
在斯金納箱中的實驗小鼠 圖：SciencePhotoLibrary
我們應該從歷史中吸取教訓，不要再把過度還原主義的科學運用於社會，而應如維納所言，「停止親吻抽打我們的皮鞭」。優雅地解釋複雜事物，並將困惑還原為理解——這的確大大驅動了科學的發展，但我們同時也不能忘記愛因斯坦的名言，「萬事萬物都應該被盡可能地簡化，但是不能再簡化了」。
我們需要擁抱現實世界的不可知性，或言不可還原性，學著像藝術家、生物學家和那些深諳世界之紛亂的人文工作者一樣思考。
我們都是參與者
維納在冷戰時期寫下了《人有人的用處》。冷戰期間資本主義和消費主義快速膨脹，太空軍備競賽方興未艾，計算科技尚未成熟。那個時代的人們更容易相信一個複雜系統可以被外部環境所控制，而世界上的問題可以通過純粹科學和工程的方法來解決。
那時維納重點描述的控制論中的系統，是那些可以從客觀視角控制並調控的反饋系統。該理論又被稱為「一階控制論」 （first-order cybernetics） ，它假設作為觀察者的科學家能夠理解系統中正發生什麼，因此工程師也能基於科學家的觀察和洞見來設計系統。
如今我們可以更明顯地看到，我們絕大多數問題——氣候變化、貧困、肥胖、慢性疾病、現代恐怖主義等等——並不能簡單地通過積累資源和強化控制來解決。 其肇因在於上述問題其實是一系列複雜適應系統的結果，而這些系統恰恰是我們過去解決問題的工具所造成的 ，比如我們一直以來無止境地增加生產力並企圖控制種種事物，反倒促發了我們現在所面對的問題。
在這個關頭，我們引入了二階控制論，也就是關於自適應 （self-adaptive） 複雜系統的控制論：這類系統中，觀察者也是系統本身的一部分。正如凱文·斯萊文 （Kevin Slavin） 在《設計即參與》 （Design as Participation） 中所言：「你不是被困在交通堵塞里了——你就是交通堵塞。」
一階和二階控制論 圖：Interactive Architecture Lab
為了有效應對我們這個時代的重大科學挑戰，我認為我們必須將這個世界視為諸多相互交聯的、複雜的自適應系統。這些不可知系統跨越不同的尺度和層級，但又與觀察者和設計者密不可分。換句話說，我們是多重演化系統中的參與者，從微生物到我們的同一個體，再到社會和我們的物種，在不同尺度有著不同的適應度地形 （fitness landscapes） 。個體本身都是由層層嵌套的系統組成的，比如組成我們的細胞——其運作方式比我們更像系統層級的設計者。
雖然維納在他的作品里討論了生物演化和語言演化，他並沒有詳談借助演化動力 （evolutionary dynamics） 推動科學發展。各個物種的生物演化 （基因演化） 由繁殖和生存驅動著，它們將生育和生長的目標及渴望灌輸在我們體內。這樣一個系統會不斷演化以調控生長，增加多樣性和複雜性，並提升其自身的適應性、穩定性和可持續性。
作為逐漸意識到更為廣義的系統存在的設計者，我們所具有的目標和方法論是在我們的生物及社會背景下由演化和環境輸入界定好的。然而，具有湧現智能 （emergent intelligence） 的機器有著與我們明顯不同的目標和方法論。當我們把這些機器引入我們的系統，它們不僅會增強個體人類，更重要的是它們會整體地增強複雜系統。
這樣的系統里，我們追求的是提高系統的繁盛程度： 保證系統充滿健康和活力，而不是一味地擴張系統的規模或是權力。
現在我們已經可以明顯地看到， 人工智能的構想是有問題的：它所提議的那些形式、目標與方法均置於與其他複雜適應系統的交互作用之外 。當我們談到機器智能的時候，與其將它視為與人類相對立的智能，我們應該將其構想為一種人機交融的系統。我們需要的不是人工智能 （artificial intelligence） ，而是延展智能 （extended intelligence） 。
與其企圖控制、設計或是透徹了解系統，我們更應該著手設計能夠參與的系統 （systems that participate） ，這樣的系統能在更為複雜的系統中成為有擔當、能覺察、穩健的系統構成要件。如此，我們既是系統的設計者也是其組成部分，所以我們必須反思自己的目標和敏銳性 （sensibilities） ，磨平自己高傲的棱角：我們需要的是謙遜，而不是掌權。
我們或可稱之為「參與者式設計」 （participant design） ： 將系統設計為參與者，並且以參與者的身份設計系統。 這樣的系統里，我們追求的是提高系統的繁盛程度：保證系統充滿健康和活力，而不是一味地擴張系統的規模或是權力。我們可以考察系統是否能創造性地適應變化，是否能保持堅韌，是否能以有趣的方式利用資源。
比起單純地解決問題或力求效率最大化，更好的干預方式是發展我們的敏銳性，使其能夠適應特定環境與時期。可以說，這樣的干預更像是音樂而不是算法。音樂之美關乎敏銳性或言「品味」，源於大量元素結合而湧現出的新秩序。器樂的譜寫能夠促使或導致系統以不可預測，或完全自發的方式調整或運動，然而最終的產物仍是完整和諧的。甚至早有人想過用音樂本身干預系統。蘇格蘭作家、政治家安德魯·弗萊徹 （Andrew Fletcher） 曾在1707年說：「讓我譜寫國家之歌吧，我不在乎誰制定法律。」
圖：Eric Nyffeler
如果你覺得用歌曲代替法律的想法太輕浮，別忘了音樂往往比法律更長壽。音樂在歷史上許多暴力革命或和平變革中都起到了關鍵作用，音樂和它們所承載的價值被人們口口相傳。關鍵不是音樂或符碼本身，關鍵在於歌曲所運作的那個層次上的變革往往更為深刻。
許多思想家都曾談到這一點，比如多內拉·米鐸絲 （Donella Meadows） 認為，在干預複雜自適應系統時，改變系統參數甚至規則，都遠不及改變系統的目標和范式來得有效。
這個世界依然堅信「大就是好」，依然不明白「過猶不及」。
當談及我們對進步的崇拜，維納說道：
對於那些將進步視作道德準則的人來說，目前不受控制的、準自發的進程是或許算件好事 （Good Thing） 。而且他們認為這一基礎保證了我們的後代會生活在宛若天堂的世界。我們可以承認進步是歷史事實，但我們不需要把進步奉為道德準則。但是按照許多美國人的邏輯，兩者是一枚硬幣的兩面。
這個世界依然堅信「大就是好」，依然不明白「過猶不及」；在這種情況下我們與其說「可持續性」是個尚待「解答」的問題，不如反思一下我們適應度函數中的價值觀念與「貨幣」體系，追問它們是否真的適用於我們作為參與者所置身的系統。
結論：一個繁盛的未來
在伊麗莎白·安斯科姆 （Elizabeth Anscombe） 1958年的一篇文章中，繁盛 （flourishing） 是一個極為重要的概念。
如果我們想要發展人類敏銳性和繁盛的文化，並認可「成功」的衡量方式不止一種，我們就不能局限於權力和資源的積累，而應該注重多樣化和經驗的豐富性。這才是我們最需要的范式轉換 （paradigm shift） 。這樣才可能產生一個豐富的資源庫，讓我們可以利用其中的技術和文化模式，來創造一個高度適應性的社會。 多樣性能讓系統里的各個元素相互回饋和支持，而不是像只有單一「貨幣」的單元文化 （monoculture） 那樣充滿剝削和掠奪的風氣。 這樣的新文化會像音樂、時尚、靈性等藝術形式那樣散播開來。
我是土生土長的日本人，最近我曾與一群初中生交流，我問他們該如何對待我們的環境，怎樣才算是快樂，以及人類在自然中扮演什麼角色，他們的想法讓我備受鼓舞。我同樣對電氣電子工程師協會這樣的組織滿懷希望，它們創始之初的設計哲學是通過發展人工智能來提升人類的康樂，而不是擴大經濟影響力。
彼得·塞利格曼 （Peter Seligmann） 、克里斯托弗·弗里拉蒂 （Christopher Filardi） 和瑪格麗特·莫拉 （Margarita Mora） 在國際自然保育組織的工作也充滿創造力而且令人興奮，因為他們支持原住民的繁榮發展來保護環境，而不是阻礙他們的發展。
上世紀六七十年代，嬉皮士運動試圖一道帶動 「全球」運動 （「whole earth」 movement） ，然而如今我們又回退到了消費主義的社會。我希望並相信一場新的覺醒運動已在襁褓之中，而新的敏銳性會通過文化變革給我們的行為帶來非線性的革新。雖然我們可以且應該繼續致力於系統的每一個層面，進而構建一個更為堅韌的世界，但我相信文化層面的努力最有可能在根本上矯正我們的方向，讓我們遠離目前這條自我摧毀的道路。
我認為仍會由年輕人的音樂和藝術反映、放大一種新的敏銳性：向貪婪的世界說再見，讓我們迎接「過猶不及」的新時代；向控制自然說再見，讓我們在與自然的和諧共處中繁盛。
本文選自 《設科志》（Journal of Design and Science） ，作者：伊藤穰一，中文版首發於微信公眾號： 神經現實（ID：neureality） ，翻譯：嘉嘉，編輯：夏明明，封面：《攻殼機動隊》
*文章為作者獨立觀點，不代表虎嗅網立場
本文由神經現實© 授權虎嗅網 發表，並經虎嗅網編輯。轉載此文章須經作者同意，並請附上出處(虎嗅網)及本頁鏈接。原文鏈接：https://www.huxiu.com/article/307542.html
未來面前，你我還都是孩子，還不去下載虎嗅App猛嗅創新！
>抵抗還原宣言：人工智能不是終極答案