尋夢新聞LINE@每日推播熱門推薦文章，趣聞不漏接❤️
摘要：但是，我們還需要更加熟練地預測系統的影響，保護我們社區的健康和福祉，並了解當使用我們產品的人越來越多時可能會對社會產生的影響。當我和其他許多人正在仔細考慮我們已經創造和將要創造的東西的影響時，我想澄清一件事：盡管我們在面對這些挑戰方面還有很多工作要做，但我並不後悔自己在創造這些產品中所扮演的角色。
神譯局是36氪旗下編譯團隊，關注科技、商業、職場、生活等領域，重點介紹國外的新技術、新觀點、新風向。
我想和大家分享一下我今年3月初在西南偏南（SXSW）舉辦的設計研討會上的演講。這次演講的靈感來自於一種根深蒂固的信念——那就是我們正處於公司和行業歷史的關鍵時刻，並提出了一些讓我們能夠迎接挑戰的方法。什麼挑戰呢？我們所創造的這些令人驚嘆的產品所帶來的挑戰。
作為技術人員，我們可以說是一些有史以來最強大的通信工具的管理者。這些工具在世界上帶來了很多益處，它們所具有的力量也需要一種深刻的責任感來平衡，以保證每時每刻都能做出最合乎道德的、負責任的決定。
雖然這個演講是針對設計師的，但核心是為了使我們所有人拓寬視野，正視自己的責任與可能產生的系統影響和社會影響。要做到這一點並不容易，我們需要繼續投入時間和精力，以新的方式思考、工作和評估我們的成功，確保這些艱難的決定萬無一失。
我完全相信，我們目前所面臨的挑戰，將使我們和整個行業更加強大，在履行職責方面更加嚴格，並更好地應對未來不可避免的挑戰。
對於Facebook來說，過去的一年並不是輕鬆的一年。
我們面臨著許多棘手的問題，但在選舉干預、隱私保護、社交媒體對福祉的影響、內容政策等問題上卻鮮有爭議。當涉及到這些問題時，很少有明顯的答案或簡單的解決方案。
我們構建了一個令人難以置信的多元化的全球社區，這個社區在對與錯、什麼可接受與什麼不可接受上並不都持有相同的觀點，更不用說同樣的法則了。
道德測試
讓我們來嘗試思考一個道德難題，別擔心，它不涉及電車失控讓你抉擇該救誰。
一場自然災害發生了，可能是颶風，也有可能是地震或者滑坡。重點是：許多生命危在旦夕。一個國際災難響應組織要求Facebook提供受影響地區的人們的信息：他們的位置和行動。
我們該怎麼辦？如果我們分享這些數據，我們也許能挽救一些生命。但是這樣一來，就會有很多關於人們位置、移動數據的隱私信息暴露出來，他們可能會認為這種行為嚴重侵犯他們的隱私。
我在世界的不同地方獲悉了人們對此具有不同的反應。
你可能不會對這個問題過分上心，但對我們來說，這不是什麼假設。2017年3月，秘魯遭遇嚴重洪災。人道主義組織與我們接觸，詢問我們是否能提供幫助。我們查看了平台上的使用趨勢，它們反映了用戶的位置、移動和告知「安全」的消息。
去年6月，我們宣布與聯合國兒童基金會（UNICEF）、國際紅十字會和紅新月會聯合會（International Federation of Red Cross and Red Crescent Societies）以及世界糧食計劃署（World Food Program）建立夥伴關係，在該夥伴關係中，我們分享了有關自然災害期間人們的實時但匿名的匯總數據。與受人尊敬的組織合作當然會讓一些人對共享數據感覺更好，但這並不能消除對隱私的擔憂。這是一個複雜的決定，雙方都有充分的理由。
這只是一個例子。當你面對著全世界都在使用的產品時，經常會出現這種情況。這項工作的一部分是處理有關設計和部署新技術的最佳方式的決策。這些決策通常都具有挑戰性。不僅Facebook是這樣，我在YouTube和Google Search擔任設計總監時也是這樣。
我已經在設計和技術領域工作了20多年，主管了Google Search的設計工作，然後是在YouTube，現在是在Facebook，我可以告訴你，這些問題中的許多問題都不是什麼新鮮問題。但由於企業的規模如此巨大，我們知道，做好這項工作需要一種高度的責任感。
因此，我想談談我們所肩負的責任，以及我們已經學到並仍在學習的一些經驗教訓。我還想具體談談設計如何在這一切中發揮關鍵作用。當我說到設計的時候，我指的不僅僅是表面上的設計，不僅僅是如何把東西做得賞心悅目，我說的是從頭到尾設計有用的和可用的產品這樣一個廣義的范疇，從我們可能構建的最初想法到正式發布再到將來的迭代升級。
人文與科技的交匯
作為設計師，我們身處科技與人文的交匯點上。即使在當前的數字時代，這對我們來說也不陌生。自上世紀70年代末人機交互研究開始以來，設計師們一直致力於理解並確保我們構建的系統行之有效。
在一個全球化、網路化、高度個性化的數字產品世界里，作為設計師，把事情做好的風險變得越來越高，難度越來越大。為使用我們產品的人做正確的事，有時意味著首先要問自己一些很難回答的問題：我們在做什麼？
「能夠」，「可以」和「應該」
設計師、工程師和產品經理花了很多時間思考我們能夠構建什麼。也就是說，在我們現有的技術和我們所擁有的資源的限制下能夠拿出什麼樣的產品來。
我們也需要花時間思考我們可以構建什麼。也就是說，什麼是我們公司商業目標的階梯，什麼在我們的政策範圍內，以及，什麼是合法的。
但我們也知道，作為行業中的一份子，我們更需要花同樣多的時間思考我們應該構建什麼——即使我們沒有被要求這樣做——以及在某些情況下我們不應該構建什麼——即使技術條件允許也不行。「我們是否應該」是負責任的設計的本質。
就像救災一樣，在大部分情況下，答案並不是顯而易見、唾手可得的。如果真的那麼簡單，我們不會稱之為道德困境了。而「我們是否應該」這個問題也觸及了我們激勵的核心。
各種各樣的激勵
事實上，像Facebook和其他大型全球性公司構建什麼、如何構建以及為什麼構建，往往是由各種各樣的激勵決定的。
我們和大多數科技公司的一個主要激勵是創新。我們總是想要挑戰極限，探索科學技術解決問題和增強人類能力的方式。
另一個激勵是利潤。Facebook是一家上市公司，有法律義務關心股東的盈利。我們大多數人為企業工作。企業本身並沒有什麼錯。
通常還有第三個激勵：為社會做出積極的貢獻。我在Facebook工作，因為我相信技術有能力服務和改善人類和社會需求。我在Google、YouTube和Facebook的工作都是如此。
Facebook的使命是「賦予人們建立社區的力量，讓世界更加緊密」。我真誠地相信這一使命，這就是為什麼當我們看到我們為這個使命所創造的產品被他人用來傷害他人或社會時會特別痛苦的原因。
誠然，這些動機之間存在著一種張力，如果它們失去平衡，可能會出現意想不到的結果。但事實是，一個資本充足的企業可以做到很多對世界有益的創新。
我們只需要確保把長遠的眼光牢記在心里，並在過程中對做出合乎道德的、負責任的決定保持警惕。
因為從長遠來看，這三個看似相互競爭的激勵其實在利益上是一致的。
顛覆的歷史
當然，我們並不是第一批面對這些問題的技術人員。
縱觀歷史，每當有新的、顛覆性的技術被發明出來時，它們就會極大地衝擊現有的社會規範和制度，讓人感到不安。從農業到印刷業，工業化和數字化的興起——所有這些都顛覆了現有的產業、意識形態和權力結構。所有這一切都產生了無法預料的後果，也讓不少人對新生事物持一種懷疑的態度。
有趣的是，你知不知道蘇格拉底（Socrates）曾警告人們不要寫作，因為這會使人們疏於記憶，「在學習者的靈魂中製造遺忘」。現在，作為一個誦讀困難症患者，我有點希望他能贏得這場辯駁。但即使是像我這樣的誦讀困難症患者也會同意寫作是一項我們應該掌握的技術，但我們只是事後才知道這一點。當你的生活處於混亂之中時，很難把對變革的厭惡與對可能對人類和社會有害的事情的有充分根據的恐懼區分開來。更有挑戰性的地方在於，這些發明可能是一把雙刃劍，關鍵在於如何使用和管理它們。
有什麼新鮮事兒嗎？速度和規模
除了新技術可能帶來的顛覆之外，還有兩件事讓Facebook目前的處境與過去的挑戰有了實質性的不同：規模和速度。
地球上有76億人，據可能有近40億人在使用互聯網，而Facebook的用戶數量就超過20億，差不多是1930年整個地球的人口數量。使用我們產品的人數之多令人震驚。雖然這在很多方面都是一件好事，但這也意味著我們身上的擔子何其之重。
當事情發展得如此之快時，要駕馭這一切就更加困難了。過去每一項重大的技術進步都需要幾代人的努力才能達到大眾的接受程度。
使用不同產品的人數達到一億所花費的時間
印刷品的普及花了一個多世紀，才有了堪堪1億擁躉。廣播的普及用了45年，電視的普及用了20年。Facebook和Snapchat的市值花了將近4年首次突破1億美元，而Instagram和YouTube呢？分別只花了28個月和24個月左右。
相對於其他技術，留給我們來理解自己開發和構建的產品如何影響人和社會的時間真的太短了。當然，我要說，這不是借口。但它很好地說明了我們在與自己產品的共同進步的過程中所面臨的挑戰。
但是，盡管這些變化的規模和速度如此之大，考慮到新技術對人和社會的影響，無論是好是壞，我們作為設計師在工作過程中都必須更加認真和謹慎。
設計責任的四個象限
這是我思考這一問題的框架，我稱之為設計責任的四個象限。
這四個象限代表了設計對人和社會的更廣泛的責任
在X軸上，我們構建的東西從左到右規模越來越大，從像素到產品再到產品運行的整個生態系統。當一件產品從像素擴大成生態系統時，約束、相互依賴和複雜性都會增加。
在Y軸上，從下到上規模逐步擴大，從一個人開始，然後逐漸擴展到整個社會。隨著規模的擴大，我們對設計對象、他們的動機、他們的文化、他們的需求和欲望的假設和約束就越少。
作為設計師，我們在左下角這個象限進行設計時感到非常舒服，因為在這個象限里，我們可以很輕鬆地優化我們的工作，真正精心製作一些產品。我們可以以人為中心，專注於我們有意為之設計的特定受眾。我們覺得自己可以理解和控制這一象限里發生的事情。你可以想像這是一個設計書籍封面的空間，雖然你需要讓它清晰易讀，準確地傳達書中內容的本質，但這是一個相對有限的設計空間。
但在X軸的最右端，我們可能會面臨網路效應帶來的意想不到的後果。我們正在設計的系統有時很難建模，有時我們只是在它大規模投入使用之後才知道究竟會發生什麼。比如說，就像一種清潔產品，它可能對特定的任務特別有效，但當它進入整個水循環系統中時，可能會對植物和動物的生命產生意想不到的影響。
當你在Y軸上逐漸向上發展、為整個世界設計產品時，就會出現一系列其他的問題。例如，你可以看到Facebook在世界不同地區的運作方式是多麼不同，從人們訪問互聯網的方式，到他們擁有的各種設備，到他們的社會規範、政治背景和經濟條件。隨著使用你產品的人數的增加，人們以意想不到的方式使用它的可能性也會增加，這可能會產生好的和壞的結果。
從YouTube這樣的產品身上就可以明顯看到這一點，它不僅可以讓你我通過視頻記錄和分享我們自己的個人生活瞬間，還可以讓可汗學院（Khan Academy）通過教學視頻改變人們學習的方式。而Facebook同樣可以被用來推動社會變革，比如組織婦女遊行。
如此眾多的人使用我們的產品，毫無疑問會對我們社會的運作方式產生影響。
當然，這些影響也有不那麼正面的例子，比如操縱選舉，以及兩極分化。當技術向Y軸頂端擴展時，可能會無意中造成許多傷害。
傳統設計一般不會在其他的幾個象限投入大量的時間。這是社會學、公共衛生、文化研究、可持續設計、經濟學等諸多學科交叉研究的領域。從某種意義上說，它是一種新型的「數字空間規劃」。
為所有四個象限進行設計，擴展我們的發明對人和社會的影響，這是倫理上負責任的設計的核心。在數字領域，還沒有多少產品能在這方面做得很好。對我們所有人來說，這既是一項挑戰，也是一個機遇。
那麼，我們可以從哪里尋找靈感呢？我認為，我們回顧一下歷史，看看我們能從中學到什麼教訓。
魚鉤
這是我最喜歡的設計品之一。
魚鉤（USA）
這是一個手工雕刻的魚鉤，由阿拉斯加土著部落的一名成員在100多年前設計而成。我第一次看到它是在Cooper Hewitt Smithsonian國家設計博物館的一場關於人類歷史上所創造的工具的展覽上。不管是誰發明了這個，可能都不認為自己得以榮膺設計師或發明家的稱號，但他們確實當得。
這個魚鉤可能看起來很古老，但它的設計比現在的許多魚鉤都要複雜，原因如下：它被設計用來釣起一定尺寸的比目魚，讓小魚得以繼續生存，同時又不會釣上來塊頭過大的魚，因為太大的魚無法裝進獨木舟里去，所以你看，這是一個非常具有實用性的產品。從本質上說，它幫助這一部落的人做到了捕魚的可持續化，就憑這一點就，我們也要對它刮目相看，豎起大拇指了。
但除了巧妙的功能之外，這個魚鉤還有另一個吸引我的地方：它還有一個美麗的雕刻，描繪了因紐特人和海里的魚之間的精神交流。這一群體相信，如果他們尊重自己獵物的話，下一個季節會有更多的魚。
像這樣的一個設計品居然滿足了所有四個象限的要求，因為它不僅僅與捕魚有關，它的目的是保護和維持一個更廣泛的生態系統。它的目的不只是造福一個漁民，而是造福整個社會，同時還豐富了精神世界。
總之，這個魚鉤的確不簡單。
那麼，我們能從這件設計品上學到什麼呢？可以肯定的是，我們很擅長在左下方的一畝三分地里做的很成功。但是，我們還需要更加熟練地預測系統的影響，保護我們社區的健康和福祉，並了解當使用我們產品的人越來越多時可能會對社會產生的影響。
在Facebook，我們並不總是能做到這一點。公平地說，想要一直做好這件事真的很難。但事情很難並不能成為沒有做好的借口。我們作為一個公司和一個行業，必須永遠做到最好，永遠努力做得更好。
雖然我們可能是應對這些問題的科技公司中最為大眾所熟知的一個，但我們並不孤單。
因此，讓我們研究一下已經出現的一些問題以及我們的處理方法，希望它們可能對你和你所在的組織有幫助。
不良用例
作為設計人員，我們花了很多時間考慮我們想要支持的「用例」。但是，正如從一些非常慘痛的教訓中學到的，我們其實需要花更多的時間來研究「不良用例」。
從Facebook到YouTube再到Google，這對我參與過的每一個全球平台都是一個挑戰。
我們所處的行業——科技行業——非常樂觀。樂觀是一件好事，如果沒有樂觀，我們的大多數產品從一開始就不可能生產出來。但是，我們所談論的這種規模的樂觀情緒有時需要有所收斂。道德設計要求我們確保平台上的每個人的安全以及平台本身的完整性。
這里有一個關於網路濫用的例子。
在過去的幾年里，我們通過對印度的定性研究發現，一些印度女性想上傳個人資料照片，但覺得這樣做不安全。她們擔心陌生人——壞人——會下載她們的照片，利用照片跟蹤或騷擾她們，甚至威脅她們的人身安全，損害她們的家庭聲譽。
Android系統的配置文件圖片保護
因此，我們與安全組織合作發布了一系列安全功能來解決這些問題。在印度，人們可以選擇添加頭像保護。為了真正阻止壞人，在Android平台上，我們的設計可以防止有人截屏你的頭像。
這是一個典型的平台上的不良用例——有人利用我們的產品傷害他人。我們已經對這個問題做出了有效的反應，但在未來，我們需要在發布前更好地預測這類問題，並從一開始就實施這些保護措施。這在全球範圍內是很難做到的，我們不會總是做對，但我們有責任總是做得更好。
外部專家
預測壞的參與者——或者更普遍地說，壞的結果是複雜的，有時還需要外部專家的幫助。當我們以如此巨大的規模運行並參與那些複雜的系統和社會象限時，我們必須與外部專家進行磋商，他們將對我們的工作提出新的、有價值的批評，並為我們提供一個超越矽谷的視角。
尋求幫助不是軟弱的表現而，是成熟的標誌。
這是道德責任設計的另一個基本工具。
在早期，我們並不總是尋求來自外部的幫助，但我們逐步發現自己可以，或者應該接受外部的幫助。從那時起，我們學到了很多東西，並越來越多地與外部專家合作，以期把事情做得更好。
我可以舉一個具體的例子：因為人們通過我們的產品與朋友和家人聯繫，Facebook有時能夠識別並幫助那些經歷痛苦和自殺念頭的人。當我們試圖確定是否以及如何應對這些情況時，我們會果斷地尋求外部幫助，因為盡管我們非常關心社區的健康和福祉，但我們不是預防自殺的專家。
使用人工智能來識別自殺意圖
結果就是，我們與頂尖的心理健康專家合作，共同開發了一套應對工具。現在，當我們意識到有人在表達自殺的想法時，我們會提供資源，幫助他們與親人和心理健康專家聯繫。最近，我們開始在Facebook Live上推廣人工智能，幫助人們識別自殺意念，並幫助他們與各種資源取得聯繫，以獲得必要的實時幫助。僅在上個月，我們就根據從主動檢測工作中收到的報告，與100多個病例的第一反應者進行了合作。
我們還使用人工智能來幫助發現最令人關注的報告。我們發現這些報告引起地方當局關注的速度是其他報告的兩倍。在未來，我們將繼續投資人工智能技術，以期提供更好的服務。
作為一個因為自殺失去了兩個家庭成員的人，這些努力對我個人來說非常重要。這些親戚住得離我並不是很近，我非常希望我能有機會早點了解他們正在經歷的變化以避免本不該發生的結果。
當然，這並不是我們可以向專家學習的唯一領域。我們正在與Facebook新聞項目的記者合作，以確保我們的平台能夠提供高質量的新聞和更可持續的商業模式；我們也與心理學家和其他健康專家建立了合作關係，就過度使用社交媒體的擔憂向他們征求意見和咨詢。我們還在與外部技術專家合作，為我們負責任地開發人工智能和機器學習提供方法指導。
我非常感謝這些專家幫助我們以一種為人類和社會創造最佳可能結果的方式構建產品。
評估成功
假設你在預測和設計方面做得更好並且一直在尋求外部專家的幫助來創建更好的結果，但如果你不能很好地理解什麼才是真正的成功，你可能仍然不能做出正確的決定。
科技行業在評估成功方面有很多指標，Facebook自然也不例外。但是，當我們看到指示板和數字時，很容易就會忘記指標只是一個工具，而真正的成功通常不是幾個數字就能描述得出來的，現實要複雜得多。
弄清楚你開發的產品是否對人們和世界有好處是一件非常複雜、微妙的事情。我們很容易陷入這樣一個陷阱，即評估我們能夠衡量的東西，而不是衡量我們真正看重的東西。如果沒有適當的背景，我們很容易就會被衡量指標所誤導，並錯過那些你的產品到底如何影響了人們的重要信號。
我們不應該只專注於衡量成功，而應該專注於評估成功，因為並非所有重要的事情都可以衡量。順便說一下，這個問題並不新鮮，也不是科技行業獨有的。
1968年，Robert Kennedy發表了一場關於國民生產總值（GDP）的競選演說，國民生產總值是衡量一個國家經濟增長的指標。在描述了自己在美國目睹的一些可怕的貧困狀況後，他說：
我們的國民生產總值現在已經超過八千億美元，但這還包括了空氣污染和香煙廣告，以及為交通事故而奔忙的救護車。它包括了我們裝在門上的特種鎖和關押撬鎖的人的監獄，包括了我們對紅木森林的破壞和因城市無序蔓延而消失的自然奇觀。它包括了凝固汽油彈，包括了核彈頭，包括了警察用來應付城市騷亂的裝甲車。然而，國民生產總值不包括我們孩子的健康，他們教育的質量和遊戲的快樂。不包括我們詩歌的美麗，我們婚姻的堅強，我們公眾辯論中的智慧，和我們官員的正直。它不包括我們的機智和勇氣，不包括我們的智慧和學問，不包括我們的同情心，不包括我們對國家的熱愛。
近50年後的2015年，聯合國通過了17項可持續發展目標，以一種微妙得多的方式闡明了一個繁榮社會意味著什麼。盡管在實施和做到這些目標方面仍面臨重大挑戰，但聯合國不再試圖用一個數字來評估社會健康等高度複雜的問題。
考慮到我們社區的規模、多樣性和複雜性，弄清楚成功對Facebook意味著什麼的確具有挑戰性。在很長一段時間里，我們把時間作為衡量成功的關鍵指標之一。尤其是當你第一次開始構建你的產品時，你所花費的時間可以作為衡量你是否創造了有價值的東西的一個合理的標準。如果人們在你創造的產品上花了很多時間，我們有理由認為它滿足了某種需求。
問題在於，不能把花費了多長時間與整個成功的評估孤立開來。讓人們盡可能多地把時間花在我們的產品上，可能會給人們和社會帶來意想不到的負面影響。Facebook最初是為朋友和家人提供一個互相聯繫的論壇。通過研究和產品變化，我們正在努力創建一種服務，以支持長期的有意義的關係的建立——不管是在線還是離線。
最近Facebook宣布，自己正在修訂衡量成功的方法，並將其中的一個核心指標——所花費的時間——改變為有意義的社交互動，優先考慮創建我們社交圖譜的互動類型。而我們的對成功的評估標準絕對不是一成不變的，它將會隨著時代的發展變化而發展變化。
但是，除了改進量化指標之外，另一種獲得事物如何運作的更豐富圖景的關鍵方法、一種獲取無法衡量的重要事物的方法，是通過同樣引人註目的定性研究來平衡我們擁有的強大的量化數據。
使用數據可能會告訴你人們在做什麼，但不會告訴你他們為什麼這樣做。
至關重要的是，我們要走出辦公室的高牆，傾聽來自世界各個角落各行各業的真實人物的聲音，了解我們的產品如何影響他們的生活。
廣泛地傾聽意見固然可取，但有時候，來自個人的反饋同樣會使我們受益匪淺。我再舉一個例子，三年前，我們為Facebook創建了一個「年度回顧」（Year in Review）產品，該產品使用一種算法來創建一個視頻，總結人們在Facebook上度過的一年。
Facebook社區的一名成員Eric Meyer講述了自己的故事。他在網上看到了朋友們的視頻，但沒有製作自己的視頻，因為他知道自己剛剛度過了什麼樣的一年——他失去了年幼的女兒。但後來，在他的新聞推送中，他看到了我們為他製作的一個視頻，視頻中，他最近去世的女兒正在盯著他。
獲悉了他的經歷後，我們邀請他到Facebook上談談他的經歷。他的演講深深地影響了設計團隊，他說的這件事被我們的模擬研究實驗室做成了令人難忘的海報：「當你說‘邊緣案例’時，你實際上只是在定義你所關心的東西的極限。」
從那時起，我們改變了對待這些經歷的方式，避免對人們以及他們的感受或生活做出假設。僅僅是傾聽和同情人們的經歷，就是以一種道德上負責任的方式建造和設計的關鍵組成部分。
我們不是為數字而設計，我們是為人而設計。
超過20億人在使用我們的產品，不使用量化數據來影響我們的決策是不負責任的。但道德上負責任的設計要求我們不僅要看電子表格，還要透過電子表格看到更廣闊、更深入的東西。定性研究——實際上就是傾聽人們講述我們的技術如何影響他們——是使我們保持睿智的關鍵，幫助我們超越測量本身，真正評估我們對人和世界的影響。
我與大家分享了我們的行業和我自己所在的公司所面臨的一些挑戰。當我和其他許多人正在仔細考慮我們已經創造和將要創造的東西的影響時，我想澄清一件事：盡管我們在面對這些挑戰方面還有很多工作要做，但我並不後悔自己在創造這些產品中所扮演的角色。
我的整個職業生涯都在構建使有益的工具，這些工具給世界帶來了前所未有的獲取信息、創造性地表達自己並與你最關心的人保持聯繫的機會。
這些都是人類長久以來的需求，科技能夠而且應該幫助滿足這些需求。通過在全球範圍內開展這項工作，我們幫助世界上許多群體發出了他們自己的聲音，從而廣泛地促進了多樣化進程。所以盡管有這樣或者那樣的重大挑戰，我依然不願意回到這些發明出現之前的世界。因為我相信它們是如此寶貴，所以我致力於確保我們以最負責任的方式設計和使用它們。
我們該怎麼做呢？
簡而言之，設計要向同時滿足四個象限方向努力：
不僅要在各種用例上花費足夠的時間，同時也要在避免不良用例方面下足夠的力氣。
尋求外部專家來處理複雜的系統和社會影響。
在評估成功的時候務必做到十二分的謹慎和細致。
最重要的是，我們必須記住，我們所有人——作為設計師，作為企業的一份子，作為一個行業——都有廣泛的責任確保技術是為人類服務的。
在Facebook，我們想說的是，這個過程只完成了1%。但我對挑戰感到興奮，並且躍躍欲試，作為一名設計師，我很難找到別的更值得關注的事情。
俗話說，容易做的事都不是什麼值得做的事。而這件事，我得說，絕對是值得做的。
譯者：喜湯