尋夢新聞LINE@每日推播熱門推薦文章，趣聞不漏接❤️
高層速讀
關鍵信息：本周，在瑞典2018年國際人工智能聯合會上，未來生命研究所所長、Skype和DeepMind創始人、馬斯克以及來2400多名學者簽署了預防AI武器化的禁令，他們警告稱不應該把人的生命交給機器，在各國將AI武器加入軍備競賽之前削減其發展。
關鍵數據：此次簽署包括90個國家160家公司的2400名公司高管、研究人員和學者，規模不斷增加。
關鍵意義：能夠自動殺人的AI武器和生化武器一樣令人不安和恐懼，應以同樣的方式處理。
本周，在瑞典首都斯德哥爾摩舉行的2018年國際人工智能聯合會議（IACJI）上，SpaceX和特斯拉的CEO埃隆·馬斯克、Skype創始人賈安·塔林、Google旗下DeepMind的三名創始人、以及未來生命研究所所長馬克斯·特格馬克在內的知名人工智能思想領袖，都對AI自動武器提出了抗議。
他們與來自90個國家的2,400名公司高管、研究人員和學者簽署了一封公開信，承諾不會「參與或支持AI自動化武器的開發、製造、貿易或使用」，他們警告稱，不應該把人的生命交給機器。
他們寫道：「數千名人工智能研究人員一致認為，這些武器可能會對每個國家和個人造成危險的破壞，尤其是在與監視和數據有關的情況下，自動化AI武器可能成為暴力和壓迫的工具。」
這90個國家的學者還呼籲各國政府先發制人，禁止AI武器研發及進入軍備競賽。特格馬克（Tegmark）在一份聲明中說：「很高興看到人工智能的主管者們從語言轉向行動，實施了一項政客們迄今都未能實施的政策。人工智能有巨大的潛力改變世界，但我們需要對它們的濫用進行預防。能夠自動殺人的AI武器和生化武器一樣令人不安和恐懼，應該以同樣的方式處理。」
活動發起人、未來生命研究所所長Tegmark
以下廣大學者和公眾是為禁止AI武器化所爭取的最新努力成果：2018年4月，一群來自人工智能和機器人技術影響中心的研究人員和工程師發表了一封公開信，呼籲抵制韓國先進科學技術研究所（KAIST），指責該研究所與國防承包商韓華關於軍事系統的合作。2017年11月，超過300名加拿大和澳大利亞的科學家給總理賈斯廷特魯多和Malcom Turnbell寫信，敦促禁止使用自動化武器。2015年，馬斯克、霍金和數百名科技領袖簽署了未來生命研究所的論文，支持立法管理自動化AI武器。
但到目前為止，他們的請求被置若罔聞。在過去的一年里，印度、智利、以色列和俄羅斯等國一直在追求自動化的坦克、飛機、偵察機器人、艦載導彈系統和武器化的無人機。在美國，包括國防部和國土安全部在內的聯邦機構都在尋求用機器學習來做到現代化的計劃。
但在員工和公眾的壓力下，Google在今年6月發布了一套指導性的人工智能原則，並取消了備受爭議的與五角大樓的「Maven」無人機合同；與此同時，微軟停止了與移民和海關執法部門的合作，並成立了Aether內部顧問小組，來批判性地審視公司對人工智能的使用；在前幾天的一篇文章中，微軟總裁史密斯呼籲國會立法，規範臉部識別在美國的使用問題。
但還有很多工作要做。
最近一份由美國國家情報總監辦公室委托撰寫的關於人工智能和戰爭的報告得出結論說，由於人工智能有可能大規模擴大軍事力量，各國幾乎會不可避免地會建立自動化AI武器系統，以增強軍備競賽。
這就是為什麼馬斯克等人說，在為時過晚之前通過監管來削減這些武器是至關重要的。
去年，馬斯克與來自26個國家的116名機器學習專家埃寫道：「一旦發展起來，致命的AI武器將允許武裝衝突將以前所未有的規模進行，比人類所能想像到的還要快。」
「這些武器可能是恐怖主義的武器，可能是獨裁者和恐怖分子用來對付無辜民眾的武器，還有可能被黑客攻擊（系統），以不受公眾歡迎的方式行事。」
