AI の 哲學？ 沒有代碼，就不會有 bug？

作者 | 一一

出品 | AI科技大本營

又一代碼清庫的慘案發生了，不過這次要背鍋是 AI。

最近，美國最大點評網站 Yelp 的工程師訓練的神經網路闖禍了。他們訓練了一個用來消除 bug 的神經網路，萬萬沒想到，該網路刪除一切，從根上徹底了做到「bug-free」……有點兒厲害。

Yelp 團隊在 APP 中向近期可能感到體驗不暢的各位用戶致歉，該團隊還表示，他們將不得不進行回滾（Roll back），但隨即話鋒一轉，他們說好的一面是，這說明 APP 中 100% 沒 bug 了啊。

好吧，沒跑了，這個鍋還是工程師的。

神經網路算法的這一波操作，讓人不禁想起郭德綱的一個相聲段子，「我心善，見不得窮人，於是把自己目之所及的窮人全趕走了。」收到工程師的任務指令後，興許 AI 發現一個個 debug 太不省心，心一橫，乾脆一鍵 all clear 算求。

這事要在國內互聯網公司，搞這個大一個工程事故，九成要說殺一個工程師祭天，盡管 Yelp 最後的點睛自嘲蠻輕鬆的，但人前賣笑，誰知道代碼清除後工程師是不是目瞪口呆或者心里在吐血呢……畢竟，要 Roll back。

Roll back 究竟意味著什麼？它指的是程序或數據處理錯誤，將程序或數據恢復到上一次正確狀態的行為。那 Roll back 工作量有多大呢？回滾對工程師意味著非常嚴重的失誤，微博網友@互聯網八卦民工評論說，Yelp 在真實環境訓練自己的人工智能神經網路去刪除 app 中的 bug，結果是人工智能把所有都東西都刪了，這不是一個簡單的 Roll back。

網友們更好奇的是 Yelp 的工程師訓練了一個怎樣的網路？拿何種樣本訓練的？損失函數是如何設計的？有人猜測，代碼里面沒有 bug，損失函數一直是零，BP 和優化器無用武之地，所以觸發異常，把整段代碼都視為 bug？

代碼里面沒有 bug 似乎不太可能，翻閱 Yelp 的版本更新歷史記錄，你會發現這簡直是一部「除蟲史詩」，你們感受一下：

本來是想讓 AI 來幫忙 debug 的，現在工具反到成了阻礙。不知道是 debug 工具本身的黑箱問題，還是使用它的人沒找到正確的「竅門」。至於這次 Yelp 工程事故報告還未有進一步的信息披露，但用神經網路算法 debug 應該有風險，部署需謹慎。

不過一款讓工程師省時省力的 debug 工具顯然是人人所期待的，AI科技大本營之前寫過一篇《@工程師，終於可以放心寫bug了！Facebook的debug神器你值得擁有》中提到，去年 9 月，Facebook 基於 AI 技術再次推出新款代碼調試工具 SapFix，可針對特定的 bug 自動生成修復程序，然後將其提交給工程師，經確認之後，然後再部署到生產環境中。相比其一年前已投入大規模使用的智能自動化軟件測試工具 Sapienz，SapFix 能夠在沒有 Sapienz 的情況下運行，主要用於修復 Sapienz 在生產前發現的程序 bug。

從發現 bug 到修復 bug，Facebook 有一套完整的流程：首先 Sapienz 以及 Facebook 的靜態分析工具 Infer，會幫助定位代碼中需要修補的點；一旦 Sapienz 和 Infer 精確定位與崩潰相關的特定代碼部分之後，就會將該信息傳遞給 SapFix；最後，SapFix 會參考幾種不同的策略，自動生成補丁。

根據 Facebook 的數據，Sapienz 報告的大約四分之三的錯誤都需要開發者來修復。自 Facebook 開始測試 SapFix 之後，該工具已經成功生成了被人類審核者接受並部署於生產的補丁。不過，目前 SapFix 總體上仍在開發階段。

Facebook 都還只是在嘗試階段，Yelp 的工程師這次似乎對自家的 debug 工具太自信了，一鍵清庫簡直不能更酸爽，不知道他們這次有沒有感受到來自深度學習的威力。