郭一璞 問耕 發自 凹非寺量子位 報導 | 公眾號 QbitAI





IBM的AI系統Watson（沃森）捅了一個天大的簍子：給患者開錯了藥。

剛被曝光的IBM內部文件顯示，許多醫生在使用Watson時，發現AI給出了「多個不安全、不正確的治療意見」，甚至在極端的診斷案例中，Watson給有出血症狀的癌症病人開了容易導致出血的藥品，嚴重時可致患者死亡。

去年，在美國臨床腫瘤學會年會上發表的研究表明，IBM Watson非常擅長為癌症患者制定治療計劃。然而，事實證明人工智能仍然遠非完美。

可能你還不知道，明顯存在bug的Watson系統並不是一個實驗室中樣品，這個可能會治死人的Watson已被全球超過230家醫院使用，其中包括北大腫瘤醫院、宣武醫院等67家中國醫院，分布在22個省份。

內部文件曝光

掀起熱議的「Watson開錯藥」消息，最早來自美國醫學媒體STAT。

STAT拿到了IBM公司內部的機密文件，來自時任IBM Watson Health副首席健康官的Andrew Norden，只有IBM的管理層有權限查看。

Norden在2017年6、7月間給出的報告顯示，正在使用Watson for Oncology（Watson腫瘤解決方案）的醫生們對它提出了強烈的批評：數個例子表明，Watson經常提出不準確的醫療建議，「在給出意見的過程和底層技術上存在嚴重的問題」。

文件中一個嚴重的例子是：

一名65歲的男性被診斷出患有肺癌，而同時，該患者也似乎有嚴重的出血症狀。Watson給這名患者的診療建議是：

1、接受化療；2、使用治療癌症的藥物貝伐單抗（Bevacizumab，商品名Avastin阿瓦斯汀）。

而貝伐單抗這種藥物可能導致的副作用之一，正是容易導致出血。在美國衛生系統藥劑師協會對該藥物的描述中，這種藥物有時會發生嚴重乃至致命的出血事件，所以該協會建議不要給嚴重出血的患者服用。





△貝伐單抗可能導致致命出血

Watson系統給出的診療意見忽視了這個可能導致該患者死亡的問題，開了錯誤的藥品。

不過，好在這個「65歲男性肺癌患者」並非真實存在，並沒有人因此而吃錯藥。負責訓練Watson腫瘤系統的紀念斯隆-凱特琳癌症中心對此回應道，這名「65歲男性肺癌患者」是癌症中心的醫生在訓練Watson時給出的虛構病例，只是為了訓練Watson的診斷能力。

這家醫院還發出聲明說，在實際運用中，醫生們會接受該癌症中心的醫生給出的指導建議，而不是完全聽信Watson系統的診療判斷。

給Watson一個差評

雖然紀念斯隆-凱特琳癌症中心認為醫生們給人看病的時候不傻，不會完全聽信Watson，但醫生們的懷疑和抱怨卻並不會因此消減。

首先這個案例說明：Watson的訓練，是通過假設性的癌症病例，而不是真實的患者數據來進行。而此前IBM的高管一再告訴客戶：「Watson for Oncology的建議是基於真實的患者數據，全世界的醫生都喜歡這種工具」。

這讓外界對Watson的有效性進一步產生了質疑。





佛羅里達州的朱庇特醫院就是憤憤不滿的客戶之一。在這份IBM的機密文件中，朱庇特醫院的一位醫生憤怒的說：「這玩意簡直就是一坨翔！我們買Watson來，是因為它的行銷搞的很厲害，讓我們覺得能靠它來做到一些願景。結果買來之後呢？這玩意什麼都做不了！」

事件曝光後，科技媒體Gizmodo採訪了朱庇特醫院的腫瘤科醫生Sujal Shah。這位醫生表示，只有當朱庇特醫院的醫生們對兩種不同的治療方案無法達成一致的時候，醫生們才會看看Watson站哪邊——現在5：5平，Watson你來投個票吧。

STAT此前的一項調查顯示，Watson for Oncology其實沒有達到IBM的預期，而這次曝光的文件表明，IBM的高管們知道自家產品給出的治療建議與國家治療指南相衝突，以及醫生認為這套系統作用不大。

當然，一直以來IBM高管都對Watson讚譽有加。

被曝光的文件中還顯示，有幾位IBM員工對Norden直言，Watson這套產品的能力「非常有限」。

在給STAT的聲明中，IBM表示已經根據客戶反饋、新的科學進展、新的癌症治療方案等，學習和改進了Watson Health。

動蕩中的Watson

這已經不是Watson今年第一次遭遇危機了。

Watson最早進入公眾視野是在2011年，它當時在電視智力節目《危險邊緣》中擊敗了人類。之所以做到這一創舉是因為這套系統具備強大的自然語言處理能力，因而可以理解現場的複雜問題，然後對龐大的數據庫進行掃描，最終給出答案。

兩年之後，IBM宣布Watson將在醫療領域找到第一個殺手級應用。這似乎是理所當然的：隨著醫院和醫生逐步採用電子病歷了解病人的狀況，Watson這樣的機器也可以提供數據檢索服務。

2016年8月，在與日本東京大學醫學院的合作中，Watson通過醫生上傳的DNA數據，在不到10分鐘的時間內給一個50多歲的女性做出了繼發性白血病的正確診斷。

去年2月，Watson在天津市第三中心醫院出診，在不到10秒鐘的時間，給一名胃癌局部晚期的患者開出了診療方案，跟腫瘤科主任的判斷一致。





當然，質疑的聲音一直存在。

除了上面提過的STAT批評，IEEE Spectrum也曾報導稱，IBM向Watson業務投入數十億美元，但「Watson醫生」尚未給醫療行業帶來革命。

今年5月底，Watson醫療健康部門發生了一次震動行業的裁員，可能有300人離開了IBM。一位被掃地出門的工程師表示，IBM針對「認知計算」平台的推廣，掩蓋了他們在利用人工智能盈利的過程中遇到的真正困境。

「IBM沃森擁有了不起的人工智能技術。」這位匿名的工程師說，「這就像有一雙好鞋，但卻不知道怎麼走路——你必須搞清楚怎麼使用它。」

來自華爾街的分析師們，也並不是都對IBM Watson持有積極看法。Jefferies去年7月發布的研報認為，盡管IBM對Watson展開大舉投資（該分析師可能2010至2015年間的投資總額為150億美元），但這個部門卻很難盈利。

即使IBM Watson「仍是市場上最有競爭力的現成人工智能平台之一」，但用戶在把Watson與現有的數據和分析系統整合的過程中仍然面臨嚴重困難。他舉了德克薩斯州MD Anderson癌症中心的例子，該中心投入了6200萬美元之後卻取消了他們的Watson項目。

Watson也進入諸多中國醫院





令人擔憂的是，這個被爆出會開錯致命藥的醫療AI，已經投入使用，被不少醫院運用在對真實病人的診斷治療中。

IBM發言人說，Watson腫瘤系統受過訓練，可幫助腫瘤科醫生治療13種癌症，並被全球230家醫院使用，「支持超過84000名患者的護理」。

而這230家醫院中，至少有67家中國醫院（截至2018年7月5日）。

根據IBM Watson在中國的代理官網信息，及中國信息產業網-人民郵電報、比特網等媒體的報導，量子位粗略的整理了部分已經引入Watson腫瘤系統的醫院。

中山大學附屬腫瘤防治中心中國醫科大學附屬第四醫院無錫市人民醫院浙江省中醫院天津第三中心醫院復旦大學附屬腫瘤醫院宣武醫院上海市浦南醫院廣州婦女兒童醫療中心番禺何賢醫院番禺中心醫院廣東省中醫院廣州軍區總醫院廣州中醫藥大學第一附屬醫院廈門大學附屬中山醫院福州市第二醫院福建省立醫院寧波市第四醫院大連大學附屬中山醫院昆明醫學院第二附屬醫院浙江省立同德醫院茂名市人民醫院新疆維吾爾自治區人民醫院台州市腫瘤醫院上海交通大學醫學院附屬瑞金醫院北院中國醫科大學附屬第一醫院中山大學附屬第六醫院成都西華腫瘤專科醫院廣東醫科大學附屬醫院徐州市腫瘤醫院山東齊魯醫院無錫市人民醫院常州市腫瘤醫院杭州市第一人民醫院南京醫科大學附屬淮安第一醫院安徽濟民腫瘤醫院江門市中心醫院新會區人民醫院新會區中醫院開平市中心醫院開平市中醫院台山市人民醫院台山市中醫院鶴山市人民醫院恩平市人民醫院廣東祈福醫院瀋陽軍區總醫院天津市第三中心醫院郴州市第一人民醫院江蘇省人民醫院蘇州市立醫院常州市腫瘤醫院蘇北人民醫院領銜的蘇北醫療集團和揚州泰州地區醫聯體醫院杭州沃森智能診所青島市立醫院青島大學附屬醫院中山人民醫院天津海濱人民醫院南京市第一醫院安徽省腫瘤醫院平安好醫生平台

患者到這67家醫療機構找Watson看病似乎也不便宜。根據億歐報導，IBM代理商百洋董事長付鋼在去年10月表示：「目前，Watson for Oncology的服務多為患者自付費，平均每人5000元左右。」

參與訓練Watson的紀念斯隆-凱特琳癌症中心回應此事稱：「雖然Watson腫瘤系統提供安全的治療選擇，但治療決策最終需要主治醫生的參與和臨床判斷，沒有任何技術可以取代醫生的工作，也沒有任何技術可以取代醫生對自己病人的了解。」

— 完 —

加入社群

量子位AI社群18群開始招募啦，歡迎對AI感興趣的同學，加小助手微信qbitbot8入群；

此外，量子位專業細分群(自動駕駛、CV、NLP、機器學習等)正在招募，面向正在從事相關領域的工程師及研究人員。

進群請加小助手微信號qbitbot8，並務必備註相應群的關鍵詞~通過審核後我們將邀請進群。（專業群審核較嚴，敬請諒解）

實習生招聘

量子位正在招募活動經營實習生，策劃執行AI明星公司CEO、高管等參與的線上/線下活動，有機會與AI行業大牛直接交流。工作地點在北京中關村。簡歷歡迎投遞到[email protected]

具體細節，請在量子位公眾號(QbitAI)對話界面，回復「實習生」三個字。

量子位QbitAI · 頭條號簽約作者

վ’ᴗ’ ի 追蹤AI技術和產品新動態