赖可 发自 凹非寺

量子位 报道 | 公众号 QbitAI
“谷歌研究并不是AI会如何革命医疗的例子，是AI会如何让不好的医疗更糟糕的警示。”
就在谷歌乳腺癌筛查AI引发了大家关注与讨论的时候，有人站出来质疑这根本是把力气用在了错误的地方。
美国的知名科学记者、《纽约时报》撰稿人Christie Aschwanden认为，虽然AI擅长检测出被忽视的变量，但如果这些变量是良性肿瘤，对于治疗毫无帮助，还可能导致身体危害。
AI筛查更精确更快，但也许它只是助长过度医疗。
毕竟，数据筛查和诊断疾病是两码事。
为什么她这么说？近日她发表在《连线》杂志上的一篇文章解释了背后的逻辑，以下是文章的主要内容，希望能够对你有启发~

谷歌乳腺癌AI也许在错误方向上用力

在谷歌AI检测乳腺癌实验发布的时候，Christie就发了Twitter：
这是AI用来解决错误问题的例子！目标应该是拯救生命，而不是把更多的健康女性变成癌症病人。
一周后，她在《连线》杂志发表文章阐述了自己的观点。
下面是文章的主要内容：
如果医生一开始就问错了问题——如果他们让人工智能去追求错误的前提——那么这项技术就会失败。它甚至会放大原先的错误。
从某种意义上说，这就是最近谷歌论文的情况。
AI试图复制，然后超越。而人类行为的核心是一个有严重缺陷的医疗干预。
几十年来关于癌症筛查都存在争议:让没有症状的人接受乳房x光检查或类似检查时，会发现很多看起来像癌症的东西，但不会威胁到任何人的生命。
事实上，许多人体内都有惰性癌症，这些癌症并不会对他们的健康构成威胁。
不幸的是，标准的筛选测试已经被证明最擅长精确地找到后者——生长较慢的，最好被忽略的。
从理论上讲，当筛查测试发现无害的癌症时，可以忽略它。但问题是，在筛查时几乎不能提前判别，特定病变会变得危险还是没有关系。
在实践中，大多数医生倾向于将发现的任何癌症都视为潜在威胁，而乳房X光照片是否真正挽救生命的问题是激烈辩论的问题。
一些研究表明，通过这种大规模的广泛干预，挽救的生命数量较少。
一些研究人员甚至计算出乳房X线摄片总体上不利于患者的健康。也就是说，就它导致的过度治疗，还有辐射带来的肿瘤而言，总的危害大于益处。
Google的AI系统承诺将人与机器结合起来，促进癌症诊断。但它们也可能使先前存在的问题更糟。甚至还不清楚本月报告的假阳性率和假阴性率的改善是否适用于实际环境。
谷歌的研究发现，人工智能的表现要好于没有接受过乳房X光检查训练的放射线医师。它是否会胜过一支更专业的专家团队？没有试验就很难说。
此外，研究中评估的大多数图像都来源于一家公司的成像设备。这些结果是否能推广到其他机器的图像还有待观察。

数据不一定帮助医疗

AI的特长是可以扫描大量熟悉的数据，并挑选出从未意识到过的重要变量。原则上，这种力量可以帮助我们诊断任何早期疾病。
但是有时候，隐藏的变量并不重要。
比如Apple Watch的检测心房纤颤的功能，这是一种心律失常，是中风的危险因素。
心房纤颤用血液稀释剂治疗，稀释剂具有副作用，可能使轻度的症状变得危及生命。
如果确实有中风的危险，那就值得冒险。但是，那些被智能手表捕捉到房颤的人呢？
原来的情况是，有人到医生那里抱怨症状时才诊断出这种病。现在，苹果公司对没有症状的健康人进行监视，并发现可能从未在诊所出现过的新病例。
目前还不清楚这组患者是否会从治疗中获得相同的净收益。

硅谷心态对临床可能是危险的

更为有效的方法是使用AI来识别从可用治疗中受益最大的人。
如果要证明AI确实具有革命性，那么它不仅需要复原医学现状，还需要做更多的事情。
在采用任何此类方法之前，必须解决两个基本问题：该技术试图解决的问题是什么，它将如何改善患者的治疗效果？找到必要的答案可能需要一些时间。
这就是为什么著名的马克·扎克伯格的座右铭Move fast and break things可能对Facebook很好，但是对医学（无论是否有AI辅助）不是很好。
Vinay Prasad，《终结医学逆转》Ending Medical Reversal 的作者，俄勒冈健康与科学大学医学院的血液肿瘤学家作者结束医疗逆转和血液学家表示：硅谷心态对临床治疗可能是危险的。
当生命危在旦夕时，我们需要尽快实施有前途的新想法。正是这种态度让我们从一开始就陷入了癌症筛查的混乱。Prasad说，乳房x光检查是在所有证据出现之前就被采用的，一旦一种医疗实践成为标准，就很难逐步淘汰它。
在一个习惯于即时性和夸大其词的文化中，很难保持谦逊和耐心。

作者

△Christie Aschwanden
Christie是美国知名的科学记者，她在2019年出版的《GOOD TO GO：运动员可以从奇怪的康复科学中学到什么》成为《纽约时报》的畅销书。
她在2016 年获得了美国科学促进协会·卡夫里科学新闻奖，并担任科学写作促进委员会的理事会成员。她也经常为纽约时报、华盛顿邮报撰写文章。
原文链接：https://www.wired.com/story/artificial-intelligence-makes-bad-medicine-even-worse/
延伸阅读：谷歌AI乳腺癌检测超过人类，LeCun质疑引起讨论，但平胸妹子可能不适用
作者系网易新闻·网易号“各有态度”签约作者
— 完 —
AI内参|把握AI发展新机遇
拓展优质人脉，获取最新AI资讯&论文教程，欢迎加入AI内参社群一起学习~
跟大咖交流 | 进入AI社群
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
喜欢就点「在看」吧 !
继续阅读
阅读原文