首页
学习
活动
专区
工具
TVP
发布

IBM Watson再遭质疑,缘何陷此困境

2011年,IBM的Watson在美国电视节目“Jeopardy”问答游戏中战胜人类选手,赢得那一次在美国的边缘挑战节目。

当时,这被认为是人工智能技术发展史上一次划时代的事件,而IBM的Watson也被认为是未来可能领导人工智能产业发展的技术。

但短短几年后,Watson就坏消息频传,似乎已经成为一个失败者。

近日,据STAT网站最新报道,一位熟悉IBM公司内部决策的人士称,由于IBM的财务业绩低迷,因此公司决定停止开发和销售药物研发工具Watson人工智能套件。

STAT指出,IBM的这个决定在一定程度上标志着它们已经向人工智能应用于医疗领域存在的难题妥协。而这一举动,也让医疗领域对Watson人工智能的应用再次产生不确定性。

IBM官网用医疗保健的“强心针”来形容认知技术Waston可能给医疗行业带来的意义。依靠Waston,IBM在肿瘤诊断和治疗、慢病管理、健康应用、体外检测、医疗影像、药物研发等多个医疗领域中逐渐布局。

相比之下,IBM的药物研发工具由于面向的人群不同,并不如肿瘤解决方案得到的关注度高。但IBM与大型药企合作,利用人工智能提高药物研发效率的动作却十分频繁,如与辉瑞合作将机器学习用于癌症药物发现等。

不过根据目前的公开资料来看,IBM的药物研发工具产出的结果寥寥无几。

此次暂停开发和销售这套药物研发工具也并不是IBMWatson在医疗健康领域首次被曝出负面新闻。

去年8月,也是STAT曝出了IBMWatson肿瘤解决方案常给患者提供错误治疗建议的内部消息。STAT称,他们拿到了IBM的内部机密文件,多个事例表明,Watson肿瘤经常提出不准确的医疗建议。正在使用Watson肿瘤的医生们也对其提出了强烈批评:“在给出意见的过程和底层技术上存在严重的问题”。

在此之前,IBMWatsonHealth被曝大规模裁员。同年10月,IBMWatsonHealth部门负责人DeborahDiSanzo宣布离职。

这一系列的变动不禁让业内对Watson的产品产生质疑。

事实上,对于Watson质疑,一直没有停止。

2018年7月,STAT就爆出:IBM的AI系统Watson(沃森)捅了一个天大的篓子:给患者开错了药。

被曝光的IBM内部文件显示,许多医生在使用Watson时,发现AI给出了“多个不安全、不正确的治疗意见”,甚至在极端的诊断案例中,Watson给有出血症状的癌症病人开了容易导致出血的药品,严重时可致患者死亡。

可能你还不知道,明显存在bug的Watson系统并不是一个实验室中样品,这个可能会治死人的Watson已被全球超过230家医院使用,其中包括北大肿瘤医院、宣武医院等67家中国医院,分布在22个省份。

内部文件曝光

STAT拿到了IBM公司内部的机密文件,来自时任IBM Watson Health副首席健康官的Andrew Norden,只有IBM的管理层有权限查看。

Norden在2017年6、7月间给出的报告显示,正在使用Watson for Oncology(Watson肿瘤解决方案)的医生们对它提出了强烈的批评:数个例子表明,Watson经常提出不准确的医疗建议,“在给出意见的过程和底层技术上存在严重的问题”。

文件中一个严重的例子是:

一名65岁的男性被诊断出患有肺癌,而同时,该患者也似乎有严重的出血症状。Watson给这名患者的诊疗建议是:

1、接受化疗;2、使用治疗癌症的药物贝伐单抗(Bevacizumab,商品名Avastin阿瓦斯汀)。

而贝伐单抗这种药物可能导致的副作用之一,正是容易导致出血。在美国卫生系统药剂师协会对该药物的描述中,这种药物有时会发生严重乃至致命的出血事件,所以该协会建议不要给严重出血的患者服用。

贝伐单抗可能导致致命出血

Watson系统给出的诊疗意见忽视了这个可能导致该患者死亡的问题,开了错误的药品。

不过,好在这个“65岁男性肺癌患者”并非真实存在,并没有人因此而吃错药。负责训练Watson肿瘤系统的纪念斯隆-凯特琳癌症中心对此回应道,这名“65岁男性肺癌患者”是癌症中心的医生在训练Watson时给出的虚构病例,只是为了训练Watson的诊断能力。

这家医院还发出声明说,在实际运用中,医生们会接受该癌症中心的医生给出的指导建议,而不是完全听信Watson系统的诊疗判断。

除了上面提过的STAT批评,IEEE Spectrum也曾报道称,IBM向Watson业务投入数十亿美元,但“Watson医生”尚未给医疗行业带来革命。

2018年5月底,Watson医疗健康部门发生了一次震动行业的裁员,估计有300人离开了IBM。一位被扫地出门的工程师表示,IBM针对“认知计算”平台的推广,掩盖了他们在利用人工智能盈利的过程中遇到的真正困境。

“IBM沃森拥有了不起的人工智能技术。”这位匿名的工程师说,“这就像有一双好鞋,但却不知道怎么走路——你必须搞清楚怎么使用它。”

来自华尔街的分析师们,也并不是都对IBM Watson持有积极看法。Jefferies去年7月发布的研报认为,尽管IBM对Watson展开大举投资(该分析师估计2010至2015年间的投资总额为150亿美元),但这个部门却很难盈利。

即使IBM Watson“仍是市场上最有竞争力的现成人工智能平台之一”,但用户在把Watson与现有的数据和分析系统整合的过程中仍然面临严重困难。他举了德克萨斯州MD Anderson癌症中心的例子,该中心投入了6200万美元之后却取消了他们的Watson项目。

那么,Watson究竟因何才走入今天的困境?

有专家认为,主要有以下四点原因:

失败原因之一:过分夸大的市场宣传

自从IBM Watson面市,对外的市场宣传,有两个重点。1. IBM Watson超越人类医生,2. 能够解决连人类医生都挠头的疑难杂症。这样的宣传,在短时间内,迅速拉高了外界对于IBM Watson的期望。IBM Watson的宣传策略,拉升了公众对自己产品乃至整个医疗AI产品的期望值,获得了外界大量的关注。但是,在业界还缺乏统一的测试标准,产品最终的临床效果还有待评价的情况下,过分夸大的市场宣传,对产品长期健康的发展并没有好处。然而,高调到失真的宣传,成为IBM Watson日后失败的罪魁祸首。

主攻肿瘤等疑难杂症的Watson?

IBM Watson对外宣传自己从海量的医学文献和病历中提取医生临床诊断经验,通过机器学习让计算机掌握临床诊断方法,可以替代人类医生看很多疑难杂症,例如肿瘤。这个目标为IBM 研发团队挖了一个巨大的坑。疑难杂症的病历数量必然就很少,诊断成功的案例就更为罕见。训练数据不足,IBM Watson如何用机器学习的方法,获得精准的结果?

Watson的诊断精度比人类医生更高?

IBM Watson宣称在东京大学附属医院等试点项目中,IBM Watson的诊断已经比人类医生中最顶级的专家的会诊更加精准。机器学习,能学习到人类医生的经验,已经让人喜出望外。想让机器通过学习人类,,然后超越人类,不是不可能,但是前提条件是,必须能让机器反复试错。临床医学,试错的代价是人类生命,这和下围棋可不一样,不是能够容忍反复试错的场景。

失败原因之二:技术水平远远不能支撑超越人类医生的目标

理论研究指导产品实践,产品实践推动理论研究。在IBM Watson研究组发表的相关论文中,没有发表过有关机器阅读的成熟的研究成果,其实直至今日,机器阅读仍然处于低幼阶段。而IBM 的宣传声称,IBM Watson 能够在10分钟内,阅读2000万篇癌症研究论文,并且把人类自然语言,翻译成机器可以处理的形式语言(formal language),然后与病人的基因变化进行对比。

当IBM Watson课题研究的前沿课题,都还没有远远不能完成真正的阅读作为在市场上出售的产品级别的IBM Watson,怎么可能高速读解人类论文,并且基于阅读理解,做进一步操作,譬如对比呢?

失败原因之三:产品开发与研究及市场严重脱节

IBM Watson在产品开发阶段,不但与市场宣传脱节,同时也与前沿技术研究脱节。事实上,IBM内部真正参与产品开发的人员,数量并不充裕,使用的真实病历数量也不多。病历数量最多的单病种是肺癌,而肺癌的病历数量也不过只有635例,其它疾病更是少得可怜。

食材少,厨师少,巧妇难为无米之炊,从何谈起超越人类医生呢?

失败原因之四:整体规划混乱战线太长

2015年8月份,IBM 花费 10 亿美金,收购医疗图像公司 Merge Healthcare。但是似乎在IBM Watson并没有在医疗图像识别领域,取得抢眼的成就,更没有在产品中,把文字解析与图像识别,深度融合。忍不住想问,IBM的投资并购与产品研发,有没有预先规划好整合路径?

对于这四点原因,你是否认同?欢迎留言讨论!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190423A05Y7G00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券