“神秘博士”引发担忧 巴比伦健康猛烈抨击 聊天机器人是否安全

备受争议的医疗保健应用制造商巴比伦健康批评了首先对其人工智能聊天机器人安全性提出担忧的医生。

巴比伦健康公司的聊天机器人可以在该公司的GP at Hand应用程序中使用，这是由卫生部长马特·汉考克倡导的数字医疗解决方案，自去年起也被整合到三星健康中。

这款聊天机器人旨在减轻全科医生和急诊部门的负担，它能自动判断病人是否可以在家治疗，是否应该在线预约或当面预约全科医生，或者直接去医院。

2018年，一位化名为墨菲医生的推特用户第一次联系我们，声称巴比伦健康公司的聊天机器人提供了不安全的建议。墨菲博士最近公开了自己是大卫·沃特金斯博士，并在英国皇家医学学会举办的“人工智能和数字健康的最新发展2020”活动中公开了他的发现，此外他还出现在BBC《新闻之夜》的报道中。

在过去的几年里，沃特金斯博士提供了许多聊天机器人给出危险建议的例子。在一个例子中，一位48岁的肥胖、烟瘾大的患者出现胸痛，医生建议他“在接下来的几个小时内”预约会诊，但稍有常识的人都会让你马上拨打紧急电话。

-墨菲博士(又名大卫·沃特金斯)(@DrMurphy11) 2018年3月22日

这一问题已经得到了纠正，但Watkins博士在过去几年里强调了许多进一步的例子，这些例子清楚地表明，聊天机器人存在严重的安全问题。

巴比伦健康公司在发布的一份新闻稿中称沃特金斯医生是一个“喷子”，他“针对我们的员工、合作伙伴、客户、监管机构和记者，并在推特上发布诽谤我们的内容”。

根据新闻稿，沃特金斯博士已经对这款聊天机器人进行了2400次测试，目的是诋毁该服务，而他提出的结果中只有“不足100个测试结果值得关注”。

巴比伦健康声称沃特金斯医生仅在20个案例中发现了真正的错误，而其他的都是“错误陈述”，这是来自巴比伦健康一位不愿透露姓名的“高级临床医生小组”的说法。

沃特金斯博士称巴比伦健康的说法“完全是一派胡言”，质疑这家初创公司是从哪里得到这些数据的，因为“肯定没有2400份完成的分类评估”。

沃特金斯博士估计，他已经进行了800到900次完整的分类，其中一些是重复测试，以确定巴比伦健康中心是否解决了他之前强调的问题。

这位医生承认巴比伦健康公司的聊天机器人已经有所改善，出现问题的几率约为三分之一。2018年，当沃特金斯博士第一次与我们和其他媒体接触时，他说这一比例是“一比一”。

尽管这两种说法各不相同，但有证据表明，巴比伦健康公司的聊天机器人曾在多个场合发出过危险的建议。沃特金斯博士花了很多时间强调巴比伦卫生的这些问题，以提高病人的安全。

巴比伦健康中心并没有欢迎他的努力并与沃特金斯医生合作来改善他们的服务，而是决定发起攻势，“试图诋毁那些提出病人安全问题的人”。

在他们的新闻稿中，巴比伦指责沃特金斯发布了“超过6000”误导性攻击，但没有给出具体地点。沃特金斯博士主要使用推特来发布他的发现结果。截至发稿时，他的推特已经发了3925次推特，而且不只是关于巴比伦的服务。

这并不是巴比伦健康公司的数据第一次受到质疑。早在2018年6月，巴比伦医疗举办了一场活动，宣称其人工智能在MRCGP考试中击败了见习的全科医生，该考试用于测试他们诊断医疗问题的能力。平均及格分数是72%。“巴比伦的健康状况如何?”巴比伦健康中心的一名主任Mobasher Butt博士在活动上说。“它得到了82%的选票。”

鉴于聊天机器人给小病提供的危险建议数量之多，尤其是在当时，很难想象它能打败见习全科医生是正确的。有趣的是，该事件的视频已经从巴比伦健康的YouTube账户上删除，该公司也删除了其网站“新闻中的巴比伦”部分中所有有关该事件报道的链接。

当被问及为何删除这些内容时，巴比伦健康公司在一份声明中表示:“作为一家快节奏、充满活力的健康科技公司，巴比伦公司不断更新网站，提供有关我们产品和服务的新信息。因此，陈旧内容通常会被删除。”

巴比伦保健所提供的人工智能解决方案将有助于减少对卫生服务的需求，并确保人们在任何时间和任何地点都能获得正确的信息和护理。然而，病人的安全必须放在第一位。

在医疗保健中，错误是不可原谅的，因为有潜在的致命或生命中断的风险。科技行业通常的“快速行动，打破常规”的理念在这里不适用。

人们普遍认为一项新技术很少会没有问题，但人们希望看到尽最大努力来限制和解决这些问题。巴比伦健康中心不欢迎那些在出现严重事故前指出其服务问题的人，而似乎更愿意将自己的错误归咎于其他人。