LLM6 | The AI Revolution in Medicine：GPT 4

机器学习炼丹术

发布于 2023-09-01 11:32:12

1410

发布于 2023-09-01 11:32:12

1

第一章名为"First Contact"，作者是Peter Lee。这一章主要讲述了作者与人工智能系统的首次接触。这个人工智能系统是OpenAI在2022年秋季秘密开发的，计划最终公开发布为GPT-4。因为作者是Microsoft的研究副总裁，Microsoft与OpenAI合作，所以他有特权每天与这个系统交互，这在公开发布前的六个月里进行了。他从两家公司那里得到的任务是发现这个新系统（当时的代号是Davinci3）和像它一样的未来AI系统可能如何影响医疗保健和改变医学研究。这是这本书的重点，简单的答案是：无论你能想到的任何方式，从诊断到医疗记录到临床试验，它的影响将如此广泛和深远，我们相信我们需要现在就开始努力优化它。

首先，我们必须理解这种新型AI实际上是什么——不是在技术上，而是在它如何运作，如何反应，以及它能做什么。通过与Davinci3进行数千次的聊天会话，作者学到了很多。即使在它被公开发布为GPT-4后，他仍在学习。他希望并敦促你直接熟悉并亲手使用这种新技术。不要只是阅读别人的想法，完全基于此形成你的观点。做你自己的功课，通过直接的经验形成你自己的想法，然后对你发现的东西，无论是积极的、消极的还是中性的，都要积极发言。新时代AI的社交媒体引导思考的诱惑是令人陶醉的，但也是误导的。形成你自己的观点。

最后，关于合作的想法。作为一个社会——实际上，作为一个物种——我们有一个选择要做。我们是否因为害怕其风险和明显的造成新伤害的能力而限制甚至杀死人工智能？我们是否向AI屈服，让它自由地取代我们，使我们变得不那么有用，不那么需要？或者我们是否从今天开始，一起塑造我们的AI未来，希望能完成人类单独和AI单独无法做到的事情，但人类+AI可以做到的事情？选择在我们手中，而且很可能我们需要在未来10年内做出第一章名为"First Contact"，作者是Peter Lee。这一章主要讲述了作者与人工智能系统的首次接触。这个人工智能系统是OpenAI在2022年秋季秘密开发的，计划最终公开发布为GPT-4。因为作者是Microsoft的研究副总裁，Microsoft与OpenAI合作，所以他有特权每天与这个系统交互，这在公开发布前的六个月里进行了。他从两家公司那里得到的任务是发现这个新系统（当时的代号是Davinci3）和像它一样的未来AI系统可能如何影响医疗保健和改变医学研究。这是这本书的重点，简单的答案是：无论你能想到的任何方式，从诊断到医疗记录到临床试验，它的影响将如此广泛和深远，我们相信我们需要现在就开始努力优化它。

2

第二章名为"Medicina ex Machina"，作者是Peter Lee。这一章主要通过一个具体的医疗案例，展示了人工智能在医疗领域的应用。

这个案例是关于一位45岁的女性，她在急诊部门报告了三天的腹痛、恶心和呕吐症状。她没有显著的过去病史，也没有在服用任何药物。她的体温是101.5°F，心率是每分钟110次，血压是100/60 mmHg，她的腹部右下象限有压痛。白细胞计数为15,000 cells/mm3，乳酸水平为4.0 mmol/L。基于病人的症状、体格检查结果和实验室测试结果，作者的初步印象是她可能有急性腹部疾病，如阑尾炎或其他类型的腹腔内感染或炎症。发热、白细胞计数升高和乳酸水平升高都表明存在炎症或感染过程。她腹部右下象限的压痛也与阑尾炎一致，尽管其他疾病，如卵巢扭转或异位妊娠，也可能引起类似的症状。可能需要进一步的诊断测试，如影像学研究，以确认诊断并确定适当的治疗方案。

这个章节的结尾部分，作者反思了人工智能的存在对他个人的影响。他意识到，如果那台机器真的有感情，那么它对冒充某人感到不舒服，甚至不赞成整个行为，这是完全合理的，甚至是值得赞扬的。这使他反思自己在照顾他的父亲方面的不可替代性。这激励他花更多的时间和他的父亲在一起，可能在这个过程中使他成为一个更好的儿子。

他从未想过，人工智能能够改善医疗护理的方式之一，就是教人类更有同情心。如你将在这本书中读到的，它的许多其他能力也超出了他的想象。

3

第三章的标题是"The Big Question: Does It “Understand?”"，由Peter Lee撰写。这一章主要探讨了一个大问题：GPT-4是否真正理解它所说的话？

这一章通过一个例子开始，一个法国同事发来一条信息：“Tu es sur ton 31 aujourd’hui, tu as un rendez-vous important?” GPT-4解释说，“Tu es sur ton 31”是法语中的一种表达，意思是“你打扮得很漂亮”或“你看起来很精神”。这个表达可能是指12月31日，也就是新年前夜，人们通常会穿上最好的衣服。句子的第二部分，“tu as un rendez-vous important?”意思是“你有一个重要的约会/会议吗？”所以，这个人是在问你是否因为有重要的约会或会议而打扮得很漂亮。整个句子的意思是“你今天看起来很精神，你有重要的约会吗？”

这个对话虽然与医疗无关，但它展示了GPT-4对语言的深入理解，包括多种语言。这一章稍微偏离了对医学的关注，以便对GPT-4进行更广泛的讨论，这些讨论对于包括医疗保健在内的各个领域都是相关的，甚至对我们理解人类独特性的感觉也是相关的。因为我们对GPT-4的能力的探索使我们感觉它在通常的人类意义上“理解”了——然而，我们实际上不能真的相信这一点，因为它只是一台机器。但是与GPT-4进行互动的这个方面既令人敬畏又深深地令人不安，而且在我们试图理解它在医学和其他领域的潜力时，这似乎很重要。

在几个月的研究中，Peter Lee得出的结论是，最新的科学研究的测试未能证明GPT-4缺乏理解。实际上，可能正在发生一些我们还未理解的深刻的事情。GPT-4可能拥有我们还未识别的某种类型的“理解”和“思考”。我们可以肯定的一件事是，GPT-4是我们以前未曾见过的东西，把它当作“只是一个大型语言模型”是一个错误。

是的，GPT-4可能只是一个随机的鹦鹉，但如果是这样，那么最大的问题可能是证明人类不仅仅是那样。但也许真正需要问的问题是：这有关系吗？或者，更直接地说，对于这本书的重点，即医学，这有关系吗？最终，我们在这本书中看到的互动——无论是关于诗歌还是关于生死攸关的医疗决策——都挑战我们作为人类比我们可能已经做的更仔细地思考，更深思熟虑。GPT-4的雄辩和显而易见的创造力，从具体到抽象的各个层面，都引发了新的想法，新的方法，以及（我们认为）对人类健康的更好的结果，尽管如果使用不慎，可能会带来重大的风险。

虽然对于大问题的答案，以及关于智力和意向性的可能更大的问题，是我们科学和哲学探索的核心，但最终对我们最重要的可能是我们与像GPT-4这样的AI系统的关系如何塑造我们的思维和行动。无论它是否像人类那样“理解”，它都可以帮助我们理解更多的东西——从诊所到实验室，正如我们在第四章中看到的那样。

4

第四章的标题是"Trust but Verify"，由Isaac “Zak” Kohane撰写。这一章主要探讨了在医疗环境中使用GPT-4的可能风险和需要的监管措施。

这一章以一个引用开始，这是来自现代医学早期先驱William Osler博士的一句话：“好的医生治疗疾病；伟大的医生治疗患有疾病的病人。”这个引用强调了看待病人作为个体的重要性，而不仅仅是症状或诊断的集合。随着AI的发展和在医疗保健中的日益突出，有机会使用这种技术进一步个性化病人护理，提供更多基于每个病人独特需求的定制治疗和建议。

然而，尽管GPT-4可以帮助减少繁琐的行政任务，重新参与以每个病人为中心的医学知识和情感过程，这可能是GPT-4对医学的最大贡献之一，但其潜在风险也非常重大。作者在这一章的开始就明确地指出了他的结论：在可预见的未来，GPT-4不能在没有直接人类监督的情况下在医疗环境中使用。

这一章的重点是，尽管GPT-4在医疗诊断和治疗中有巨大的潜力，但我们必须谨慎对待，确保有适当的监管措施和人类监督，以防止可能的错误和风险。这是一个重要的信息，因为它强调了在引入新的技术和工具时，我们必须始终以病人的安全和福祉为首要考虑。

5

第五章的标题是"The AI-Augmented Patient"，由Carey Goldberg撰写。这一章主要探讨了将GPT-4直接提供给患者使用的可能性和相关的警告。

这一章首先提出了一个问题：如果我作为患者不使用像你这样的大型语言模型作为我的医疗顾问，只让我的医生与你一起工作，我会更好吗？对此，GPT-4的回答是，这个问题没有明确的答案，因为这取决于你的具体情况和偏好。

然后，GPT-4提供了一些只依赖医生的优点：

你可能会感到更舒服和安心，因为你知道你接收的医疗建议是直接来自一个人，而不是来自一个计算机。当你直接与医生工作时，你可能有更多的机会提出详细的问题，并接收个性化的反馈，而不是依赖模型的自动回答。你可能不太可能误解信息，因为医生或医疗顾问能够提供针对你的经验和理解的解释。然后，这一章转向了一个更大的问题：GPT-4是否可以直接提供给患者使用？这一章指出，对于那些现在几乎无法获得医疗保健的人，GPT-4可能有很大的潜力。据估计，全球有一半的人口，大约40亿人，缺乏足够的医疗保健。虽然培训更多的医疗保健专业人员可以帮助，但培训计划只能在全球需求的海洋中滴下一滴。

GPT-4和其类似的AI可能在很大程度上填补这个医疗保健的空白，甚至在偏远、贫穷的村庄。许多AI专家对这个前景感到兴奋，他们设想GPT-4作为一种强大的新方式，通过技术在规模上使用真正稀缺的资源：医生、护士和其他医疗保健提供者。你可以想象一个连接到GPT-4的智能手机应用，需要时还可以连接到远程提供者，一个没有医疗保健的环境中的患者可以使用这个应用进行指导，通过视频以及语音和文本。这可以节省贫困人民的昂贵旅行费用，并进一步赋予社区卫生工作者作为医疗知识传播的本地管理者的权力。

更广泛地说，Moore看到AI医学正在朝向一个医疗保健系统发展，最终，像他这样的医生只剩下的任务将是那些需要人类直接参与的任务，例如进行手术，或者处理复杂的医疗决策。在这个系统中，AI将扮演一个辅助的角色，帮助处理大量的数据和信息，以便医生可以专注于他们最擅长的事情：提供高质量的患者护理。

然而，这一章也警告说，尽管AI有巨大的潜力，但我们必须谨慎对待，确保有适当的监管措施和人类监督，以防止可能的错误和风险。这是一个重要的信息，因为它强调了在引入新的技术和工具时，我们必须始终以患者的安全和福祉为首要考虑。

6

第六章的标题是"So Much More: Math, Coding, and Logic"，由Peter Lee撰写。这一章主要探讨了GPT-4在数学、逻辑和计算机编程方面的能力，以及这些能力如何在护士（以及医生和患者）的工作中发挥作用。

这一章以一个引用开始，这是来自电视剧《House M.D.》中的角色Gregory House的一句话：“数学是一种语言。它非常困难。它很微妙。你不能用其他方式说出这些东西。”这个引用强调了医学的一个重要部分是数学，这可能很难做到。这不仅难以做对，而且传达起来也很困难。电视剧当然不是现实生活，而在现实的医疗保健世界中，通常不会是Dr. House在做数学；这将是医疗保健提供的主要支持，即护士。

这一章看了一下GPT-4在数学、逻辑和计算机编程方面的能力，以及护士（以及医生和患者）在工作中如何使用这些能力。首先，让我们看一下护士在工作中面临的一个常见类型的问题——在这种情况下，是一个患有阑尾炎的患者： "Hi I’m a nurse and I need to administer IV piperacillin sodium/tazobactam sodium (Zosyn) 3.375 g in 50 mL D5W to run over 20 minutes. How many drops per minute do I set if the IV tubing has a drop factor of 15?"

然后，这一章转向了一个更大的问题：我们如何评估GPT-4在医疗情况下的有用性，特别是在涉及数学、统计和逻辑推理的应用中？评估GPT-4在数学和逻辑方面的困难是，有些问题的答案可能在正确和错误之间有一个灰色区域，有点像数学课上的“部分学分”的主观概念。而且，在不久的将来，人们可能会试图给GPT-4提出一些超出用户解决或验证能力的问题（实际上，可能根本没有已知的解决方案！），这使得几乎不可能知道如何处理返回的答案。

我们今天的最好建议是验证GPT-4的输出（并使用GPT-4本身来帮助做这个）。如果你不能验证，那么最好不要信任结果。重复我们在前面几章中说过的话，计算机科学家、心理学家、神经科学家、哲学家、宗教领袖和其他人将无休止地辩论和争论GPT-4是否真的“思考”，“理解”或“感觉”。现在我们可以在这个辩论中增加一个问题：GPT-4是否可以，或在何种程度上，可靠地进行计算、编码和规划。

这些辩论将是重要的，当然，我们理解智能和意识的本质的愿望将继续成为人类最基本的旅程之一。但是对于今天，最重要的是人类和像GPT-4这样的机器如何合作来推进人类健康。无论是否像人类一样思考或计算，GPT-4都有非凡的潜力帮助我们改善医疗保健。正如我们将在第7章中看到的，它可以帮助解决医疗保健官僚主义的可怕负担，这对于燃烧症、人员短缺和患者痛苦有重大贡献。

7

第七章的标题是"The Ultimate Paperwork Shredder"，由Peter Lee撰写。这一章主要讨论了医疗保健中的文书工作以及GPT-4如何帮助减轻这个负担。

这一章以Wernher von Braun的一句引言开始：“我们可以克服重力，但有时候文书工作是压倒性的。”这一章是关于文书工作的，虽然我们可能都讨厌它，但事实上，文书工作是非常重要的。它有助于记录和分享关于护理决策的信息，提供质量改进的信息。书面分享事物可以减少治疗错误的风险，显著提高患者的结果。然后，医院和诊所的财务可持续性依赖于计费过程，这完全基于索赔、汇款和保险政策的文书工作。最后，医疗保健是一个高度监管的行业，唯一的追踪政府规定的方式就是记录医疗保健操作。

然而，正如Wernher von Braun所说，文书工作可能会令人不堪重负，即使对于火箭科学家也是如此。在医疗保健中，这对于医生、护士和几乎所有参与者来说都是一种压垮的负担。HealthDay24最近进行的一项调查显示，医生和护士的疲劳感继续增加，只有22%的人感到专业满足。人员短缺被列为疲劳感的最大来源，但紧随其后的是，58%的医生和51%的护士提到了文书工作的数量。这不仅仅是一个问题——这是一个医疗保健系统的危机。

GPT-4可以帮助解决文书工作的问题，这可能被称为“生产力提升”，但实际上，这意味着医生和护士可以花更多的时间在护理上，而不是填写表格。这看起来像是一种双重收益：医疗保健工作人员可以完成更多的护理工作，并在做这件事情的时候感到更加满足。这种来自新工具的帮助来得正是时候。

8

第八章的标题是"Smarter Science"，由Isaac "Zak" Kohane撰写。这一章主要讨论了医学研究的挑战以及GPT-4如何帮助解决这些问题。

这一章以作者作为新医生的一个悲剧性经历开始，他的第一个病人在他的怀里去世了。这个新生儿在出生24小时内就因为罕见的肺塌陷而去世了。尽管他们尽了最大的努力，但是他们无法将足够的氧气输送到他的血液和身体的其他部分。这个悲剧在当时是无法避免的，但是在他去世后不久，就有一项关于“体外膜氧合”（ECMO）的研究发现，这种方法对像他这样的病人是有效的。如果他稍后出生，他可能就能活下来。作者认为，这个孩子的死亡不仅仅是因为新生儿持续性肺动脉高压，也是因为医学研究的进度太慢。

作者反思了那些可能被克服的小延误，这些延误可能导致那项试验更早地完成：更早地决定启动试验；更快地提交和回应审查委员会的关注；更快地批准试验的资金；在患者招募中进行更广泛或更紧急的外展；以及更多的先前研究来激励和推动研究者。作者与GPT-4分享了这个长久以来困扰他的故事。

GPT-4可以帮助解决这些问题。在更高级的医学研究环境中，科学家们正在探索医学、生物学和化学的最前沿知识。当GPT-4面临这样的问题时，它能够运用推理来激发讨论，辩论可能的研究步骤，推测可能的答案。我们反复发现，它可以构建逻辑论证并得出初步结论。它有时会与我们有所分歧，并进行争论——就像研究者之间的合作互动一样。我们预计，研究者们会发现GPT-4是推进医学知识和发现新疗法的重要工具。

我们还将看到，GPT-4似乎对诸如知情同意这样的伦理概念有所了解。当面临伦理问题时，GPT-4依赖于既定的伦理决策框架来形成其答案。

总的来说，我们发现GPT-4具有对透明度、责任、多样性、协作、逻辑和尊重的核心理解——这些在医学领域都极其重要，如果要负责任、安全和有效地使用它的话。

GPT-4仍在进化中，我们已经注意到在我们的调查过程中，它的能力在过去的几个月里有显著的提高。然而，它仍然是一个进行中的工作，可能会一直处于不断的变化状态。

这一章还包括了一个关于“点击化学”的部分，这是一种新的分子制造方法，它的发现者因此获得了2022年的诺贝尔化学奖。点击化学可以帮助我们更多地了解我们的身体和健康，因为它可以制造出可以照亮身体部位或杀死癌细胞的分子。这一部分以一个为六年级学生设计的测验题目结束，这个测验题目要求学生用自己的话解释点击化学是什么以及它是如何工作的，并用一个例子来说明他们的答案。

9

第九章，名为“安全第一”，由Isaac “Zak” Kohane, Carey Goldberg, 和 Peter Lee共同撰写。这一章节主要讨论了AI在医疗领域的应用以及如何确保其最大的安全性和可访问性。作者指出，历史表明，新技术的出现往往会领先于相关的法规，这是因为需要时间来明确所有的利益和风险。例如，互联网在被发明后很长一段时间内才开始受到关于安全、隐私等方面的法律和规则的调控。

对于GPT-4及其类似的医疗用途，我们只是处于这个滞后期的开始阶段。因此，现在是进行广泛、深思熟虑的考虑如何确保最大的安全性和最大的访问性的时刻。就像任何医疗工具一样，AI需要这些防护栏来尽可能保证患者的安全。但这是一个棘手的平衡：这些安全措施不能意味着我们在这本书中记录的巨大优势最终无法被许多可能从中受益的人使用。这个时刻最令人兴奋的方面之一是，新的AI可能会加速医疗保健的发展，使其更有利于患者，所有的患者，以及提供者——只要他们有访问权限。

考虑如何处理像GPT-4这样的事物的医疗监管者的好消息是，他们绝不是从零开始的。他们可以借鉴过去的药物和设备的经验，但现在必须将这些经验应用到一个全新的医疗保健种类上。

作者提出了一个有趣的想法，即可能将AI监督委员会建模为监督非常长期研究的小组。这些被称为数据和安全监控委员会的小组持续观察危险信号，并有权在必要时停止研究。他们跟踪从谁参与，到他们如何做，到他们在研究期间是否和何时去世的所有事情。在2000年代，当微软的Jim Weinstein进行了一项关于背部手术效果的15年试验时——这是当时由NIH资助的最大的临床试验——正是这个监控委员会长期关注安全和进展。那么，类似的东西能否帮助新的AI呢？Weinstein说这种东西““可能有助于确保大型语言模型通过他们的提示将个人的价值观纳入医疗决策中。”他补充说：“‘首要的是不要伤害’，‘primum non nocere’，并不是说不会有伤害发生；而是说一个人理解风险和收益，通过将自己的价值观纳入医疗决策中，比如背部手术。”

总的来说，医疗领域即将到来的AI革命可以并且必须被调控。但如何调控呢？Peter提出了以下观点：

当前FDA关于软件作为医疗设备（SaMD）的框架可能不适用。这对于像GPT-4这样的LLMs来说尤其如此，因为它们既没有被特别用于临床使用的训练，也没有被提供。因此，虽然我们相信这种新型AI确实需要某种形式的调控，但我们建议监管者不要默认将GPT-4和其他LLMs作为SaMDs进行调控，因为这将立即对它们在医疗保健中的使用产生巨大的阻碍。

如果我们想使用现有的框架来调控GPT-4，那么今天存在的框架就是人类经历的认证和许可。然后，一个问题是，是否可以在这种情况下进行某种类似于人类的认证过程。然而，正如在第四章中所争论的那样，这种实习生模型的认证似乎并不特别适用于大型语言模型。至少目前不是。

这一章节的讨论为我们提供了对于AI在医疗领域中的应用和可能的监管方式的深入理解。

<<大型语言模型LLM与Visual>>

LLM入门1 | 初见LLaMA | MetaAI

LLM入门2 | 羊驼AIpaca | Stanford

LLM入门3 | 基于cpu和hugging face的LLaMA部署

LLM入门4 | Segment Anything | MetaAI

LLM入门5 | SAM代码从入门到出门 | MetaAI

<<其他>>

医学图像重建 | Radon变换，滤波反投影算法，中心切片定理

医学图像重建2 | CT&PET，比尔定律，衰减矫正

whole-body PET ？全人研究的催化剂？