超越想象的GPT医疗

ChatGPT 学习应用-4: 在医学领域应用（再读） 本书归纳总结该领域发展趋势以及进展，赞同书中说法，该技术手段本身并非终点，它只代表着一扇通往一个充满新机遇与新风险的新世界的大门。 特别当它显现出了一种“具有独立思维”的倾向。它与该系统的互动，会塑造改进我们的思维方式和行为。 本书不仅有对于医学的关注，它也探讨GPT-4在各领域的广泛应用，这些应用甚至会影响我们对人类独特之处的看法。 将它与前面所读三本（chatGPT)书比较，其内容一般，但是认为依然值得推荐，因为它重点是包括在医学领域诊断等领域应用及其局限性讨论。特别是它“不仅能协助减轻烦琐的行政任务，更关键的是，它能将医学重新定位为关注每位患者的智识与情感的过程”。 如同医学行当名言：“优秀的医生关注疾病本身，卓越的医生关注身患疾病的患者。” 本书今年三月完成，如果要专门给它找茬的话，就是可以发现，它在计算机与人脑接口应用，新型药物结构设计等最时髦方面几乎没有涉及、更不用说在生物信息学、基因组学等领域应用严重不足，这是一个遗憾。 简言之，本书归纳总结ChatGPT及其前身GPT模型在医学领域中取得了一些成就。这些模型被用于自然语言处理任务，包括文本生成、问答和理解医学文献。它们在帮助医生和研究人员处理大量文本信息、获取医学知识方面显示了潜在的价值。显然，这些帮助我们进入一个新时代。 记得过去数月曾经在北京有报道，某主办单位邀请了一群医学领域顶级专家与计算机GPT诊断系统进行了比赛。尽管比赛结果基本相同，机器得分比专家得分略微低一点，但是人工智能诊断系统发现了一例专家们用肉眼很难发现或者诊断出的一个稀有遗传病，令专家们惊叹❗️

中文出版业第一本由 GPT-4 辅助翻译的书，确实有非常明显的 AI 腔调。目前所在的公司也大量使用 AI 生成的内容营销，所以还是能看出相似之处，或者这么说，阅读体验很像是在读市面上那些“不那么优秀“的翻译作品。 会不会是因为其实 AI 翻译和一般译者的案头工作其实有类似的地方？：卷积神经网络、深度学习、自然语义模型和人类译者在脑中加工文字的过程是相似的。 回到本书的内容上，主要讲了医学领域相关的实用案例/指导、对 AI 的风险预估以及如何监管 AI的做法。全文读下来更像是在读一篇较为深度的 OpenAI 传播稿件（笑），要知道人微软可是投了 100 多亿美元，即使声量如此足的情况下，也得好好宣传啊，既是为了 OpenAI 也是为了微软研究院，毕竟 CEO 已经发话：GPT-4 这么强，那微软为什么还要研究院呢？ 最后，如果想了解生成式 AI 的一些能力、在专业领域内部人员是如何运用提示词（Prompts）与 AI 互动的，还是可以一看的，毕竟也不长嘛～

Tuesday Oct 3rd, 2023 传承与未来读书会第200期的阅读分享书目是《超越想象的GPT医疗》 作者：彼得·李(Peter Lee)；凯丽·戈德伯格(Carey Goldberg)。 通用人工智能GPT4.0下，我们的医疗服务，诊断，治疗会发生怎样的变化？你是相信一个GPT医生的诊断还是一个面对面医生的诊断？GPT如何帮助我们建立健康管理？我们的个人生物隐私数据如何得到保护？ 随着大量新技术的问世，人类有可能滥用它。让我们不要被自己的创造物所诱惑，也不要让它们的魅力使我们遗失道德指南针。 10月3日（星期二）15:30（美加西） 18:30（美加东） 10月4日（星期三）6:30（北京时间） zoom 链接：https://us02web.zoom.us/j/6047227628 zoom ID：6047227628（无密码） 推荐阅读 ☕️📚🌹

其实，这本书惊人的新鲜程度先证明了AI的恐怖和巨大效益：本书英文版是2023年5月6日第一版，所以其中大量热腾腾的事实信息让人倍感解渴，但是仅仅2周之后，5月22日中文版就得以问世，毫无疑问AI翻译和文本润色在其中的功劳不该被忽视。 第一，书里有什么内容 本书的作者挺牛，一个是微软研究院副总裁，一位是哈佛大学医学院生物与信息学首位系主任，90年代以来一直研究AI在医学上的应用。 内容的价值之处在于深度通过医疗领域的真实使用GPT的对话作为案例，来说明AI将对医疗行业产生的巨大推动作用。具体在： - 帮助医护人员整理诊疗记录、撰写病例等各种文档和文书工作，大大解放人力资源压力，让医者更能面对“人” - 辅助医生解读病患病情，提出诊疗方案参考 - 辅助患者理解自己的病情和医生的诊疗方案 书中的对话和案例鲜活，很有画面感，很有业务实感，能让人获得AI助力其他领域应用的启发。 第二，书中有什么启示 1. AI的发展速度超乎从业专家的预计，必须拥抱，也值得拥抱，好处实在太多。光把人力资源从文书工作中解放出来，就不知道可以把多少行业重做一遍。据我所知的领域，金融行业的一些公司在银行文档、上市公司资料整理分析等方面，已经深耕很多年了，这方面肯定近期有大发展。 2. AI必须在人类监督下起到重要的辅助功能，因为还有大量工程黑洞我们无法理解，导致它会编造“幻觉”信息和工作能力的不稳定。 第三，书中有什么奇异的惊喜 1. 作者这段时间通过实践验证的事实：AI的临床表现，比所观察到的许多医生表现得还要优异。 2. AI的审查能力，强于它的创作能力。要学会用魔法打败魔法。 3. 目前最新的证据无法证明AI不具备理解能力！ 4. 学会了大概20几个很好的提问方式。 5. 有一个AI可以通过一位非常优秀的咨询师的心理治疗记录来进行训练的好点子。老阳的人性系统论或者冷爱的训练营应该可以有潜力用。理论够新，优秀咨询文本应该不少。

有个别亮点，但总体来看乏善可陈。 两处有价值的地方： 1.从医生-患者- AI三角关系的角度，去构建未来医疗生态。 2.关于医疗AI的伦理学和监管方面的前瞻性思考。 但是，对于每天都要用GPT、bing、Claude、bard的人来说，其中讲解的内容实在缺乏新鲜感，尤其是大量的直接拷贝和GPT的对话，代替了作为作者应有的思考和洞见。 而作为医生，很多相关场景又太过浅显了。也可能是因为GPT确实还没有到那么厉害的程度，而且医疗AI也确实还只是处于「畅想」阶段吧。 总体来说，可以整理成一篇深度报道的内容，硬生生注水成一本书，就有点没必要花那个钱了。

1 这本书英文原版是4月完成的，中文版5月就上市了，这背后就是GPT翻译的功劳，要知道放以前，一本专业的英文书到中文版，中间最少2年。 2 GPT目前应用范围最广的是高容错率的行业，也就是没有标准答案的行业，比如内容创作，创意，商业咨询等等，那在低容错率的医疗，法律行业，GPT有用吗？ 3 这本书就是答案，GPT可以在很多方面可以赋能医疗，比如医生用它辅助问诊，用它完成可能接近工作50%强度的文书工作，用它做病例总结复盘等等。 4 但是GPT的局限性也很明显，它有时候会胡说八道，误导医护人员，它没有长时记忆功能，对一个月前的患者情况已经忘了，它不能承担责任等等。 5 这些问题其实都不是我们拒绝GPT的理由，GPT3到4，已经从傻子到在医生执业考试里拿到90%的分数,5年以后GPT8出世，又会有多强大呢。 6 面对GPT，又或者是别的工具，我们的态度应该是协作共生，我们对汽车的态度，对洗衣机的态度不都是这样嘛，而不是指望它取代我们。 7 这是一本很有情怀的书，在布道，未来如果更多医院医生用上GPT，千万看不起病的人，可以享受到顶级医生服务，千万医护人员不用再因为职业理想绑架，身心俱疲的服务病人，而是下班可以看到日落。

在书店偶然看到这本书 花三小时看完之后随便记录点想法。这本书挺浅的，但是关于应用场景结合对llm还有医疗系统有基础理解的人是一个不错的启发 1. gpt在文本类型任务的应用ehr天然适合，只是hallucination问题需要注意（选择精确要求不高的任务或者减少幻觉） 2.患者交流管理（就诊前后记录信息和客服，解释保险，编写就诊记录等，可节省医院cost，还有医疗信息的通用翻译）-》类似纸和手机作为media，gpt也帮助了信息更高效传播降低知识信息差（对比之前的科技革命和他们的影响，有什么启示和机会）-》病历笔记 3. agent可能的在工作流如和保险公司 4. 数据标准转移如换成fhir接入epic 5. 作为一个token语言概率预测模型，需要让它理解回答的价值观和道德性（也是为了社会利益角度），rl可以，是否也可能有reward/value function，怎么定义？ 6. 上下文长度影响（方法论上的限制，但可以通过类似微积分的方法无限逼近来获得近似不受影响的结果），长期记忆在医疗这种慢性病需要很多context的场景是重要的 7. 但这些都是llm本身的问题，在医疗或者不同的行业context，它真的重要吗？不重要的领域应该思考如何立刻应用，重要的领域应该思考如何解决或者绕开（如果避开，当这个问题解决了的时候会有什么影响） 8. 在hallucination和价值解决之前，技术上只能辅助（医生可以信任，但要核实，就像会计按计算器和excel，你本身的输入也可能有问题，这个的解决看看历史有没有对应，可能是机会） 9. foundational model的上下文怎么keep track这么长？在很长的治疗时间内，并发症怎么办，有什么其他新的病造成的影响怎么处理？如果要做医疗大模型，是面向患者还是医生？有必要完全精准才有商业价值吗？壁垒在哪 10. ai作为工具不是法律实体，不负责任就无法给控制权，怎么创造一个法律实体？如果使用它的人类会有诉讼风险，它就只能作为辅助。 11. 美国和中国不一样，基层医疗人员短缺，同时ehr本身也需要变革，这是需求+技术的高需求 12. ai作为一个第三方自动检测 包括对话语音，在不影响医生本身工作流情况下减负并且给出建议，agent在医疗场景是有意义的落地 13. 帮助对接医生（找到你最适合的医生），医生找到最适合他的患者，还能做研究 14. 这一系列的信息差减少，也会让医疗市场问诊需求上升（减少使用摩擦和决策需要的burden） 15. 用药，药物配平和护士相关的实操计量，数学方面可以用gpt计算来优化解决（但是需要外部llm审核） 16. gpt的逻辑推理能力可以设计few shot来更好的指导如何分配患者，转移患者，建立工作流 17. 有意思的知识：开药有的时候要写申请预先批准，gpt可以帮助撰写，更方便开药。增加医院收入+让患者有药 18. 潜在的战斗：医保医院和第三方理赔公司分别用ai大战来扯皮医保-》潜在机会之一 19. 让ai嵌入工作流自动化，是核心 20. 选试药的人，这个llm可以节省很多cost（阅读单个人所有患者费用150-1000），同时延误一个月对制药公司的损失60w-80w。寻找受试者+设计+试验期间的指导+数据分析，这一套下来能省很多钱 21. 因果推理的能力（技术优化）能否让llm在没有上下文或者完全specific的数据的情况下产生近似质量的结果？如果可以，数据还是否是壁垒？壁垒是否就变成了谁先使用以及deployment？就像医院的医疗系统很老很烂，不是技术问题，能用就行，主要是有明确的指导加上换的成本很大很麻烦。 22. Data：去标识保护隐私 23. 蛋白模型能否通过每个protein的amino acid sequence推测出他的结构和功能？我认为必须要物理建模：生物llm+人类知识语言表达llm结合可能是可以的方法 24. 监管：和我一直以来的想法一样，监管在历史上是在新技术出来很久才能跟上，例如1990才开始注意互联网安全和隐私的法律和规则约束。1968美国才出台federal law所有车都得有安全带。这个滞后是一个必然的机会。但是需要找到类似安全带或者安全公司这样的价值载体。 25. 不是从0开始的监管，各国行业监管在之前功能更有限的ai系统里已经有一些药物监管和设备监管（例如SaMD的框架），可以借鉴（这个得深入了解）。但是之前的监管架构都是为了Specifc purpose，llm有广泛的医疗用途，而且科技发展的速度导致很多时候只能有partial solution（研究方向） 26.ai应用可以分成两个监管类别：低风险比如写文书给保险等（简单的监管措施或者规定）；高风险（直接影响患者的）应该实施强制人类审核，包括编辑修改，签字审批等，出问题可以追责相关人员。 27. 专业的看法是支持创新+保障安全（公司只要对自己的方法，对系统的风险和收益保持透明就行；行业有人说这样不会有和患者的coi） 28. 再往前一步，在解决问题的情况上考虑成本是可能的机会 29. “人们常说AI系统如同一个"黑箱"，即便是开发这些系统的工程师，也并不完全清楚其内部运作原理。因此，现实往往是要么无法实现足够的透明度，要么无法避免利益冲突。由此看来，总是需要某种适当的问责机制，以及能够实质性改变决策的人类进行追索，甚至可能需要一种审计或监督形式﹣﹣这种形式正如在医学其他领域中用于观察自利或其他不当行为的方法一样。” 29. 对于重症患者和老年市场，光解决问题不是最重要的，care和connection也很重要

推荐给刚刚接触医疗与ai结合的人，这本书会给你积极的态度，这是很重要的，当你要评判一个事物的利弊，对它深入的了解是必要的前提。 书中作者大量地与ai对话，并分析ai产生的内容它背后的逻辑是什么，它的优点在哪缺点在哪，这启发我平时在问ai问题时也要多思考一点，每一次交互都是一次增强理解增强合作的机会。 健康公平是一个永恒的问题，我很多时候会站在医疗从业者，企业的角度去考虑，很少会关注它给医疗资源匮乏者带来的影响，因为当我生产或者研究某个医疗产品时，我总是希望它是被有能力买单的人买单的。 接下来我希望自己可以在学习之余，多去关注困难的群体，和他们产生共鸣，多去为公平发声。

看完了，还是有点震惊的。开始以为GPT就像搜索引擎一样的。被人类操纵，但是会有自主，会有感情，会有同理心的倾向的。会不断自我升级的。 很好奇，医疗行业会变成怎么样。希望能够帮助到人。尤其在不发达地区，医疗资源匮乏，或者家里面有老人，孩子不在身边的。帮助这些人。 也帮助医生减少工作量。关注到病人本身。关注到病人的情绪。 但是也要警惕一些负面影响。比如逻辑，数学这一块不够强。还有信息安全。 综合来看，还是利大于弊的。希望会更好

摘录一句最重要的话：我们不要被自己的创造物诱惑，也不要让它们的魅力使我们忘却道德指南针。因为只有在智慧与谦卑的平衡中，我们才能够为了更大的善，利用AI的潜力，免得我们成为导致自己毁灭的“造物主”。