超越想象的GPT醫療

ChatGPT 學習應用-4: 在醫學領域應用（再讀） 本書歸納總結該領域發展趨勢以及進展，贊同書中說法，該技術手段本身並非終點，它只代表着一扇通往一個充滿新機遇與新風險的新世界的大門。 特別當它顯現出了一種“具有獨立思維”的傾向。它與該系統的互動，會塑造改進我們的思維方式和行爲。 本書不僅有對於醫學的關注，它也探討GPT-4在各領域的廣泛應用，這些應用甚至會影響我們對人類獨特之處的看法。 將它與前面所讀三本（chatGPT)書比較，其內容一般，但是認爲依然值得推薦，因爲它重點是包括在醫學領域診斷等領域應用及其侷限性討論。特別是它“不僅能協助減輕煩瑣的行政任務，更關鍵的是，它能將醫學重新定位爲關注每位患者的智識與情感的過程”。 如同醫學行當名言：“優秀的醫生關注疾病本身，卓越的醫生關注身患疾病的患者。” 本書今年三月完成，如果要專門給它找茬的話，就是可以發現，它在計算機與人腦接口應用，新型藥物結構設計等最時髦方面幾乎沒有涉及、更不用說在生物信息學、基因組學等領域應用嚴重不足，這是一個遺憾。 簡言之，本書歸納總結ChatGPT及其前身GPT模型在醫學領域中取得了一些成就。這些模型被用於自然語言處理任務，包括文本生成、問答和理解醫學文獻。它們在幫助醫生和研究人員處理大量文本信息、獲取醫學知識方面顯示了潛在的價值。顯然，這些幫助我們進入一個新時代。 記得過去數月曾經在北京有報道，某主辦單位邀請了一羣醫學領域頂級專家與計算機GPT診斷系統進行了比賽。儘管比賽結果基本相同，機器得分比專家得分略微低一點，但是人工智能診斷系統發現了一例專家們用肉眼很難發現或者診斷出的一個稀有遺傳病，令專家們驚歎❗️

中文出版業第一本由 GPT-4 輔助翻譯的書，確實有非常明顯的 AI 腔調。目前所在的公司也大量使用 AI 生成的內容營銷，所以還是能看出相似之處，或者這麼說，閱讀體驗很像是在讀市面上那些“不那麼優秀“的翻譯作品。 會不會是因爲其實 AI 翻譯和一般譯者的案頭工作其實有類似的地方？：卷積神經網絡、深度學習、自然語義模型和人類譯者在腦中加工文字的過程是相似的。 回到本書的內容上，主要講了醫學領域相關的實用案例/指導、對 AI 的風險預估以及如何監管 AI的做法。全文讀下來更像是在讀一篇較爲深度的 OpenAI 傳播稿件（笑），要知道人微軟可是投了 100 多億美元，即使聲量如此足的情況下，也得好好宣傳啊，既是爲了 OpenAI 也是爲了微軟研究院，畢竟 CEO 已經發話：GPT-4 這麼強，那微軟爲什麼還要研究院呢？ 最後，如果想了解生成式 AI 的一些能力、在專業領域內部人員是如何運用提示詞（Prompts）與 AI 互動的，還是可以一看的，畢竟也不長嘛～

Tuesday Oct 3rd, 2023 傳承與未來讀書會第200期的閱讀分享書目是《超越想象的GPT醫療》 作者：彼得·李(Peter Lee)；凱麗·戈德伯格(Carey Goldberg)。 通用人工智能GPT4.0下，我們的醫療服務，診斷，治療會發生怎樣的變化？你是相信一個GPT醫生的診斷還是一個面對面醫生的診斷？GPT如何幫助我們建立健康管理？我們的個人生物隱私數據如何得到保護？ 隨着大量新技術的問世，人類有可能濫用它。讓我們不要被自己的創造物所誘惑，也不要讓它們的魅力使我們遺失道德指南針。 10月3日（星期二）15:30（美加西） 18:30（美加東） 10月4日（星期三）6:30（北京時間） zoom 鏈接：https://us02web.zoom.us/j/6047227628 zoom ID：6047227628（無密碼） 推薦閱讀 ☕️📚🌹

其實，這本書驚人的新鮮程度先證明了AI的恐怖和巨大效益：本書英文版是2023年5月6日第一版，所以其中大量熱騰騰的事實信息讓人倍感解渴，但是僅僅2周之後，5月22日中文版就得以問世，毫無疑問AI翻譯和文本潤色在其中的功勞不該被忽視。 第一，書裏有什麼內容 本書的作者挺牛，一個是微軟研究院副總裁，一位是哈佛大學醫學院生物與信息學首位系主任，90年代以來一直研究AI在醫學上的應用。 內容的價值之處在於深度通過醫療領域的真實使用GPT的對話作爲案例，來說明AI將對醫療行業產生的巨大推動作用。具體在： - 幫助醫護人員整理診療記錄、撰寫病例等各種文檔和文書工作，大大解放人力資源壓力，讓醫者更能面對“人” - 輔助醫生解讀病患病情，提出診療方案參考 - 輔助患者理解自己的病情和醫生的診療方案 書中的對話和案例鮮活，很有畫面感，很有業務實感，能讓人獲得AI助力其他領域應用的啓發。 第二，書中有什麼啓示 1. AI的發展速度超乎從業專家的預計，必須擁抱，也值得擁抱，好處實在太多。光把人力資源從文書工作中解放出來，就不知道可以把多少行業重做一遍。據我所知的領域，金融行業的一些公司在銀行文檔、上市公司資料整理分析等方面，已經深耕很多年了，這方面肯定近期有大發展。 2. AI必須在人類監督下起到重要的輔助功能，因爲還有大量工程黑洞我們無法理解，導致它會編造“幻覺”信息和工作能力的不穩定。 第三，書中有什麼奇異的驚喜 1. 作者這段時間通過實踐驗證的事實：AI的臨牀表現，比所觀察到的許多醫生表現得還要優異。 2. AI的審查能力，強於它的創作能力。要學會用魔法打敗魔法。 3. 目前最新的證據無法證明AI不具備理解能力！ 4. 學會了大概20幾個很好的提問方式。 5. 有一個AI可以通過一位非常優秀的諮詢師的心理治療記錄來進行訓練的好點子。老陽的人性系統論或者冷愛的訓練營應該可以有潛力用。理論夠新，優秀諮詢文本應該不少。

有個別亮點，但總體來看乏善可陳。 兩處有價值的地方： 1.從醫生-患者- AI三角關係的角度，去構建未來醫療生態。 2.關於醫療AI的倫理學和監管方面的前瞻性思考。 但是，對於每天都要用GPT、bing、Claude、bard的人來說，其中講解的內容實在缺乏新鮮感，尤其是大量的直接拷貝和GPT的對話，代替了作爲作者應有的思考和洞見。 而作爲醫生，很多相關場景又太過淺顯了。也可能是因爲GPT確實還沒有到那麼厲害的程度，而且醫療AI也確實還只是處於「暢想」階段吧。 總體來說，可以整理成一篇深度報道的內容，硬生生注水成一本書，就有點沒必要花那個錢了。

1 這本書英文原版是4月完成的，中文版5月就上市了，這背後就是GPT翻譯的功勞，要知道放以前，一本專業的英文書到中文版，中間最少2年。 2 GPT目前應用範圍最廣的是高容錯率的行業，也就是沒有標準答案的行業，比如內容創作，創意，商業諮詢等等，那在低容錯率的醫療，法律行業，GPT有用嗎？ 3 這本書就是答案，GPT可以在很多方面可以賦能醫療，比如醫生用它輔助問診，用它完成可能接近工作50%強度的文書工作，用它做病例總結覆盤等等。 4 但是GPT的侷限性也很明顯，它有時候會胡說八道，誤導醫護人員，它沒有長時記憶功能，對一個月前的患者情況已經忘了，它不能承擔責任等等。 5 這些問題其實都不是我們拒絕GPT的理由，GPT3到4，已經從傻子到在醫生執業考試裏拿到90%的分數,5年以後GPT8出世，又會有多強大呢。 6 面對GPT，又或者是別的工具，我們的態度應該是協作共生，我們對汽車的態度，對洗衣機的態度不都是這樣嘛，而不是指望它取代我們。 7 這是一本很有情懷的書，在佈道，未來如果更多醫院醫生用上GPT，千萬看不起病的人，可以享受到頂級醫生服務，千萬醫護人員不用再因爲職業理想綁架，身心俱疲的服務病人，而是下班可以看到日落。

在書店偶然看到這本書 花三小時看完之後隨便記錄點想法。這本書挺淺的，但是關於應用場景結合對llm還有醫療系統有基礎理解的人是一個不錯的啓發 1. gpt在文本類型任務的應用ehr天然適合，只是hallucination問題需要注意（選擇精確要求不高的任務或者減少幻覺） 2.患者交流管理（就診前後記錄信息和客服，解釋保險，編寫就診記錄等，可節省醫院cost，還有醫療信息的通用翻譯）-》類似紙和手機作爲media，gpt也幫助了信息更高效傳播降低知識信息差（對比之前的科技革命和他們的影響，有什麼啓示和機會）-》病歷筆記 3. agent可能的在工作流如和保險公司 4. 數據標準轉移如換成fhir接入epic 5. 作爲一個token語言概率預測模型，需要讓它理解回答的價值觀和道德性（也是爲了社會利益角度），rl可以，是否也可能有reward/value function，怎麼定義？ 6. 上下文長度影響（方法論上的限制，但可以通過類似微積分的方法無限逼近來獲得近似不受影響的結果），長期記憶在醫療這種慢性病需要很多context的場景是重要的 7. 但這些都是llm本身的問題，在醫療或者不同的行業context，它真的重要嗎？不重要的領域應該思考如何立刻應用，重要的領域應該思考如何解決或者繞開（如果避開，當這個問題解決了的時候會有什麼影響） 8. 在hallucination和價值解決之前，技術上只能輔助（醫生可以信任，但要覈實，就像會計按計算器和excel，你本身的輸入也可能有問題，這個的解決看看歷史有沒有對應，可能是機會） 9. foundational model的上下文怎麼keep track這麼長？在很長的治療時間內，併發症怎麼辦，有什麼其他新的病造成的影響怎麼處理？如果要做醫療大模型，是面向患者還是醫生？有必要完全精準纔有商業價值嗎？壁壘在哪 10. ai作爲工具不是法律實體，不負責任就無法給控制權，怎麼創造一個法律實體？如果使用它的人類會有訴訟風險，它就只能作爲輔助。 11. 美國和中國不一樣，基層醫療人員短缺，同時ehr本身也需要變革，這是需求+技術的高需求 12. ai作爲一個第三方自動檢測 包括對話語音，在不影響醫生本身工作流情況下減負並且給出建議，agent在醫療場景是有意義的落地 13. 幫助對接醫生（找到你最適合的醫生），醫生找到最適合他的患者，還能做研究 14. 這一系列的信息差減少，也會讓醫療市場問診需求上升（減少使用摩擦和決策需要的burden） 15. 用藥，藥物配平和護士相關的實操計量，數學方面可以用gpt計算來優化解決（但是需要外部llm審覈） 16. gpt的邏輯推理能力可以設計few shot來更好的指導如何分配患者，轉移患者，建立工作流 17. 有意思的知識：開藥有的時候要寫申請預先批准，gpt可以幫助撰寫，更方便開藥。增加醫院收入+讓患者有藥 18. 潛在的戰鬥：醫保醫院和第三方理賠公司分別用ai大戰來扯皮醫保-》潛在機會之一 19. 讓ai嵌入工作流自動化，是核心 20. 選試藥的人，這個llm可以節省很多cost（閱讀單個人所有患者費用150-1000），同時延誤一個月對製藥公司的損失60w-80w。尋找受試者+設計+試驗期間的指導+數據分析，這一套下來能省很多錢 21. 因果推理的能力（技術優化）能否讓llm在沒有上下文或者完全specific的數據的情況下產生近似質量的結果？如果可以，數據還是否是壁壘？壁壘是否就變成了誰先使用以及deployment？就像醫院的醫療系統很老很爛，不是技術問題，能用就行，主要是有明確的指導加上換的成本很大很麻煩。 22. Data：去標識保護隱私 23. 蛋白模型能否通過每個protein的amino acid sequence推測出他的結構和功能？我認爲必須要物理建模：生物llm+人類知識語言表達llm結合可能是可以的方法 24. 監管：和我一直以來的想法一樣，監管在歷史上是在新技術出來很久才能跟上，例如1990纔開始注意互聯網安全和隱私的法律和規則約束。1968美國纔出臺federal law所有車都得有安全帶。這個滯後是一個必然的機會。但是需要找到類似安全帶或者安全公司這樣的價值載體。 25. 不是從0開始的監管，各國行業監管在之前功能更有限的ai系統裏已經有一些藥物監管和設備監管（例如SaMD的框架），可以借鑑（這個得深入瞭解）。但是之前的監管架構都是爲了Specifc purpose，llm有廣泛的醫療用途，而且科技發展的速度導致很多時候只能有partial solution（研究方向） 26.ai應用可以分成兩個監管類別：低風險比如寫文書給保險等（簡單的監管措施或者規定）；高風險（直接影響患者的）應該實施強制人類審覈，包括編輯修改，簽字審批等，出問題可以追責相關人員。 27. 專業的看法是支持創新+保障安全（公司只要對自己的方法，對系統的風險和收益保持透明就行；行業有人說這樣不會有和患者的coi） 28. 再往前一步，在解決問題的情況上考慮成本是可能的機會 29. “人們常說AI系統如同一個"黑箱"，即便是開發這些系統的工程師，也並不完全清楚其內部運作原理。因此，現實往往是要麼無法實現足夠的透明度，要麼無法避免利益衝突。由此看來，總是需要某種適當的問責機制，以及能夠實質性改變決策的人類進行追索，甚至可能需要一種審計或監督形式﹣﹣這種形式正如在醫學其他領域中用於觀察自利或其他不當行爲的方法一樣。” 29. 對於重症患者和老年市場，光解決問題不是最重要的，care和connection也很重要

推薦給剛剛接觸醫療與ai結合的人，這本書會給你積極的態度，這是很重要的，當你要評判一個事物的利弊，對它深入的瞭解是必要的前提。 書中作者大量地與ai對話，並分析ai產生的內容它背後的邏輯是什麼，它的優點在哪缺點在哪，這啓發我平時在問ai問題時也要多思考一點，每一次交互都是一次增強理解增強合作的機會。 健康公平是一個永恆的問題，我很多時候會站在醫療從業者，企業的角度去考慮，很少會關注它給醫療資源匱乏者帶來的影響，因爲當我生產或者研究某個醫療產品時，我總是希望它是被有能力買單的人買單的。 接下來我希望自己可以在學習之餘，多去關注困難的羣體，和他們產生共鳴，多去爲公平發聲。

看完了，還是有點震驚的。開始以爲GPT就像搜索引擎一樣的。被人類操縱，但是會有自主，會有感情，會有同理心的傾向的。會不斷自我升級的。 很好奇，醫療行業會變成怎麼樣。希望能夠幫助到人。尤其在不發達地區，醫療資源匱乏，或者家裏面有老人，孩子不在身邊的。幫助這些人。 也幫助醫生減少工作量。關注到病人本身。關注到病人的情緒。 但是也要警惕一些負面影響。比如邏輯，數學這一塊不夠強。還有信息安全。 綜合來看，還是利大於弊的。希望會更好

摘錄一句最重要的話：我們不要被自己的創造物誘惑，也不要讓它們的魅力使我們忘卻道德指南針。因爲只有在智慧與謙卑的平衡中，我們才能夠爲了更大的善，利用AI的潛力，免得我們成爲導致自己毀滅的“造物主”。