簡介
一個基於 LLaMA 模型用於醫學領域的醫學聊天機器人:ChatDoctor:這個計畫的目標是為患者提供一個智慧可靠的醫療伴侶,能夠回答其醫學問題並提供個人化的醫療建議。是專為醫學套用而設計的先進語言模型。
它經過大量醫學文獻的訓練,深刻理解醫學術語、程式和診斷。該模型作為ChatDoctor的基礎,使其能夠分析患者的癥狀和病史,提供準確的診斷,並建議適當的治療方案。
目前已經在GitHub [1] 上面開源,可以自行檢視,文章也在Cureus [2] 和arxiv [3] 可檢視。
計畫貢獻機構,作者透過名字看起來貌似都是華人:
特點:
經過大量醫學文獻的訓練,深刻理解醫學術語、程式和診斷。該模型作為ChatDoctor的基礎,使其能夠分析患者的癥狀和病史,提供準確的診斷,並建議適當的治療方案。
對話:
這個模型旨在模擬醫生與患者之間的對話,利用自然語言處理(NLP)和機器學習技術。患者可以透過聊天界面與ChatDoctor模型互動,詢問有關其健康、癥狀或醫學狀況的問題。模型將分析輸入並提供根據患者獨特情況量身客製的響應。
亮點:
ChatDoctor 模型的一個關鍵特點是其具有隨時間學習和適應的能力。隨著更多患者與模型互動,它將不斷最佳化其響應並提高準確性。這意味著患者可以期望隨著時間推移接收到越來越個人化和準確的醫療建議。
這個模型一共進行了多輪的微調來達到效果:
1. 先使用 Stanford Alpaca 提供的 52K instruction-following 數據訓練了一個通用的對話模型;
2. 透過 ChatGPT GenMedGPT-5k 和疾病資料庫生成的「患者和醫生之間的5K對話數據集」,再次微調模型;
3. 透過 HealthCareMagic-200k 的患者和醫生之間的真實對話進行第三輪微調;
4. 透過 icliniq-26k 的患者和醫生之間的真實對話進行第四輪微調。
參考
- ^ GitHub:ChatDoctor https://github.com/Kent0n-Li/ChatDoctor
- ^ ChatDoctor: A Medical Chat Model Fine-Tuned on a Large Language Model Meta-AI (LLaMA) Using Medical Domain Knowledge https://www.cureus.com/articles/152858-chatdoctor-a-medical-chat-model-fine-tuned-on-a-large-language-model-meta-ai-llama-using-medical-domain-knowledge#!/
- ^ ChatDoctor: A Medical Chat Model Fine-Tuned on a Large Language Model Meta-AI (LLaMA) Using Medical Domain Knowledge https://arxiv.org/abs/2303.14070