简介
一个基于 LLaMA 模型用于医学领域的医学聊天机器人:ChatDoctor:这个项目的目标是为患者提供一个智能可靠的医疗伴侣,能够回答其医学问题并提供个性化的医疗建议。是专为医学应用而设计的先进语言模型。
它经过大量医学文献的训练,深刻理解医学术语、程序和诊断。该模型作为ChatDoctor的基础,使其能够分析患者的症状和病史,提供准确的诊断,并建议适当的治疗方案。
目前已经在GitHub [1] 上面开源,可以自行查看,文章也在Cureus [2] 和arxiv [3] 可查看。
项目贡献机构,作者通过名字看起来貌似都是华人:
特点:
经过大量医学文献的训练,深刻理解医学术语、程序和诊断。该模型作为ChatDoctor的基础,使其能够分析患者的症状和病史,提供准确的诊断,并建议适当的治疗方案。
对话:
这个模型旨在模拟医生与患者之间的对话,利用自然语言处理(NLP)和机器学习技术。患者可以通过聊天界面与ChatDoctor模型互动,询问有关其健康、症状或医学状况的问题。模型将分析输入并提供根据患者独特情况量身定制的响应。
亮点:
ChatDoctor 模型的一个关键特点是其具有随时间学习和适应的能力。随着更多患者与模型互动,它将不断优化其响应并提高准确性。这意味着患者可以期望随着时间推移接收到越来越个性化和准确的医疗建议。
这个模型一共进行了多轮的微调来达到效果:
1. 先使用 Stanford Alpaca 提供的 52K instruction-following 数据训练了一个通用的对话模型;
2. 通过 ChatGPT GenMedGPT-5k 和疾病数据库生成的「患者和医生之间的5K对话数据集」,再次微调模型;
3. 通过 HealthCareMagic-200k 的患者和医生之间的真实对话进行第三轮微调;
4. 通过 icliniq-26k 的患者和医生之间的真实对话进行第四轮微调。
参考
- ^ GitHub:ChatDoctor https://github.com/Kent0n-Li/ChatDoctor
- ^ ChatDoctor: A Medical Chat Model Fine-Tuned on a Large Language Model Meta-AI (LLaMA) Using Medical Domain Knowledge https://www.cureus.com/articles/152858-chatdoctor-a-medical-chat-model-fine-tuned-on-a-large-language-model-meta-ai-llama-using-medical-domain-knowledge#!/
- ^ ChatDoctor: A Medical Chat Model Fine-Tuned on a Large Language Model Meta-AI (LLaMA) Using Medical Domain Knowledge https://arxiv.org/abs/2303.14070