华南理工大学开源中文主动健康大模型扁鹊（BianQue）

补充：Windows 下的用户推荐参考如下流程配置环境

cd BianQue  
conda create -n proactivehealthgpt_py38 python=3.8  
conda activate proactivehealthgpt_py38  
pip install torch==1.13.1+cu116 torchvision==0.14.1+cu116 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu116  
pip install -r requirements.txt  
pip install rouge_chinese nltk jieba datasets  
# 以下安装为了运行 demo  
pip install streamlit  
pip install streamlit_chat

【补充】Windows 下配置 CUDA-11.6：下载并且安装 CUDA-11.6、下载 cudnn-8.4.0，解压并且复制其中的文件到 CUDA-11.6 对应的路径。

3. Python 调用模型

在 Python 当中调用 BianQue-2.0 模型：

import torch  
from transformers import AutoModel, AutoTokenizer  
# GPU 设置  
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")  
# 加载模型与 tokenizer  
model_name_or_path = 'scutcyr/BianQue-2'  
model = AutoModel.from_pretrained(model_name_or_path, trust_remote_code=True).half()  
model.to(device)  
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path, trust_remote_code=True)  

# 单轮对话调用模型的 chat 函数  
user_input = "我的宝宝发烧了，怎么办？"  
input_text = "病人：" + user_input + "\n 医生："  
response, history = model.chat(tokenizer, query=input_text, history=None, max_length=2048, num_beams=1, do_sample=True, top_p=0.75, temperature=0.95, logits_processor=None)  

# 多轮对话调用模型的 chat 函数  
# 注意：本项目使用"\n 病人："和"\n 医生："划分不同轮次的对话历史  
# 注意：user_history 比 bot_history 的长度多 1  
user_history = ['你好', '我最近失眠了']  
bot_history = ['我是利用人工智能技术，结合大数据训练得到的智能医疗问答模型扁鹊，你可以向我提问。']  
# 拼接对话历史  
context = "\n".join([f"病人：{user_history[i]}\n 医生：{bot_history[i]}" for i in range(len(bot_history))])  
input_text = context + "\n 病人：" + user_history[-1] + "\n 医生："  

response, history = model.chat(tokenizer, query=input_text, history=None, max_length=2048, num_beams=1, do_sample=True, top_p=0.75, temperature=0.95, logits_processor=None)

4. 启动服务

本项目提供了 bianque_v2_app.py 作为 BianQue-2.0 模型的使用示例，通过以下命令即可开启服务，然后，通过 http://<your_ip>:9005 访问。

streamlit run bianque_v2_app.py --server.port 9005

特别地，在 bianque_v2_app.py 当中，可以修改以下代码更换指定的显卡：

os.environ['CUDA_VISIBLE_DEVICES'] = '1'

对于 Windows 单显卡用户，需要修改为：os.environ['CUDA_VISIBLE_DEVICES'] = '0'，否则会报错！

可以通过更改以下代码指定模型路径为本地路径：

model_name_or_path = "scutcyr/BianQue-2"

我们还提供了 bianque_v1_app.py 作为 BianQue-1.0 模型的使用示例，以及 bianque_v1_v2_app.py 作为 BianQue-1.0 模型和 BianQue-2.0 模型的联合使用示例。

扁鹊 -2.0

基于扁鹊健康大数据 BianQueCorpus，我们选择了 ChatGLM-6B 作为初始化模型，经过全量参数的指令微调训练得到了新一代 BianQue【BianQue-2.0】。与扁鹊 -1.0 模型不同的是，扁鹊 -2.0 扩充了药品说明书指令、医学百科知识指令以及 ChatGPT 蒸馏指令等数据，强化了模型的建议与知识查询能力。以下为两个测试样例。

• 样例 1： 宝宝特别喜欢打嗝，是什么原因啊，该怎么预防啊

• 样例 2： 我外婆近来身体越来越差了，带她去医院检查，医生说她得了肾静脉血栓，我们全家都很担心，医生开了很多注射用低分子量肝素钙，我想问它的药理毒理？

扁鹊 -2.0 与扁鹊 -1.0 联合使用，兼顾多轮问询与出色的健康建议能力

通过以下命令实现联合使用扁鹊 -2.0 与扁鹊 -1.0 构建主动健康服务：

streamlit run bianque_v1_v2_app.py --server.port 9005

以下为应用例子：前面若干轮为经过扁鹊 -1.0 模型进行问询的过程，最后一轮回复为经过扁鹊 -2.0 模型的回答。

扁鹊 -1.0

扁鹊 -1.0（BianQue-1.0）是一个经过指令与多轮问询对话联合微调的医疗对话大模型。我们经过调研发现，在医疗领域，往往医生需要通过多轮问询才能进行决策，这并不是单纯的'指令 - 回复'模式。用户在咨询医生时，往往不会在最初就把完整的情况告知医生，因此医生需要不断进行询问，最后才能进行诊断并给出合理的建议。基于此，我们构建了扁鹊 -1.0（BianQue-1.0），拟在强化 AI 系统的问询能力，从而达到模拟医生问诊的过程。我们把这种能力定义为'望闻问切'当中的'问'。综合考虑当前中文语言模型架构、参数量以及所需要的算力，我们采用了 ClueAI/ChatYuan-large-v2 作为基准模型，在 8 张 NVIDIA RTX 4090 显卡上微调了 1 个 epoch 得到扁鹊 -1.0（BianQue-1.0），用于训练的中文医疗问答指令与多轮问询对话混合数据集包含了超过 900 万条样本，这花费了大约 16 天的时间完成一个 epoch 的训练。我们将计划围绕扁鹊模型的'望闻问切'能力，结合医学专家知识、多模态技术、多生理信号计算等，进行多个版本的模型迭代研究。

模型'问'能力示例

'望闻问切'四诊法由扁鹊发明。'四诊法'（望、闻、问、切），是中医诊病的基本方法。其中，'问'的能力可以被建模到语言模型当中。我们把 AI 模型的'问'能力定义为： '问'能力：AI 模型能够根据病人输入的信息，结合医学知识来进行恰当的问询，并且结合进一步的问询得到的病人的信息，给出'合适的诊断或建议'。'问'的过程通常是一个多轮对话过程。

以下是 2 个简单的例子：

例子 1 用户：我最近感觉全身疲惫 扁鹊 -1.0：是劳累了，还是熬夜了？ 用户：这周都在熬夜赶论文 扁鹊 -1.0：嗯，熬夜容易引起各种不适，如头晕、乏力、失眠、多梦等，多休息，可以口服谷维素、维生素 B1 和安神补脑液，避免熬夜。

例子 2 用户：我最近经常失眠 扁鹊 -1.0：失眠多久了？ 用户：两周了 扁鹊 -1.0：睡眠怎么样？ 用户：上床几小时才睡得着 扁鹊 -1.0：可以口服一些药物 用户：有具体推荐吗 扁鹊 -1.0：需要先检查一下 用户：那我需要做什么检查？ 扁鹊 -1.0：心电图

使用方法

直接使用扁鹊 -1.0 模型

import os  
from transformers import T5Tokenizer, T5ForConditionalGeneration, AutoTokenizer  
import torch  
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")  


tokenizer = T5Tokenizer.from_pretrained("scutcyr/BianQue-1.0")  
model = T5ForConditionalGeneration.from_pretrained("scutcyr/BianQue-1.0")  
model = model.to(device)  

def preprocess(text):  
    text = text.replace("\n", "\\n").replace("\t", "\\t")  
    return text  

def postprocess(text):  
    return text.replace("\\n", "\n").replace("\\t", "\t")  

def answer(user_history, bot_history, sample=True, top_p=1, temperature=0.7):
    '''sample：是否抽样。生成任务，可以设置为 True;  
    top_p：0-1 之间，生成的内容越多样  
    max_new_tokens=512 lost...'''

    if len(bot_history)>0:
        context = "\n".join([f"病人：{user_history[i]}\n 医生：{bot_history[i]}" for i in range(len(bot_history))])  
        input_text = context + "\n 病人：" + user_history[-1] + "\n 医生："  
    else:
        input_text = "病人：" + user_history[-1] + "\n 医生："  
        return "我是利用人工智能技术，结合大数据训练得到的智能医疗问答模型扁鹊，你可以向我提问。"  
      

    input_text = preprocess(input_text)  
    print(input_text)  
    encoding = tokenizer(text=input_text, truncation=True, padding=True, max_length=768, return_tensors="pt").to(device)   
    if not sample:
        out = model.generate(**encoding, return_dict_in_generate=True, output_scores=False, max_new_tokens=512, num_beams=1, length_penalty=0.6)  
    else:
        out = model.generate(**encoding, return_dict_in_generate=True, output_scores=False, max_new_tokens=512, do_sample=True, top_p=top_p, temperature=temperature, no_repeat_ngram_size=3)  
    out_text = tokenizer.batch_decode(out["sequences"], skip_special_tokens=True)  
    print('医生：'+postprocess(out_text[0]))  
    return postprocess(out_text[0])  

answer_text = answer(user_history=["你好！",  
                                   "我最近经常失眠",  
                                   "两周了",  
                                   "上床几小时才睡得着"],   
                     bot_history=["我是利用人工智能技术，结合大数据训练得到的智能医疗问答模型扁鹊，你可以向我提问。",  
                                  "失眠多久了？",  
                                  "睡眠怎么样？"])

使用个人数据在扁鹊 -1.0 模型基础上进一步微调模型

• 环境创建 以下为在 RTX 4090 显卡，CUDA-11.6 驱动配置下的环境配置

conda env create -n bianque_py38 --file py38_conda_env.yml  
conda activate bianque_py38  
pip install torch==1.13.1+cu116 torchvision==0.14.1+cu116 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu116

• 数据集构建 参考.data/cMedialog_example.csv 格式，构建你的数据集

• 基于扁鹊 -1.0 模型微调你的模型 修改./scripts/run_train_model_bianque.sh，通过绝对路径指定 PREPROCESS_DATA，并且调整其他变量，然后运行：

cd scripts  
bash run_train_model_bianque.sh

声明与局限

扁鹊 -1.0（BianQue-1.0）当前仅经过 1 个 epoch 的训练，尽管模型具备了一定的医疗问询能力，但其仍然存在以下局限：

1. 训练数据来源于开源数据集以及互联网，尽管我们采用了严格的数据清洗流程，数据集当中仍然不可避免地存在大量噪声，这会使得部分回复产生错误；
2. 医生'问询'是一项复杂的能力，这是非医生群体所不具备的，当前的模型对于模拟'医生问询'过程是通过大量样本学习得到的，因此在问询过程当中，有可能出现一些奇异的提问风格。换一句话来说，当前版本的模型强化了'问'的能力，但是'望'、'闻'、'切'的能力仍待进一步研究！

**扁鹊 -2.0（BianQue-2.0）**使用了 ChatGLM-6B 模型的权重，需要遵循其 MODEL_LICENSE。

总结与展望

本项目开源的扁鹊系列模型旨在推动主动健康领域的智能化发展。通过引入多轮问询机制，模型能够更贴近真实医生的诊疗逻辑，有效弥补了传统单轮问答模型在信息获取上的不足。BianQue-1.0 专注于强化'问'的能力，模拟医生问诊过程；BianQue-2.0 则在基础之上增强了知识查询与建议生成能力，并结合药品说明书等指令数据提升了专业度。

未来，团队计划围绕扁鹊模型的'望闻问切'能力体系，结合医学专家知识、多模态技术及多生理信号计算，持续进行模型迭代。这不仅有助于提升 AI 在慢性病管理、心理咨询等场景的应用效果，也为学术界提供了可复现的主动健康大模型基座，助力相关研究的加速开展。