本地部署的医疗大模型应用实践
引言
在人工智能技术飞速发展的今天，大语言模型（LLM）正逐渐渗透至各行各业。然而，许多人对大模型仍存在误解：
PythonAI算法
基于 Ollama 与 Qwen 的本地医疗大模型应用实践
本文介绍了如何在本地 PC 上部署医疗大模型，利用 Ollama 框架运行阿里千问模型，结合 Streamlit 构建 Web 交互界面。重点阐述了本地部署的优势、环境配置、代码实现及在医疗场景下的应用潜力与局限性，旨在为医疗信息化提供低成本、高隐私的智能化方案。
本文介绍了如何在本地 PC 上部署医疗大模型，利用 Ollama 框架运行阿里千问模型，结合 Streamlit 构建 Web 交互界面。重点阐述了本地部署的优势、环境配置、代码实现及在医疗场景下的应用潜力与局限性，旨在为医疗信息化提供低成本、高隐私的智能化方案。
在人工智能技术飞速发展的今天，大语言模型（LLM）正逐渐渗透至各行各业。然而，许多人对大模型仍存在误解：
事实上，随着模型量化技术与推理框架的优化，大模型已可在个人电脑甚至普通服务器上流畅运行。特别是在医疗领域，数据隐私至关重要，本地化部署成为首选方案。
本文将通过实际案例，演示如何利用开源工具 Ollama 和阿里通义千问（Qwen）模型，结合 Streamlit 构建一个本地化的医疗病例整理助手。
访问官网 https://ollama.ai 下载对应系统的安装包。安装完成后，打开终端验证：
ollama --version
使用以下命令拉取通义千问 Qwen2 模型（默认量化版本适合本地运行）：
ollama run qwen2:7b
注：若显存不足，可尝试 qwen2:1.5b 或 qwen2:0.5b 等更小参数量版本。
我们需要编写 Python 脚本调用 Ollama 的 Chat API。创建一个名为 api.py 的文件：
import ollama
from typing import List, Dict
def call_ollama(model: str, message: Dict) -> List[str]:
"""
调用 Ollama 模型进行对话
:param model: 模型名称，如 'qwen2'
:param message: 消息字典，包含 role 和 content
:return: 返回内容列表
"""
try:
response = ollama.chat(
model=model,
messages=[message],
stream=True
)
chunks = []
for chunk in response:
if 'message' in chunk and 'content' in chunk['message']:
chunks.append(chunk['message']['content'])
return chunks
except Exception as e:
print(f"Error calling Ollama API: {e}")
return []
if __name__ == "__main__":
# 测试调用
msg = {'role': 'user', 'content': '请简述高血压的诊断标准'}
result = call_ollama('qwen2', msg)
print(''.join(result))
创建 requirements.txt 以确保环境一致性：
ollama
streamlit
pandas
安装依赖：
pip install -r requirements.txt
使用 Streamlit 搭建简易 Web 应用，实现与大模型的实时互动。创建 app.py：
import streamlit as st
import ollama
import pandas as pd
st.set_page_config(page_title="医疗病例助手", layout="wide")
st.title("🏥 本地医疗病例智能助手")
# 侧边栏配置
with st.sidebar:
st.header("设置")
model_choice = st.selectbox("选择模型", ["qwen2:7b", "qwen2:1.5b"])
temperature = st.slider("温度 (创造性)", 0.0, 1.0, 0.7)
st.info("提示：本工具仅供辅助参考，不替代专业医疗诊断。")
# 初始化会话状态
if "messages" not in st.session_state:
st.session_state.messages = []
# 显示历史对话
for message in st.session_state.messages:
with st.chat_message(message["role"]):
st.markdown(message["content"])
# 用户输入区域
user_input = st.text_area("请输入患者主诉及检查报告", height=200, placeholder="例如：患者男，45 岁，近期出现胸闷气短...检验指标显示...\n")
# 功能按钮
col1, col2 = st.columns(2)
with col1:
if st.button("整理病例资料"):
if user_input:
prompt = f"{user_input} 请把以下资料和数据，整理为结构化表格。对检验指标，请加以解释说明。"
messages = [{'role': 'user', 'content': prompt}]
with st.spinner("正在分析..."):
response_chunks = ollama.chat(model=model_choice, messages=messages, stream=True)
full_response = ""
for chunk in response_chunks:
if 'message' in chunk and 'content' in chunk['message']:
content = chunk['message']['content']
full_response += content
st.write(content)
st.session_state.messages.append({"role": "user", "content": prompt})
st.session_state.messages.append({"role": "assistant", "content": full_response})
with col2:
if st.button("查询治疗方案"):
if user_input:
prompt = f"{user_input} 请寻找相关治疗方案和临床治疗路径，有相关文档请列出，整理后以表格形式用中文输出。"
messages = [{'role': 'user', 'content': prompt}]
with st.spinner("正在检索知识..."):
response_chunks = ollama.chat(model=model_choice, messages=messages, stream=True)
full_response = ""
for chunk in response_chunks:
if 'message' in chunk and 'content' in chunk['message']:
content = chunk['message']['content']
full_response += content
st.write(content)
st.session_state.messages.append({"role": "user", "content": prompt})
st.session_state.messages.append({"role": "assistant", "content": full_response})
运行应用：
streamlit run app.py
医生在进行疑难杂症会诊前，需要整理大量检查报告、病史及过往治疗方案。该工具可自动提取关键信息并生成结构化摘要，节省医护人员时间。
基于输入的病例特征，模型可检索内部知识库（需配合 RAG 架构），提供符合指南的治疗建议参考，辅助医生决策。
根据诊断结果，自动生成通俗易懂的患者宣教文案，帮助患者理解病情。
尽管本地部署大模型具有显著优势，但在医疗场景下仍需注意：
为了进一步提升准确性，可引入检索增强生成（RAG）技术：
示例代码结构：
# 伪代码示意
from langchain.vectorstores import Chroma
from langchain.embeddings import HuggingFaceEmbeddings
# 加载本地向量库
db = Chroma(persist_directory="./medical_db", embedding_function=embeddings)
# 检索相关文档
relevant_docs = db.similarity_search(query=user_input, k=3)
context = "\n".join([doc.page_content for doc in relevant_docs])
# 构造 Prompt
final_prompt = f"基于以下背景知识：{context}\n\n问题：{user_input}"
本文详细展示了如何在本地 PC 上利用 Ollama 和 Qwen 模型构建医疗辅助应用。通过 Streamlit 快速搭建交互界面，实现了病例整理与治疗建议查询功能。这种模式不仅降低了技术门槛，更保障了医疗数据的隐私安全。
未来，随着端侧算力提升和模型压缩技术的进步，本地化 AI 将在更多垂直领域发挥关键作用。希望本案例能为医疗信息化从业者提供有价值的参考。
免责声明：本文所述技术方案仅供学习交流，不构成任何医疗建议。实际应用请务必遵循相关法律法规及医疗规范。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online