
本地部署模型
安装 Ollama
官网:Ollama

下载并安装完成后无提示,需手动测试。此处以 Qwen 为例:
ollama run qwen
默认保存在 C:\Users\<username>\.ollama\models。如需更改路径,设置环境变量 OLLAMA_MODELS 后重启服务。
setx OLLAMA_MODELS "D:"
下载完成后测试:

查看已安装模型:
ollama list
删除指定模型:
ollama rm 模型名称
目前仅支持终端交互,需配合 Web 页面提升体验。
安装 Open WebUI
安装 Docker
若本地已有 Docker 可跳过此步。
启动 Hyper-V


若未开启 Hyper-V,可创建文件 Hyper.cmd 并填入以下内容,管理员身份运行后重启电脑:
pushd "%~dp0" dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i" del hyper-v.txt Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL















