基于 Ollama 搭建本地大模型
下载安装 Ollama
访问官网下载对应操作系统的安装包。
- Windows：直接运行安装程序即可。
- Linux：在终端运行以下命令进行安装。
curl -fsSL https://ollama.com/install.sh | sh
Windows 环境配置
1. 增加环境变量
建议添加 OLLAMA_HOST 变量以指定服务地址（可选）。
2. 更改模型存储位置（可选）
默认模型路径为：
C:\Users\{用户}.ollama\models
如果修改到其他盘符，可能会产生大量磁盘 IO，影响生成速度。建议使用默认位置。
3. 重启服务
环境变量修改完成后，记得重启 Ollama 服务使配置生效。
运行模型
选择合适的模型并运行对应的命令。例如运行 Gemma 2B 模型：
ollama run gemma:2b
该命令会自动下载模型到本地。下载完成后，浏览器访问 http://localhost:11434 若出现欢迎信息，说明安装成功。
Chat 界面搭建
为了获得更好的交互体验，可以部署一个基于 Node.js 的聊天前端。
1. 环境要求
- Node.js 版本需大于 18。
2. 安装依赖
在项目当前目录下执行：
npm install
3. 构建配置
如需本地构建，需修改 svelte.config.js 中的 adapter 配置。示例如下：
const config = {
preprocess: [vitePreprocess({})],
kit: {
adapter: adapter({
out: 'build',
precompress: false,
envPrefix: '',
polyfill: true
})
}
};
4. 启动服务
执行构建命令：
npm run build
生成 build 目录后，执行启动命令：
node build
