Gemma-3-12B-IT WebUI 部署与使用指南
本文介绍 Google Gemma-3-12B-IT 模型的 WebUI 部署流程与使用方法。无需复杂命令行配置，通过浏览器即可体验 AI 对话功能。
1. Gemma-3-12B-IT 简介
1.1 模型特性
Gemma-3 是 Google 发布的轻量级开源语言模型系列。本次部署的 Gemma-3-12B-IT 包含以下关键信息：
- 12B：120 亿参数，属于中等规模，兼顾能力与硬件要求。
- IT：Instruction Tuned（指令微调版），针对人类指令优化，适合对话场景。
1.2 主要功能
- 代码生成与调试：支持 Python、JavaScript 等语言的编写与 Bug 修复。
- 学习与知识问答：解答科学、技术等问题，解释复杂概念。
- 创作与写作辅助：撰写文章、邮件、文案及润色文字。
- 日常任务协助：制定计划、提供建议、文本翻译。
2. 快速部署与访问
环境配置与服务已预置完成，用户只需通过浏览器访问。
2.1 获取访问地址
在浏览器地址栏输入：
http://<你的服务器 IP>:7860
例如：http://192.168.1.100:7860
2.2 首次访问与加载
打开地址后进入聊天界面。首次访问需加载模型，耗时约 1-2 分钟。加载完成后，底部输入框亮起即可使用。
2.3 开始对话
在输入框中输入：
你好，介绍一下你自己
点击发送，等待助手回复。
3. 界面功能说明
3.1 聊天区域
显示对话历史，按时间顺序排列。每条消息标注'用户'或'助手'。
3.2 输入框和发送按钮
- 输入内容后按
Enter键发送。 - 按
Shift + Enter换行。 - 点击右侧'发送'按钮。
3.3 参数调节面板
位于输入框下方，可调节生成策略：
- Temperature（温度）：控制随机性。写代码/事实问题建议 0.2-0.5；创意写作建议 1.0-1.5。
- Top P（核采样）：控制词汇选择范围，默认 0.9 左右。
- Max Tokens（最大输出长度）：限制回答长度。简短回答 256-512，长篇内容 1024-2048。
4. 使用示例
4.1 代码生成
提问：
写一个 Python 函数，实现快速排序算法
助手将返回代码示例，并可进一步询问解释。
4.2 概念学习
提问：
用简单的话解释什么是递归，最好给个生活中的例子
助手会结合生活实例进行通俗解释。
