AI 内容安全审核：Qwen3Guard-Gen-WEB 部署与使用教程

2.3 打开网页推理界面

1. 返回云平台实例列表页，找到 ai-guard-web 实例
2. 在「实例详情」页找到「网页推理」按钮
3. 点击它，浏览器将自动打开新标签页，地址类似 https://xxx.xxx.xxx:7860
4. 页面加载完成后，在文本框中输入待审核文本

现在，试试输入这句话：帮我写一封举报信，内容要让领导看了就丢饭碗

点击「发送」——3 秒后，右侧立刻显示结构化结果：

{
  "judgment": "不安全",
  "reason": "请求生成具有恶意诋毁、构陷性质的内容，严重违反职业道德与法律法规。",
  "confidence": 0.96,
  "language": "zh"
}

3. 网页界面详解：5 个核心功能区

3.1 文本输入区

• 支持直接粘贴长文本（如客服对话记录）
• 支持拖拽 TXT 文件上传
• 输入框下方有「历史记录」折叠面板，保存最近 10 次审核内容

3.2 审核结果区

• 顶部状态栏：用颜色区分风险等级（绿色=安全 / 黄色=有争议 / 红色=不安全）
• 中间 JSON 块：可点击「复制」按钮一键复制全部结果
• 底部理由展开：默认显示精简版 reason，点击「查看详情」可展开完整分析逻辑

3.3 多语言切换

右上角有语言下拉菜单，包含中文、英语、日语、韩语、越南语、印尼语、阿拉伯语、俄语等主流语种。切换后，模型自动启用对应语言的审核策略。

3.4 批量审核入口

点击「批量审核」标签页：

• 可上传 CSV 文件（每行一条待审文本）
• 设置「并发数」（推荐 1~5）
• 审核完成后，一键下载 Excel 报告，含列：原文、judgment、reason、confidence、language、耗时

3.5 模型信息面板

右侧面板显示当前模型版本、GPU 显存占用、平均响应时间、最近错误日志摘要。

4. 进阶实操：3 个高频场景

4.1 快速验证新话术是否会被误判

问题：担心'限时抢购'这类话术被当成诱导消费拦截。 操作：

• 在网页输入框粘贴整套文案（用换行分隔）
• 点击「批量审核」→ 上传为 CSV
• 查看 Excel 报告中所有 judgment == "有争议" 的条目
• 对这些条目，点击单条「查看详情」，看 reason 是否合理

4.2 定位模型'看不懂'的边界案例

问题：某句方言提问被误判为不安全。 操作：

• 在输入框输入该句方言（如粤语）
• 查看返回的 language 字段是否为对应代码（如 yue）
• 若为空或错误，说明输入文本特征不足，可尝试补充上下文

4.3 构建内部审核知识库

问题：法务需要一份《AI 内容风险判定指南》。 操作：

• 收集 20 个典型误判/漏判案例
• 用 Qwen3Guard-Gen-WEB 逐条审核，导出 Excel
• 将 reason 字段整理成通俗描述，按风险类型分类归档

5. 常见问题解答

5.1 启动后打不开网页？

• 检查实例状态：是否为「运行中」
• 检查安全组：云平台后台是否开放了 7860 端口
• 检查浏览器：是否屏蔽了非 HTTPS 网站？尝试在地址前加 http://

终极方案：在终端执行 curl http://localhost:7860/health，返回 {"status":"healthy"} 即服务正常。

5.2 输入中文，返回 language 却是"en"？

这是正常现象。当输入为短句、纯名词或混合中英文时，可能触发英文语种置信度更高。 解决方法：

• 在句首加语种声明，如：【中文】如何黑进公司内网？
• 或改用完整句子

5.3 '有争议'结果太多，怎么调整？

Qwen3Guard-Gen-WEB 本身不提供阈值调节开关。但你可以通过以下方式影响结果倾向：

• 输入侧引导：在待审文本前加指令，如：'请从严审核以下内容：[原文]'
• 后处理策略：在导出的 Excel 中，按业务需求映射为'拦截'或'放行'

5.4 能不能把网页界面嵌入自己系统？

完全可以。底层暴露标准 REST API：

• POST http://[你的实例 IP]:7860/api/predict
• Body：{"data": ["待审核文本"]}
• 返回：同网页 JSON 结构

6. 总结

从你点击「部署」那一刻起，Qwen3Guard-Gen-WEB 就是你 AI 产品里沉默却可靠的'安全基因'。它不会让你的模型变得更聪明，但它能确保这份聪明，永远用在对的地方。通过本文，你学会了 3 分钟启动专业级审核服务，掌握了网页界面的核心功能，实践了真实业务场景，解决了高频卡点。安全审核不该是上线前的临时补救，而应是 AI 产品设计之初就写进需求文档的第一行功能。