KoboldAI 是什么?
KoboldAI 是一个基于浏览器的 AI 辅助写作前端,它充当了通往大语言模型应用的门户。你可以把它当作写作助手、文字冒险游戏平台或者聊天机器人来使用。它的核心优势在于提供了一套标准化的工具套件,包括记忆功能、作者笔记、世界信息构建、保存加载以及可调节的 AI 设置等。
核心功能亮点
- 多种游戏模式:支持小说模式、冒险模式和聊天模式切换
- 丰富的模型支持:兼容多种本地和云端 AI 模型
- 完整写作工具:内置记忆系统、世界构建和格式控制
环境准备与安装
项目主要依赖 Python 环境,在开始之前请确保你的系统已安装 Python。主要的依赖库包括 transformers(用于 Hugging Face 模型加载)、torch(PyTorch 深度学习框架)以及 Flask(Web 应用框架)。完整的依赖列表通常位于项目的 requirements.txt 文件中,建议直接通过 pip 批量安装。
Windows 用户离线安装
对于 Windows 用户,最稳定的方式是运行自带的安装脚本。
- 准备环境:以管理员身份打开命令行或 PowerShell。
- 运行脚本:找到并运行
install_requirements.bat文件。过程中可能会提示选择临时驱动器选项,按提示操作即可。注意等待安装完成,不要中途关闭窗口。 - 启动应用:安装完成后,运行
play.bat启动本地服务,或者使用remote-play.bat进行远程访问。
如果你习惯手动管理代码,可以克隆项目仓库到本地目录,然后进入对应文件夹执行上述脚本。
Linux 用户安装指南
Linux 下的安装逻辑类似,但需要区分显卡驱动类型。
- NVIDIA 用户:直接运行
./play.sh - AMD 用户:运行
./play-rocm.sh
同样需要先确保依赖项已安装,可以通过 pip install -r requirements.txt 来完成。
配置与使用模式
KoboldAI 的配置相对灵活,模型配置文件通常位于 maps/ 目录下,你可以根据需要调整 Bloom、GPT Neo 或 GPT-J 等模型的参数。
三种核心模式
-
冒险模式 (Adventure Mode) 适合玩文字冒险游戏。启用后,AI 会采用第二人称视角(例如 "You take the sword"),非常适合角色扮演场景。
-
写作助手模式 (Writing Assistant Mode) 专为文学创作设计。建议使用针对小说优化的模型,支持第一人称或第三人称写作,能更好地保持文风一致性。
-
聊天模式 (Chat Mode) 适合对话式交互。系统会自动添加用户名到对话开头,防止 AI 混淆角色,模拟真实的聊天体验。
Docker 容器化部署
如果你偏好容器化方案,项目也提供了 Dockerfile 和 docker-compose.yml 配置。这能让你更方便地在不同操作系统间迁移环境,同时支持 CUDA 和 ROCM 加速。
性能优化与常见问题
硬件与模型选择
- 新手推荐:从 6B 参数量的模型开始尝试,对显存压力较小。
- 写作需求:优先选择小说优化模型。

