KoboldAI 本地部署与配置实战指南
KoboldAI 是一个基于浏览器的 AI 辅助写作前端，支持多种本地和远程 AI 模型。无论你是想创作小说、玩文字冒险游戏，还是与 AI 聊天，本指南将带你完成安装配置。
核心功能
KoboldAI 提供标准化的写作工具套件，包括记忆功能、作者笔记、世界信息、保存加载、可调节的 AI 设置、格式化选项等。你可以将其作为写作助手、游戏平台或聊天机器人使用。
主要特性
- 多种游戏模式：小说模式、冒险模式、聊天模式
- 丰富的 AI 模型：支持多种本地和云端模型
- 完整写作工具：记忆系统、世界构建、格式控制
安装方式
在线运行
使用 Google Colab 在线运行 KoboldAI，无需安装任何软件。TPU 版本支持 13B 大模型，GPU 版本兼容更多 2.7B 模型。
使用技巧：
- 定期处理验证码，避免实例被关闭
- 使用 Google Drive 存储文件和设置
- 可选择下载保存文件到本地
Windows 离线安装
- 运行安装脚本：以管理员身份运行
install_requirements.bat，选择临时 B:驱动器选项，等待安装完成。 - 启动应用：运行
play.bat或remote-play.bat。
获取代码：
git clone <repository_url>
Linux 用户安装
- 安装依赖：Nvidia 用户运行
./play.sh，AMD 用户运行./play-rocm.sh。
获取代码：
git clone <repository_url>
cd KoboldAI-Client
环境配置
依赖要求
项目使用 Python 环境，主要依赖包括：
- transformers==4.24.0 - Hugging Face 模型加载
- torch>=1.9,<1.13 - PyTorch 深度学习框架
- Flask==2.2.3 - Web 应用框架
完整依赖列表见 requirements.txt。
模型配置
配置文件位于 maps/ 目录，支持 bloom、gpt_neo、gptj 等模型。
使用模式
冒险模式
- 启用设置中的冒险模式
- 使用第二人称视角（"You take the sword"）
- 支持角色扮演和文本冒险游戏
写作助手模式
- 使用小说优化模型
- 第一人称或第三人称写作
