KoboldAI 安装与配置指南
简介
KoboldAI 是一个基于浏览器的 AI 辅助写作前端，支持多种本地和远程 AI 模型。它提供标准化的写作工具套件，包括记忆功能、作者笔记、世界信息、保存加载、可调节的 AI 设置、格式化选项等。你可以将其作为写作助手、游戏平台或聊天机器人使用。
核心功能
- 多种游戏模式：小说模式、冒险模式、聊天模式
- 丰富的 AI 模型：支持多种本地和云端模型
- 完整写作工具：记忆系统、世界构建、格式控制
安装方式
在线免费体验
使用 Google Colab 在线运行 KoboldAI，无需安装任何软件。
- TPU 版本：支持 13B 大模型
- GPU 版本：兼容更多 2.7B 模型
Google Colab 使用技巧：
- 定期处理验证码，避免实例被关闭
- 使用 Google Drive 存储文件和设置
- 可选择下载保存文件到本地
Windows 用户离线安装
- 运行安装脚本：以管理员身份运行 install_requirements.bat，选择临时 B:驱动器选项，等待安装完成。
- 启动应用：运行 play.bat 或 remote-play.bat。
克隆仓库：
git clone [项目仓库地址]
Linux 用户安装指南
- 安装依赖：Nvidia 用户运行 ./play.sh，AMD 用户运行 ./play-rocm.sh。
克隆仓库：
git clone [项目仓库地址]
cd KoboldAI-Client
环境配置
依赖要求
项目使用 Python 环境，主要依赖包括：
- transformers==4.24.0 - Hugging Face 模型加载
- torch>=1.9,<1.13 - PyTorch 深度学习框架
- Flask==2.2.3 - Web 应用框架
模型配置
KoboldAI 支持多种 AI 模型，配置文件位于 maps/目录。
使用模式
冒险模式
- 启用设置中的冒险模式
- 使用第二人称视角
- 支持角色扮演和文本冒险游戏
写作助手模式
- 使用小说优化模型
- 第一人称或第三人称写作
- 专业的文学创作支持
聊天模式
- 自动添加用户名到对话开头
- 防止 AI 以用户身份发言
- 适合对话式交互
Docker 部署选项
对于喜欢容器化部署的用户，项目提供了多种 Docker 方案。
CUDA 支持
- Dockerfile
- docker-compose.yml
