KoboldAI 简介
KoboldAI 是通往 GPT 写作的门户,提供标准化的写作工具套件,包括记忆功能、作者笔记、世界信息、保存加载、可调节的 AI 设置、格式化选项等。你可以将其作为写作助手、游戏平台或聊天机器人使用。
核心功能亮点
- 多种游戏模式:小说模式、冒险模式、聊天模式
- 丰富的 AI 模型:支持多种本地和云端模型
- 完整写作工具:记忆系统、世界构建、格式控制
快速开始:三种安装方式
在线免费体验
使用 Google Colab 在线运行 KoboldAI,无需安装任何软件。
Windows 用户离线安装
- 运行安装脚本:
- 以管理员身份运行 install_requirements.bat
- 选择临时 B:驱动器选项
- 等待安装完成,不要中途关闭
- 启动应用:
- 运行 play.bat 或 remote-play.bat
Linux 用户安装指南
- 安装依赖:
- Nvidia 用户:运行 ./play.sh
- AMD 用户:运行 ./play-rocm.sh
克隆仓库:
git clone <repository_url>
cd KoboldAI-Client
环境配置详解
依赖要求
项目使用 Python 环境,主要依赖包括:
- transformers==4.24.0 - Hugging Face 模型加载
- torch>=1.9,<1.13 - PyTorch 深度学习框架
- Flask==2.2.3 - Web 应用框架
完整依赖列表见 requirements.txt
模型配置
KoboldAI 支持多种 AI 模型,配置文件位于 maps/目录:
- bloom.json
- gpt_neo.json
- gptj.json
使用模式详解
冒险模式
- 启用设置中的冒险模式
- 使用第二人称视角(You take the sword)
- 支持角色扮演和文本冒险游戏
写作助手模式
- 使用小说优化模型
- 第一人称或第三人称写作
- 专业的文学创作支持
聊天模式
- 自动添加用户名到对话开头
- 防止 AI 以用户身份发言
- 适合对话式交互
Docker 部署选项
对于喜欢容器化部署的用户,项目提供了多种 Docker 方案:
CUDA 支持
- Dockerfile

