KoboldAI 安装与配置指南：AI 写作工具入门

KoboldAI 简介

KoboldAI 是通往 GPT 写作的门户，提供标准化的写作工具套件，包括记忆功能、作者笔记、世界信息、保存加载、可调节的 AI 设置、格式化选项等。你可以将其作为写作助手、游戏平台或聊天机器人使用。

核心功能亮点

• 多种游戏模式：小说模式、冒险模式、聊天模式
• 丰富的 AI 模型：支持多种本地和云端模型
• 完整写作工具：记忆系统、世界构建、格式控制

安装方式

在线运行

使用 Google Colab 在线运行 KoboldAI，无需安装任何软件。

• TPU 版本：支持 13B 大模型
• GPU 版本：兼容更多 2.7B 模型

Google Colab 使用技巧：

• 定期处理验证码，避免实例被关闭
• 使用 Google Drive 存储文件和设置
• 可选择下载保存文件到本地

Windows 安装

1. 运行安装脚本：
   • 以管理员身份运行 install_requirements.bat
   • 选择临时 B:驱动器选项
   • 等待安装完成，不要中途关闭
2. 启动应用：
   • 运行 play.bat 或 remote-play.bat

克隆仓库：

git clone <repository_url>
cd KoboldAI-Client

Linux 安装

1. 安装依赖：
   • Nvidia 用户：运行 ./play.sh
   • AMD 用户：运行 ./play-rocm.sh

克隆仓库：

git clone <repository_url>
cd KoboldAI-Client

环境配置

依赖要求

项目使用 Python 环境，主要依赖包括：

• transformers==4.24.0 - Hugging Face 模型加载
• torch>=1.9,<1.13 - PyTorch 深度学习框架
• Flask==2.2.3 - Web 应用框架

完整依赖列表见 requirements.txt

模型配置

KoboldAI 支持多种 AI 模型，配置文件位于 maps/ 目录：

• bloom.json
• gpt_neo.json
• gptj.json