先把客户电脑的情况记下来,后面选模型、填地址都要用。这里填的内容也只存在这台电脑的浏览器里。
按 Win+R 输入 cmd 回车,在黑窗口里运行:
nvidia-smi --query-gpu=name,memory.total --format=csv
显存决定能跑多大的聊天模型,见第 3 步的选型表。
让客户按平时的方式启动 ComfyUI,记下浏览器地址栏里的地址(不一定是 8188 端口)。用客户自己的工作流先手动出一张图,确认现有环境是好的。如果这一步就出错,先跟客户说明是原有环境的问题。
在客户工作流里找加载模型的节点,看模型文件名:
1girl, long hair, ...)。这决定第 5 步怎么改提示词模板。不确定时搜一下模型文件名。
选一个空间够的非系统盘,下面都以 D 盘为例,换盘就把路径里的 D: 改掉:
D:\AI\SillyTavernD:\AI\ollama-models不要装进 Program Files、桌面或带中文、空格的路径。
酒馆要求 Node.js 20 或更高,官方推荐装最新的 LTS 版。Git 用来下载和更新酒馆,以及安装第三方扩展。
git --version node --version
两条都显示版本号,并且 Node 是 v20 以上,就跳到第 2 步。
winget install -e --id Git.Git winget install -e --id OpenJS.NodeJS.LTS
winget 用不了的话,去 git-scm.com 和 nodejs.org 下载安装包,一路默认下一步。
不重开窗口,新装的命令找不到,这是最常见的"装了却说没装"。
mkdir D:\AI cd /d D:\AI git clone https://github.com/SillyTavern/SillyTavern -b release
npm config set registry https://registry.npmmirror.com
D:\AI\SillyTavern\Start.bat
第一次会自动安装依赖,等它跑完,浏览器会自动打开酒馆,地址是 http://127.0.0.1:8000。
不要右键"以管理员身份运行"。黑窗口在使用期间要一直开着,关掉酒馆就停了。
顶栏的用户设置图标(User Settings)→ General Settings → UI Language → 选简体中文。没立刻变就刷新页面。
config.yaml,所有用户数据都在 D:\AI\SillyTavern\data\default-user\ 里:角色卡在 characters,世界书在 worlds,聊天记录在 chats,ComfyUI 工作流在 user\workflows。Ollama 负责在本地运行聊天模型。先改模型存放位置再下载模型,否则模型会占满 C 盘。
| 显存 | 推荐模型 | 文件大小 | 说明 |
|---|---|---|---|
| 8GB | qwen3:8b | 5.2GB | 和出图同时用会很紧,出图时可能要轮流占显存 |
| 12GB | qwen3.5:9b | 约 6–7GB(估) | 推荐,能和出图模型同时驻留 |
| 12GB | qwen3:14b | 9.3GB | 更聪明,但显存基本占满,出图时要轮流 |
| 16GB | qwen3:14b | 9.3GB | 全在显卡里跑,还剩空间给出图或大上下文 |
| 24GB 以上 | qwen3.8:27b | 18GB | 目前最新的 Qwen,聊天质量最好 |
文件大小来自 Ollama 模型库页面(2026 年 10 月),qwen3.5:9b 是按参数量估的。实际显存占用比文件大小多 1–3GB(上下文越长越多)。
winget install -e --id Ollama.Ollama
或者去 ollama.com 下载 Windows 安装包。装完右下角托盘会出现羊驼图标。
:: 模型存放位置(必设) setx OLLAMA_MODELS "D:\AI\ollama-models" :: 上下文长度,默认只有 4096,角色卡加世界书很容易超(必设) setx OLLAMA_CONTEXT_LENGTH 8192 :: 省显存(可选,显存紧张时建议设) setx OLLAMA_FLASH_ATTENTION 1 setx OLLAMA_KV_CACHE_TYPE q8_0
显存 16GB 以上可以把上下文设成 16384,聊得越长越不容易忘设定。
setx 对已经打开的窗口不生效)。
ollama pull qwen3.5:9b ollama run qwen3.5:9b "你好,用一句话介绍你自己" ollama ps
ollama ps 的 PROCESSOR 一栏要显示 100% GPU。如果出现 CPU 的比例,说明显存放不下,回复会很慢,换小一档的模型或调小上下文。
确认模型下载到了 D:\AI\ollama-models,而不是 C 盘。
顶栏第二个图标,插头形状的 API 连接(API Connections):
http://127.0.0.1:11434顶栏的 A 字图标,高级格式(Advanced Formatting):
Qwen 系列用的是 ChatML 格式。模板选错的表现:回复里出现 <|im_end|> 之类的字样,或者模型替用户说话、停不下来。
同一个面板里的 Reasoning 部分,勾选 Auto-Parse。默认的前后缀就是 <think> 和 </think>,不用改。这样 Qwen 的思考内容会折叠起来,不混在回复正文里。
顶栏最左边的滑块图标,AI 回复配置(AI Response Configuration):
OLLAMA_CONTEXT_LENGTH 设成一样,比如 8192调好后在面板顶部另存为一个预设,起名比如"本地 Qwen"。
http://127.0.0.1:11434/v1。这样不用管 ChatML 模板,也能用网上很多 Chat Completion 格式的预设。但这种方式下上下文长度完全由 OLLAMA_CONTEXT_LENGTH 决定,思考内容的显示我没有实测。建议先用上面的 Text Completion 方式,后面第 9 步的向量记忆也要用到 Text Completion 里填的 Ollama 地址。酒馆会让聊天模型根据对话写一段出图提示词,再把它填进 ComfyUI 工作流里出图。客户的 ComfyUI 已经装好,这里只做接入,不要升级 ComfyUI 或它的自定义节点,升级后客户原来的工作流可能跑不起来。
把 ComfyUI 目录下的 user\default\workflows 文件夹整个复制一份到别处(整合包是在 ComfyUI_windows_portable\ComfyUI\user\default\workflows)。
新版 ComfyUI:菜单里的 工作流 → 导出 (API),英文是 Export (API)。旧版:先在设置里打开 Dev Mode,再点 Save (API Format)。
普通"保存"出来的 JSON 酒馆用不了,必须是 API 格式。导出后把原始文件留一份,方便以后回 ComfyUI 里修改。
用记事本打开导出的 JSON,找到对应节点,把值换掉。数字也要加双引号,这是酒馆文档的要求。以最常见的 SDXL 工作流为例:
"3": { "class_type": "KSampler", "inputs": {
"seed": "%seed%", "steps": "%steps%", "cfg": "%scale%",
"sampler_name": "%sampler%", "scheduler": "%scheduler%",
"denoise": 1, "model": ["4", 0], "positive": ["6", 0],
"negative": ["7", 0], "latent_image": ["5", 0] } },
"4": { "class_type": "CheckpointLoaderSimple", "inputs": { "ckpt_name": "%model%" } },
"5": { "class_type": "EmptyLatentImage", "inputs": {
"width": "%width%", "height": "%height%", "batch_size": 1 } },
"6": { "class_type": "CLIPTextEncode", "inputs": { "text": "%prompt%", "clip": ["4", 1] } },
"7": { "class_type": "CLIPTextEncode", "inputs": { "text": "%negative_prompt%", "clip": ["4", 1] } }节点编号和结构以客户的工作流为准,只改值。可用的占位符:
| 占位符 | 填什么 |
|---|---|
%prompt% / %negative_prompt% | 正面 / 负面提示词(已经拼好通用前缀和角色前缀) |
%model% | 模型文件名,酒馆里下拉选择。Flux 这类用 UNET 加载器的,填在 unet_name 上,或者直接写死 |
%seed% | 种子,酒馆里设 -1 就是每次随机 |
%steps% %scale% %sampler% %scheduler% | 步数、CFG、采样器、调度器 |
%width% %height% | 宽高 |
%vae% %denoise% %clip_skip% | 按需使用 |
%char_avatar% %user_avatar% | 角色 / 用户头像(base64),需要专门的节点解码,一般用不到 |
LoRA 加载器、放大模型这些不需要变的,保持写死。
直接把改好的 JSON 复制到 D:\AI\SillyTavern\data\default-user\user\workflows\。也可以在下一步的酒馆界面里点"新建工作流",把内容粘进编辑器。
顶栏积木图标,扩展(Extensions)→ Image Generation:
http://127.0.0.1:8188)→ 点 Connectmasterpiece, best quality, ;客户原工作流里有固定的画质词就照搬。lowres, bad anatomy, bad hands, text, watermark, worst quality。tag 类模型(SDXL、Illustrious 等):用默认模板就行,酒馆默认就是让模型写逗号分隔的关键词。
自然语言类模型(Flux 等):打开 SD Prompt Templates 抽屉,把各个模式(尤其是 Yourself、The Last Message)的指令改成要求写一段英文描述,比如:
Ignore previous instructions. Describe {{char}}'s full-body appearance as ONE paragraph of plain English for an image generator: face, hair, eyes, body, clothing, pose, setting and lighting. No lists, no tags, no dialogue, English only.同时把通用前缀清空或改成一句自然语言,负面提示词对 Flux 基本不起作用。
如果模型写出来的提示词是中文,在模板末尾加一句 Use English only.
输入框左边的魔法棒菜单 → Image Generation,依次试:
/sd you、/sd face、/sd last/sd apple tree, sunset(直接用你写的提示词)出错时看 ComfyUI 的黑窗口,报错信息会显示在那里。
CUDA out of memory,或者出图后聊天变得很慢,说明两边加起来超过了显存。解决办法:聊天模型换小一档;或把 OLLAMA_CONTEXT_LENGTH 调小;或接受出图时两边轮流加载(会多等十几秒到几十秒)。角色卡是一个角色的完整设定,导出后是一张 PNG 图片,设定数据藏在图片里,分享图片就等于分享整个角色。
示例对话每一段前面写 <START>,用 {{user}}: 和 {{char}}: 标明谁在说话。{{user}} 和 {{char}} 会自动替换成用户名和角色名。
*星号* 包起来,酒馆会显示成斜体,模型也会学着这样写。开场白和示例对话的写法对模型影响最大,想要什么文风就照那个文风写。世界书是按关键词触发的设定词典。聊天里提到某个关键词,酒馆才把对应的设定插进发给模型的内容里,所以设定可以写很多,也不会把本地模型的上下文撑爆。
| 标题 | 关键词 | 策略 | 内容 |
|---|---|---|---|
| 世界规则 | (常驻不需要) | 🔵 常驻 | 这是一个中世纪风格的魔法世界,没有电、手机和枪械。照明靠魔法灯,远距离通信靠信鸽和传讯水晶。 |
| 王都艾尔文 | 王都, 艾尔文, 首都, 城里 | 🟢 | 艾尔文是王国首都,人口约十万。城北是王宫和贵族区,城中心是魔法学院,城南是平民区和集市,月影酒馆就在城南。 |
| 魔法学院 | 魔法学院, 学院, 魔法师 | 🟢 | 王国唯一的魔法学院,每年春天招生一次,入学要测魔力属性。学费很贵,平民子弟只能靠奖学金入学。 |
| 老陈 | 老陈, 陈叔 | 🟢 | 月影酒馆的常客,退役骑士,左腿受过伤。和小雨的父亲是战友,小雨叫他陈叔,他总偷偷帮小雨赶走闹事的醉汉。 |
| 月影麦酒 | 招牌酒, 月影麦酒, 麦酒 | 🟢 | 月影酒馆的招牌,用城外月影谷的麦子酿造,入口微甜,后劲很大。小雨的父亲是唯一知道配方的人。 |
用户人设(Persona)是客户自己在故事里的身份,角色会根据它来称呼和对待用户。
都在顶栏积木图标(Extensions)里。前两个对本地小模型最有用,建议都装。
ollama pull qwen3-embedding:0.6b
qwen3-embedding:0.6b。它会用第 4 步 Text Completion 里填的 Ollama 地址换了向量模型后,原来的向量要重新计算。
data\default-user\characters\角色名\,文件名以表情英文名开头,比如 joy.png、anger.png、sadness.png,同一表情多张可以叫 joy-1.png/sd last。
让客户用同一 Wi-Fi 下的手机或平板打开酒馆。
D:\AI\SillyTavern\config.yaml,找到这几项改成:
listen: true whitelistMode: true whitelist: - "::1" - "127.0.0.1" - "192.168.0.0/16" basicAuthMode: true basicAuthUser: username: "这里改成账号" password: "这里改成密码"
这些项在文件里原本就有,找到原来那行改值,不要在文件末尾重复添加。127.0.0.1 必须保留,否则电脑本机也打不开。如果客户家路由器的地址是 10. 或 172. 开头的,把白名单那行换成对应网段。
listen: true 时至少要开白名单或账号密码中的一种,否则酒馆不会启动。账号密码交给客户保管。
ipconfig
找"IPv4 地址",比如 192.168.1.23,手机浏览器打开 http://192.168.1.23:8000(是 http 不是 https)。
启动酒馆.bat,编码选 UTF-8。
@echo off chcp 65001 >nul echo 正在启动 Ollama ... start "" "%LOCALAPPDATA%\Programs\Ollama\ollama app.exe" echo 正在启动 ComfyUI ... rem 下面这行改成客户的 ComfyUI 启动方式;用启动器的客户可以删掉这行,手动开启动器 start "" /d "D:\ComfyUI_windows_portable" run_nvidia_gpu.bat echo 等 ComfyUI 加载 ... timeout /t 15 >nul echo 正在启动酒馆 ... cd /d D:\AI\SillyTavern call Start.bat
Ollama 装好后一般会开机自启,第一行只是保险。双击测试一次,确认三样都起来了。
D:\AI\SillyTavern\data 文件夹和 config.yaml。重装或换电脑时把它们复制回新装的酒馆里就行。也可以在用户设置 → Account 里点 Download Backup。
UpdateAndStart.bat。更新前先备份 data。
当着客户的面逐项测一遍,全部通过再收尾款。
ollama ps 显示 100% GPU。Node.js 没装好,或者装完没重开窗口。重新打开 cmd 运行 node --version,要显示 v20 以上。
npm 下载慢。关掉窗口,运行 npm config set registry https://registry.npmmirror.com 换镜像,再双击 Start.bat。
连不上 GitHub。解决网络后重试。实在不行可以在 GitHub 的 Releases 页面下载 ZIP 解压,但这样以后不能用 UpdateAndStart.bat 更新,也装不了第三方扩展。
浏览器打开 http://127.0.0.1:11434,应该显示 "Ollama is running"。没有的话看托盘里有没有羊驼图标,没有就从开始菜单打开 Ollama。
模板不对。回第 4 步,把 Context Template 和 Instruct Template 都选 ChatML,并确认 Instruct Mode 已打开。
高级格式 → Reasoning → 勾 Auto-Parse。
上下文太小。把 OLLAMA_CONTEXT_LENGTH 和酒馆的 Context (tokens) 一起调大(显存允许的话设 16384),并打开第 9 步的总结扩展。
运行 ollama ps,如果不是 100% GPU,说明显存放不下。换小一档的模型,或调小上下文,或者是 ComfyUI 正占着显存。
角色专属前缀里把外貌写具体(发色、发型、瞳色、服装),客户有这个角色的 LoRA 就在工作流里写死加载。打开 Edit prompts before generation 看看模型写的提示词是不是跑偏了。
世界书全局设置里的 Match whole words 没关,中文必须关掉。再确认世界书已经绑定到角色或全局启用,条目是绿点或蓝点,不是关闭状态。
依次检查:config.yaml 的 listen 是 true;白名单网段和客户路由器一致;改完重启了酒馆;防火墙允许了 Node.js;网络设为专用;手机和电脑在同一个 Wi-Fi;地址用的是 http。
此浏览器未启用交互脚本,以下为完整文字版。
先把客户电脑的情况记下来,后面选模型、填地址都要用。这里填的内容也只存在这台电脑的浏览器里。
按 Win+R 输入 cmd 回车,在黑窗口里运行:
nvidia-smi --query-gpu=name,memory.total --format=csv
显存决定能跑多大的聊天模型,见第 3 步的选型表。
让客户按平时的方式启动 ComfyUI,记下浏览器地址栏里的地址(不一定是 8188 端口)。用客户自己的工作流先手动出一张图,确认现有环境是好的。如果这一步就出错,先跟客户说明是原有环境的问题。
在客户工作流里找加载模型的节点,看模型文件名:
1girl, long hair, ...)。这决定第 5 步怎么改提示词模板。不确定时搜一下模型文件名。
选一个空间够的非系统盘,下面都以 D 盘为例,换盘就把路径里的 D: 改掉:
D:\AI\SillyTavernD:\AI\ollama-models不要装进 Program Files、桌面或带中文、空格的路径。
酒馆要求 Node.js 20 或更高,官方推荐装最新的 LTS 版。Git 用来下载和更新酒馆,以及安装第三方扩展。
git --version node --version
两条都显示版本号,并且 Node 是 v20 以上,就跳到第 2 步。
winget install -e --id Git.Git winget install -e --id OpenJS.NodeJS.LTS
winget 用不了的话,去 git-scm.com 和 nodejs.org 下载安装包,一路默认下一步。
不重开窗口,新装的命令找不到,这是最常见的"装了却说没装"。
mkdir D:\AI cd /d D:\AI git clone https://github.com/SillyTavern/SillyTavern -b release
npm config set registry https://registry.npmmirror.com
D:\AI\SillyTavern\Start.bat
第一次会自动安装依赖,等它跑完,浏览器会自动打开酒馆,地址是 http://127.0.0.1:8000。
不要右键"以管理员身份运行"。黑窗口在使用期间要一直开着,关掉酒馆就停了。
顶栏的用户设置图标(User Settings)→ General Settings → UI Language → 选简体中文。没立刻变就刷新页面。
config.yaml,所有用户数据都在 D:\AI\SillyTavern\data\default-user\ 里:角色卡在 characters,世界书在 worlds,聊天记录在 chats,ComfyUI 工作流在 user\workflows。Ollama 负责在本地运行聊天模型。先改模型存放位置再下载模型,否则模型会占满 C 盘。
| 显存 | 推荐模型 | 文件大小 | 说明 |
|---|---|---|---|
| 8GB | qwen3:8b | 5.2GB | 和出图同时用会很紧,出图时可能要轮流占显存 |
| 12GB | qwen3.5:9b | 约 6–7GB(估) | 推荐,能和出图模型同时驻留 |
| 12GB | qwen3:14b | 9.3GB | 更聪明,但显存基本占满,出图时要轮流 |
| 16GB | qwen3:14b | 9.3GB | 全在显卡里跑,还剩空间给出图或大上下文 |
| 24GB 以上 | qwen3.8:27b | 18GB | 目前最新的 Qwen,聊天质量最好 |
文件大小来自 Ollama 模型库页面(2026 年 10 月),qwen3.5:9b 是按参数量估的。实际显存占用比文件大小多 1–3GB(上下文越长越多)。
winget install -e --id Ollama.Ollama
或者去 ollama.com 下载 Windows 安装包。装完右下角托盘会出现羊驼图标。
:: 模型存放位置(必设) setx OLLAMA_MODELS "D:\AI\ollama-models" :: 上下文长度,默认只有 4096,角色卡加世界书很容易超(必设) setx OLLAMA_CONTEXT_LENGTH 8192 :: 省显存(可选,显存紧张时建议设) setx OLLAMA_FLASH_ATTENTION 1 setx OLLAMA_KV_CACHE_TYPE q8_0
显存 16GB 以上可以把上下文设成 16384,聊得越长越不容易忘设定。
setx 对已经打开的窗口不生效)。
ollama pull qwen3.5:9b ollama run qwen3.5:9b "你好,用一句话介绍你自己" ollama ps
ollama ps 的 PROCESSOR 一栏要显示 100% GPU。如果出现 CPU 的比例,说明显存放不下,回复会很慢,换小一档的模型或调小上下文。
确认模型下载到了 D:\AI\ollama-models,而不是 C 盘。
顶栏第二个图标,插头形状的 API 连接(API Connections):
http://127.0.0.1:11434顶栏的 A 字图标,高级格式(Advanced Formatting):
Qwen 系列用的是 ChatML 格式。模板选错的表现:回复里出现 <|im_end|> 之类的字样,或者模型替用户说话、停不下来。
同一个面板里的 Reasoning 部分,勾选 Auto-Parse。默认的前后缀就是 <think> 和 </think>,不用改。这样 Qwen 的思考内容会折叠起来,不混在回复正文里。
顶栏最左边的滑块图标,AI 回复配置(AI Response Configuration):
OLLAMA_CONTEXT_LENGTH 设成一样,比如 8192调好后在面板顶部另存为一个预设,起名比如"本地 Qwen"。
http://127.0.0.1:11434/v1。这样不用管 ChatML 模板,也能用网上很多 Chat Completion 格式的预设。但这种方式下上下文长度完全由 OLLAMA_CONTEXT_LENGTH 决定,思考内容的显示我没有实测。建议先用上面的 Text Completion 方式,后面第 9 步的向量记忆也要用到 Text Completion 里填的 Ollama 地址。酒馆会让聊天模型根据对话写一段出图提示词,再把它填进 ComfyUI 工作流里出图。客户的 ComfyUI 已经装好,这里只做接入,不要升级 ComfyUI 或它的自定义节点,升级后客户原来的工作流可能跑不起来。
把 ComfyUI 目录下的 user\default\workflows 文件夹整个复制一份到别处(整合包是在 ComfyUI_windows_portable\ComfyUI\user\default\workflows)。
新版 ComfyUI:菜单里的 工作流 → 导出 (API),英文是 Export (API)。旧版:先在设置里打开 Dev Mode,再点 Save (API Format)。
普通"保存"出来的 JSON 酒馆用不了,必须是 API 格式。导出后把原始文件留一份,方便以后回 ComfyUI 里修改。
用记事本打开导出的 JSON,找到对应节点,把值换掉。数字也要加双引号,这是酒馆文档的要求。以最常见的 SDXL 工作流为例:
"3": { "class_type": "KSampler", "inputs": {
"seed": "%seed%", "steps": "%steps%", "cfg": "%scale%",
"sampler_name": "%sampler%", "scheduler": "%scheduler%",
"denoise": 1, "model": ["4", 0], "positive": ["6", 0],
"negative": ["7", 0], "latent_image": ["5", 0] } },
"4": { "class_type": "CheckpointLoaderSimple", "inputs": { "ckpt_name": "%model%" } },
"5": { "class_type": "EmptyLatentImage", "inputs": {
"width": "%width%", "height": "%height%", "batch_size": 1 } },
"6": { "class_type": "CLIPTextEncode", "inputs": { "text": "%prompt%", "clip": ["4", 1] } },
"7": { "class_type": "CLIPTextEncode", "inputs": { "text": "%negative_prompt%", "clip": ["4", 1] } }节点编号和结构以客户的工作流为准,只改值。可用的占位符:
| 占位符 | 填什么 |
|---|---|
%prompt% / %negative_prompt% | 正面 / 负面提示词(已经拼好通用前缀和角色前缀) |
%model% | 模型文件名,酒馆里下拉选择。Flux 这类用 UNET 加载器的,填在 unet_name 上,或者直接写死 |
%seed% | 种子,酒馆里设 -1 就是每次随机 |
%steps% %scale% %sampler% %scheduler% | 步数、CFG、采样器、调度器 |
%width% %height% | 宽高 |
%vae% %denoise% %clip_skip% | 按需使用 |
%char_avatar% %user_avatar% | 角色 / 用户头像(base64),需要专门的节点解码,一般用不到 |
LoRA 加载器、放大模型这些不需要变的,保持写死。
直接把改好的 JSON 复制到 D:\AI\SillyTavern\data\default-user\user\workflows\。也可以在下一步的酒馆界面里点"新建工作流",把内容粘进编辑器。
顶栏积木图标,扩展(Extensions)→ Image Generation:
http://127.0.0.1:8188)→ 点 Connectmasterpiece, best quality, ;客户原工作流里有固定的画质词就照搬。lowres, bad anatomy, bad hands, text, watermark, worst quality。tag 类模型(SDXL、Illustrious 等):用默认模板就行,酒馆默认就是让模型写逗号分隔的关键词。
自然语言类模型(Flux 等):打开 SD Prompt Templates 抽屉,把各个模式(尤其是 Yourself、The Last Message)的指令改成要求写一段英文描述,比如:
Ignore previous instructions. Describe {{char}}'s full-body appearance as ONE paragraph of plain English for an image generator: face, hair, eyes, body, clothing, pose, setting and lighting. No lists, no tags, no dialogue, English only.同时把通用前缀清空或改成一句自然语言,负面提示词对 Flux 基本不起作用。
如果模型写出来的提示词是中文,在模板末尾加一句 Use English only.
输入框左边的魔法棒菜单 → Image Generation,依次试:
/sd you、/sd face、/sd last/sd apple tree, sunset(直接用你写的提示词)出错时看 ComfyUI 的黑窗口,报错信息会显示在那里。
CUDA out of memory,或者出图后聊天变得很慢,说明两边加起来超过了显存。解决办法:聊天模型换小一档;或把 OLLAMA_CONTEXT_LENGTH 调小;或接受出图时两边轮流加载(会多等十几秒到几十秒)。角色卡是一个角色的完整设定,导出后是一张 PNG 图片,设定数据藏在图片里,分享图片就等于分享整个角色。
示例对话每一段前面写 <START>,用 {{user}}: 和 {{char}}: 标明谁在说话。{{user}} 和 {{char}} 会自动替换成用户名和角色名。
*星号* 包起来,酒馆会显示成斜体,模型也会学着这样写。开场白和示例对话的写法对模型影响最大,想要什么文风就照那个文风写。世界书是按关键词触发的设定词典。聊天里提到某个关键词,酒馆才把对应的设定插进发给模型的内容里,所以设定可以写很多,也不会把本地模型的上下文撑爆。
| 标题 | 关键词 | 策略 | 内容 |
|---|---|---|---|
| 世界规则 | (常驻不需要) | 🔵 常驻 | 这是一个中世纪风格的魔法世界,没有电、手机和枪械。照明靠魔法灯,远距离通信靠信鸽和传讯水晶。 |
| 王都艾尔文 | 王都, 艾尔文, 首都, 城里 | 🟢 | 艾尔文是王国首都,人口约十万。城北是王宫和贵族区,城中心是魔法学院,城南是平民区和集市,月影酒馆就在城南。 |
| 魔法学院 | 魔法学院, 学院, 魔法师 | 🟢 | 王国唯一的魔法学院,每年春天招生一次,入学要测魔力属性。学费很贵,平民子弟只能靠奖学金入学。 |
| 老陈 | 老陈, 陈叔 | 🟢 | 月影酒馆的常客,退役骑士,左腿受过伤。和小雨的父亲是战友,小雨叫他陈叔,他总偷偷帮小雨赶走闹事的醉汉。 |
| 月影麦酒 | 招牌酒, 月影麦酒, 麦酒 | 🟢 | 月影酒馆的招牌,用城外月影谷的麦子酿造,入口微甜,后劲很大。小雨的父亲是唯一知道配方的人。 |
用户人设(Persona)是客户自己在故事里的身份,角色会根据它来称呼和对待用户。
都在顶栏积木图标(Extensions)里。前两个对本地小模型最有用,建议都装。
ollama pull qwen3-embedding:0.6b
qwen3-embedding:0.6b。它会用第 4 步 Text Completion 里填的 Ollama 地址换了向量模型后,原来的向量要重新计算。
data\default-user\characters\角色名\,文件名以表情英文名开头,比如 joy.png、anger.png、sadness.png,同一表情多张可以叫 joy-1.png/sd last。
让客户用同一 Wi-Fi 下的手机或平板打开酒馆。
D:\AI\SillyTavern\config.yaml,找到这几项改成:
listen: true whitelistMode: true whitelist: - "::1" - "127.0.0.1" - "192.168.0.0/16" basicAuthMode: true basicAuthUser: username: "这里改成账号" password: "这里改成密码"
这些项在文件里原本就有,找到原来那行改值,不要在文件末尾重复添加。127.0.0.1 必须保留,否则电脑本机也打不开。如果客户家路由器的地址是 10. 或 172. 开头的,把白名单那行换成对应网段。
listen: true 时至少要开白名单或账号密码中的一种,否则酒馆不会启动。账号密码交给客户保管。
ipconfig
找"IPv4 地址",比如 192.168.1.23,手机浏览器打开 http://192.168.1.23:8000(是 http 不是 https)。
启动酒馆.bat,编码选 UTF-8。
@echo off chcp 65001 >nul echo 正在启动 Ollama ... start "" "%LOCALAPPDATA%\Programs\Ollama\ollama app.exe" echo 正在启动 ComfyUI ... rem 下面这行改成客户的 ComfyUI 启动方式;用启动器的客户可以删掉这行,手动开启动器 start "" /d "D:\ComfyUI_windows_portable" run_nvidia_gpu.bat echo 等 ComfyUI 加载 ... timeout /t 15 >nul echo 正在启动酒馆 ... cd /d D:\AI\SillyTavern call Start.bat
Ollama 装好后一般会开机自启,第一行只是保险。双击测试一次,确认三样都起来了。
D:\AI\SillyTavern\data 文件夹和 config.yaml。重装或换电脑时把它们复制回新装的酒馆里就行。也可以在用户设置 → Account 里点 Download Backup。
UpdateAndStart.bat。更新前先备份 data。
当着客户的面逐项测一遍,全部通过再收尾款。
ollama ps 显示 100% GPU。Node.js 没装好,或者装完没重开窗口。重新打开 cmd 运行 node --version,要显示 v20 以上。
npm 下载慢。关掉窗口,运行 npm config set registry https://registry.npmmirror.com 换镜像,再双击 Start.bat。
连不上 GitHub。解决网络后重试。实在不行可以在 GitHub 的 Releases 页面下载 ZIP 解压,但这样以后不能用 UpdateAndStart.bat 更新,也装不了第三方扩展。
浏览器打开 http://127.0.0.1:11434,应该显示 "Ollama is running"。没有的话看托盘里有没有羊驼图标,没有就从开始菜单打开 Ollama。
模板不对。回第 4 步,把 Context Template 和 Instruct Template 都选 ChatML,并确认 Instruct Mode 已打开。
高级格式 → Reasoning → 勾 Auto-Parse。
上下文太小。把 OLLAMA_CONTEXT_LENGTH 和酒馆的 Context (tokens) 一起调大(显存允许的话设 16384),并打开第 9 步的总结扩展。
运行 ollama ps,如果不是 100% GPU,说明显存放不下。换小一档的模型,或调小上下文,或者是 ComfyUI 正占着显存。
角色专属前缀里把外貌写具体(发色、发型、瞳色、服装),客户有这个角色的 LoRA 就在工作流里写死加载。打开 Edit prompts before generation 看看模型写的提示词是不是跑偏了。
世界书全局设置里的 Match whole words 没关,中文必须关掉。再确认世界书已经绑定到角色或全局启用,条目是绿点或蓝点,不是关闭状态。
依次检查:config.yaml 的 listen 是 true;白名单网段和客户路由器一致;改完重启了酒馆;防火墙允许了 Node.js;网络设为专用;手机和电脑在同一个 Wi-Fi;地址用的是 http。