矩阵 · Matrix

模型控制台 · Model Console

初始账号密码见部署时 config.env 的 ADMIN_USER / ADMIN_PASSWORD;登录后可在「设置」里修改。脚本仍可用 MGMT_TOKEN 作为 API Key。

矩阵 · Matrix 模型控制台

下载新模型

下载任务

名称来源进度速度状态

已安装模型

文件名大小

当前引擎状态

加载中...

🎬 ComfyUI · 视频生成(MiniMax H3)

加载中...

占用一张卡,可与另一张卡上的 LLM 引擎并行。跑 MiniMax H3(int8 量化,带原生音频);出片到「🎬 视频生成」面板操作。

引擎版本信息

引擎版本
加载中…

启动引擎(加载模型)

⚙️ 预设决定 dtype / decode-steps / cuda-graph / chat-template 等一整套 RDNA4 专调参数 (每个都是社区实测出来的,改错会崩或变慢)。换模型必须同时换对预设。
🛡️ 启动前会做结构预检:检查点若含 MTP 权重、量化层数不足或量化方式不是 AWQ,会直接拦下并说明原因 —— 这些实测都会导致加载缺参数、最终 SIGABRT。

🎬 MiniMax H3 视频生成

检测中…

⚠️ 上传的图会整张成为视频的第 1 帧(或最后一帧),模型从它开始动。 MiniMax H3 没有「风格参考/主体注入」入口,所以不能只当背景图层用, 也不能「指定这个物品、另外构图」。想让多段是同一个人,就把同一张图设为首帧并勾选下面的「每段都用」。


与上面的「首帧图」是两条不同的路:首帧图整张成为第 1 帧; 主体参考是告诉模型「这个人/这个物长这样」,然后另外构图。 在提示词里原样写 <Picture 1>…<Picture 9> 引用,不需要替换成文件名 —— 分词器会自动把图拼在提示词前面并打上这些标签。编号见下方对照表。 例:The woman in <Picture 1> reports from a newsroom

⚠️ 用主体参考图时 turbo 档必须选「PDD 8 步」或关闭。 选 turbo 4/8 步会被拒绝 —— 那套 LoRA 蒸馏自 FL2V、不带音频头, 套在参考图任务上会产出 0 字节的坏文件(2026-08-29 实测)。 实测 PDD 8 步:1344×768 / 124 帧 / 456 秒,音轨正常。

不勾选时首帧图只用在第 1 段。分镜模式下可在脚本里按段指定: 124 | @ref_xxx.png | 画面描述,按段指定优先级最高。

⚠️ 只有 CFG > 1 才起作用。默认走 BasicGuider,没有无条件分支, 负面词在数学上无处作用。开 CFG 后每个采样步要跑两遍模型 → 慢一倍, 而且 turbo LoRA 是按 CFG=1 蒸馏的,两者同开画质通常会崩 —— 用负面词就要把 turbo 关掉(20 步,124 帧约 33 分钟)。

🔄 出片会自动腾卡:MiniMax 需独占 R9700(~30GB)。若 vLLM 正以双卡运行, 开始出片时自动停 vLLM 并由 llama.cpp 在 7900XTX 顶班(40.1→36.1 tok/s,LLM 不中断); 出片结束(含失败/取消)自动重启 ComfyUI 释放显存、停 llama、切回双卡 vLLM。(ComfyUI 的 /free 接口实测无效,只有重启容器真正放手) ComfyUI 闲置只占 0.07GB,可长期常驻。
⚠️ 模型共 48GB(21GB 扩散 + 27GB 文本编码器),内存 93GB 已够放下:仍限一次一个任务(两个并发会抢同一张卡的显存),段间自动清内存。 4 步 Turbo LoRA 虽快 6 倍,但实测画面与音频质量不合格,故默认 20 步。

任务进度

暂无任务

已生成视频

加载中…

🖼️ 文生图

检测中…

热态一张约 10–20 秒;切换模型后的第一张要多等 1~2 分钟;出片进行中时生图暂停。 扩散模型读不懂「不要X」,写了反而会画出 X —— 自动改写会先用本地 Qwen3.8 把它换成正面描述。

我的图片

GPU

node1 · Radeon AI PRO R9700 ×3(1、2 号跑大模型,3 号出片)

node2 · RTX 3060 ×2(大模型)+ RX 7900 XTX(生图、R9700 忙时帮忙出片)

—

系统 · node1

—

—

—

—

系统 · node2

—

运行基准测试

历史结果

时间引擎模型生成 tok/sprompt tok/s

账号密码

登录用的用户名密码。修改后其它设备(含手机 App)需重新登录。

用户管理

管理员可全权操作;使用者只能出片和只读监控,碰不到引擎启停、删模型和密钥。

API Key 设置

Key 点一下即复制。添加、删除、重新生成、改别名都会立即保存:统一入口 /v1 马上认新 key;引擎自身(llama/vLLM 的 --api-key)在下次启动/切换时生效。

⚠️ 这是 后端凭据(mgmt→llama-server),不是客户端 API Key,请勿发给用户。客户端请用下面的「API Key」列表。

三个引擎都通过后台代理访问才会统计用量。远程 Base URL(经 9099 网关):
· llama:(key 填 llama 那个)
· vLLM:(key 填上面任一 vLLM key)
· SGLang:(key 填上面任一 SGLang key)

Token 用量统计 · 按人

同一个人用了多少,不分引擎、不分用途合并成一行。「引擎」列是他用过的引擎数,悬停看明细。

用户请求数提示词补全合计 token引擎最后使用

Token 用量统计(LLM · 生图 · 出片 · 按 key 累计)

引擎别名Key请求数promptcompletion总 tokens最后使用

公网入口