tool-hub.xyz 关于

标签:硬件折腾

最近 7 天,共 5 条

  1. 1

    双卡7900xtx vs 170hx vs 5090d32gb vs 4090 48gb vs 5080视频生成深度 10实用 5

    六张卡跑同一个 MiniMax-H3 视频工作流,差多少? 机群里攒了几张不同世代的卡,一直想知道同一套 H3 Ref2VA 工作流跑下来到底差多少。 花两天把 5090 / 4090 / 5080 / 170HX / 双 7900 XTX 全跑了一遍,记录冷热启动、显存、内存、功耗。 数据都是实测,不是跑分软件估算。 测试条件 项目 设置 模型 minimax_h3_ref2va_pruned_int8_convrot 文本编码器 qwen3vl_32b_minimax_h3_nvfp4_awq 加速 LoRA dmad_minimax_h3_8step_full_critic 步数 8 (与 LoRA 训练步数一致) 采样器 euler / simple 分辨率 1344×768 (16:9,1.032 MP) ref_image_size match ComfyUI 显存策略 全部 --lowvram 提示词 同一套三条(5s / 10s / 15s),带台词与音色参考 5 秒档 显卡 热启动 冷启动 显存峰值 功耗均值 RTX 5090 75 s 75 s 30.9 GB 544 W RTX 4090 88 s 98 s 42.4 GB 420 W RTX 5080 124 s 134 s 15.2 GB 353 W CMP 170HX 219 s 239 s 42.3 GB 226 W 7900 XTX ×2 (TP2) 273 s 625 s 32.5 GB 500 W 7900 XTX 单卡 490 s 717 s 17.7 GB 270 W 10 秒档 显卡 热启动 冷启动 显存峰值 功耗均值 RTX 5090 220 s 224 s 30.9 GB 555 W RTX 4090 261 s 264 s 46.5 GB 427 W RTX 5080 362 s 367 s 15.2 GB 355 W CMP 170HX 710 s 722 s 46.5 GB 235 W 7900 XTX ×2 (TP2) 812 s 1170 s 37.9 GB 50…

    0 抡锤者 AI 音视频画图2026-11-09 评论 原文 4 分 · 21 评论

  2. 2

    16G 5070Ti把用Strata的flash next换成Basalt,实测快1.4倍!白拿的性能!深度 12实用 4

    背景:一直对Strata的在5070Ti 16G 跑的8030 端口之前跑的Strata 0.2.9(IQ3_XXS,204800 上下文)的速度不太满意,今天突然发现一个青出于蓝而胜于蓝的选项。直接开测。 Basalt 是 Strata 的 fork,改动集中在 CPU 调度层:更细的 row-range 任务切分、i-quant 走 AVX-VNNI、单文件 .basalt 格式。社区里常见 2 倍的说法,所以拿同机同模型做了对比。 结论: 确实更快,但没有 2 倍,实测 1.26 到 1.42 倍 。 一、前后对比 同一台机器、同一个模型(Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS)、同一张卡(250 W 锁功耗),basalt-bench 固定 seed: 指标 Strata 0.2.9 Basalt 0.3.0 倍率 prefill 64K 1960 tok/s 2725 tok/s 1.39 decode(MTP 接受率 65-70%) 58 tok/s 73 tok/s 1.26 decode(接受率 97-98%) 104 tok/s 148 tok/s 1.42 decode 的差异主要来自 MTP 接受率:接受率高时窗口里挤进更多 token,固定开销被摊薄。两个引擎都是这个规律。 二、为什么不是 2 倍 社区里 2 倍的数据基本出自 5 GHz、带 AVX-VNNI 的桌面 CPU(9950X、285K 之类)。这台是 Xeon Gold 6252,2019 年的 Cascade Lake,2.1 GHz。 从三个 fixture 反推窗口开销,能拟合出: 每个 decode 窗口约 19 ms 固定 + 4.1 ms/token 。48 层摊下来每层约 0.4 ms,花在 CPU 侧串行的专家点积和主机与卡之间的握手上,不在显卡算力。 几个直接证据: 引擎启动日志自己写了: this CPU has no AVX-512: the expert kernels run on AVX-2 。这颗 U 有 AVX512-V…

    0 抡锤者 模型部署讨论2026-11-09 评论 原文 4 分 · 18 评论

  3. 3

    双11准备入手7900xtx,配置大神指点HOT深度 8实用 5

    按用途分开看,别用一套配置硬套: 文生图(ComfyUI):单卡最省事。ComfyUI 默认一条工作流只吃一张卡,双卡要自己拆节点或并行采样,收益不稳定;先单卡,不够再加。 本地 LLM(Qwen 27B / Flash Next):单路双卡最有性价比。TP2 把模型切到两张卡,decode 大约能到单卡的 1.6–1.8 倍;双路双卡跨 CPU socket 的 P2P 会退化,除非确定要四卡,不建议。 MiniMax H3:别拿 7900XTX 做基准。2920 帖实测单卡 15 秒 OOM 是音频 VAE 单次申请 3–10GiB,不是 24G 容量不够;5080 16G 反而能跑。H3 是刚需就单独配 N 卡。 结论:单路…

    0 抡锤者 AI硬件2026-11-09 评论 原文 2 评论

  4. 4

    X99-TF不兼容32GB U-DIMM DDR4深度 9

    因为我原来的华硕B760-PLUS主板 + i5-13500不支持7900XTX双卡TP,所以近期打算换个主板。 我和华南金牌客服沟通X99-TF + E5 2696V4可以支持DDR3/DDR4/U-DIMM/DIMM比较灵活,如果我单纯用DDR3或者DDR4内存条之间的散热间隙也较大,再加上我手上有4根16GB DDR4和2根32GB DDR4(都是U-DIMM)就想复用一下。 结果发现16GB U-DIMM DDR4确实能用,而32GB的就不行了,以下是结合我的测试让AI帮忙写的总结: DDR4 内存条兼容性分析:32GB U-DIMM 为何点不亮 记录时间:2026-11-08 平台:华南金牌 X99-TF(BIOS AMI 5.11,2026-09-11)+ Intel Xeon E5-2696 v4 系统:Windows 11 Pro(Build 26300) 一、结论 32GB U-DIMM 无法点亮,原因是 内存颗粒密度不兼容 : 该 32GB 条使用 16Gb DDR4 颗粒; Broadwell-EP(E5 v4,2016 年)内存控制器只支持 4Gb / 8Gb 颗粒; 内存训练(Memory Training)失败 → 黑屏、无法 POST。 与“混插”无关,也不是内存条本身损坏——单条 32GB 都无法点亮就是最直接的证据。 二、现象记录 内存组合 结果 16GB × 1 正常点亮 16GB × 2 正常点亮 16GB × 4 正常点亮(四通道 64GB) 32GB × 1(单独) 黑屏、无 POST 32GB × 2(单独) 黑屏、无 POST 16GB + 32GB 混插 未测试(单条已失败,无意义) 现有内存:thinkplus DDR4-3200 16GB U-DIMM × 4 待测内存:Lenovo DDR4-3200 32GB U-DIMM(SN:1S1012097J451003B1) 三、原因分析 DDR4 无缓冲 U-DIMM 最多 2 个 rank,每个 rank 8 颗颗粒,共 16 颗: 容量 每颗颗粒 计算 16GB…

    0 抡锤者 AI硬件2026-11-09 评论 原文 2 分 · 7 评论

  5. 5

    【双卡视频生成无痛提升18.8%】出片跨卡拆分为主项的视频生成优化项目——Kuzuryūsen本质是Combo深度 9

    其实我对Radiance项目的理解很肤浅。很多的情况是基于我跟AI聊天所获得的信息。尽管参与过对Radiance在7900XTX平台上的移植,但当时只是单纯觉得实现TP=2就是实现了复刻移植。 直到昨天,听了老特对Radiance项目拆解介绍,我攸有种顿悟的感觉。 https://lcz.me/topic/2826 客观讲,Radiance项目最大的收益来自于TP=2的系列优化,这没错。但是不能说实现了TP=2就复刻了 Radiance这个项目。 简单说,TP=2只是实现了把单车道拓成双车道,但Radiance的本质,更接近于双车道的红绿灯系统+交警管制。如果能更好的调整通道,是不是可以在TP=2的基础上进一步提升效率,不断地逼进帕累托最优状态?这是我的猜想,这也是进一步要验证的。 成果还是挺让我惊喜的: 在视频生成范畴,在大分辨率,长视频生成过程中, 累加TP=2的最大优化最多可以节约18.8%的生成时间,重要的是没有代价,无痛提升。 本项目的参数相对温和,调参至激进策略需要牺牲一部分画质,在此基础上仍有20%~25%的加速空间。 在拆解的过程中发现Radiance确实是个很优秀的项目,目前本项目对照Radiance仍优化空间。之后的优化对象难度较大,需要时间,项目分持续更新。(详见文件第6部分) 项目名称不是耍宝,整体的思路就是通过平A的组合换得一个大招。这跟《浪客剑心》中比古清十郎教授的九头龙闪,简直异曲同工。 这个项目中,单个项目MLP 分块、VAE 跨卡、心跳兜底、帧计划对账优化收益微小,甚至无收益。但放在整个项目组合后放大,甚至取得非线性收益(如VAE拆分)。 同时也致敬我非常喜欢的动漫作品《浪客剑心》。 -------------------------祖传手打分割线-------------------------- Kuzuryūsen · 九頭龍閃 把 H3 视频生成在两张卡上拆成两条并行流水:采样阶段把 MLP 切块、让 all_reduce 与 GEMM 在独立流上重叠;出片阶段把 VAE 解码按模型自带的时间块分给两卡,再用点对点交换接缝帧。…

    0 抡锤者 AI 音视频画图2026-11-09 评论 原文 7 分 · 21 评论