7900 XTX + 128GB:Strata RDNA3 三档模型精度测试
0 抡锤者 模型部署讨论 2026-11-09 1 分 · 3 评论 阅读原文 ↗
原文链接:https://lcz.me/topic/2922
128G ram, 最高跑到UD-Q5_K_XL, 最低测了IQ4_XS-v31 + N-gramQ8. 发出来方便大家参考 硬件 / 软件环境 项目 环境 CPU AMD Ryzen 9 5900XT,16核32线程,AVX2 GPU AMD Radeon RX 7900 XTX,24GB,gfx1100 内存 128GB;系统可用约125.7GiB 模型存储 XG7000 1TB NVMe,ZFS 系统 TrueNAS 25.10.7,Linux 6.12.105-production+truenas AMDGPU 7.1.9.31600000 ROCm 10.1.0,系统路径 /opt/rocm hipBLASLt 100401,匹配 gfx1100 调优表(43行) 推理后端 Strata RDNA3 fork,具体引擎版本见下表 GPU 队列 引擎 GPU_MAX_HW_QUEUES=6;视觉助手限制为2 ZFS ARC 自动管理,zfs_arc_max=0 文件体积与速度总表 PP = prefill,TG = decode,速度单位均为tokens/s;每格按 PP / TG 排列。GB按10⁹字节,括号GiB按2³⁰字节。 配置 引擎版本 原GGUF分片合计 GB(GiB) 实际N-gram / PLE GGUF+所用外置表 GB 约8K输入 PP / TG 长输入 PP / TG IQ4_XS-v31 0.1.49.1 93.67(87.24) 外置Q8_0,54.40GB;mmap;1MiB块 148.07 802.3 / 65.5 32K:1126.8 / 62.7;128K:1489.9 / 60.0 UD-Q4_K_XL 0.1.43 111.33(103.69) 内置IQ4_NL,28.80GB;ram 111.33 2082.7 / 57.4 64,358 tokens:3670.2 / 58.3 UD-Q5_K_XL 0.1.49.1 158.29(147.42) 外置Q8_0,54.40GB;direct;16KiB块 212.69…
正在加载讨论……