星桥 API
模型下载完了，文件也不大。一运行，要么报错，要么显卡没怎么忙，CPU 先热闹起来了。
第一反应：是不是显卡不行，得换？
先别掏钱。容量够，只说明有地方放；想让显卡接活，还得看软件会不会用这张卡计算这种模型。 当然，文件小也不等于运行时内存就够，这俩坑得分开查。
这两天，llama.cpp 的一个更新，刚好把这件事摆到了台面上。
同一个模型，换种存法，软件就得多干点活
llama.cpp 是在本地运行大模型的开源项目。它在 11 月 1 日发布的 b12031 预发布构建中，加入了 OpenCL 后端对 IQ3_S、IQ3_XXS 的初步支持，对应 GitHub PR #31338。
看不懂这一串缩写也没事，先拆开三个东西。
模型，决定你在跑谁；量化方式，决定模型里的许多数值怎样用更少的空间保存；计算后端，负责把运算安排给具体设备。OpenCL 就是其中一条计算路径。
量化不是给文件套个压缩包，运行前点一下“解压”就齐活。计算程序还得按对应的数值表示去取数、还原或计算。IQ3_S 和 IQ3_XXS 是两种具体方案，不能只看名字里都有个“3”，就当成同一种。
打个比方：仓库有地方，货也运到了，但叉车的夹具对不上。你再扩建一间仓库，眼前这批货也不一定就能搬起来。
概念关系图，由星桥 API 生成。表示需要核对的条件，不是某台设备的检测结果。
这次 PR 里，能看到新增的 IQ3 相关 OpenCL 计算内核和构建条目。也就是说，“支持这种量化”，背后有实打实的软件工作，不是给下载页面换个标签。
但这也不能反过来理解成：以前所有设备都跑不了 IQ3，或者现在所有显卡都能跑。这次补的是 OpenCL 这条路径里的具体支持，其他后端有自己的实现与进度。
看到“支持了”，先看它支持到哪儿
这份更新最该留意的词，其实是 initial support，初步支持。
我们核对了发布说明、原 PR 和部分代码差异。可以确认新增了上述两种格式的相关实现；发布记录还包含面向 Adreno 的优化条目。Adreno 是高通的 GPU 系列，部分手机和电脑会用到。
能从这里得出的结论是：相关用户多了一项值得核对的兼容性变化。
至于“我的手机能快多少”“所有 3 比特量化都通了”“换上这个构建就稳了”，这些话得靠对应设备、驱动、模型和测试结果说，不能仅凭这份更新下结论。
如果你用的是另一个后端，或者模型并非这两种量化格式，就别光冲着“IQ3 支持”几个字急着升级。先确认变化和自己有没有关系，再决定要不要试。
真跑不起来，先分清卡在哪一层
别上来就同时换模型、换驱动、重装程序。改一圈好了，你都不知道是谁立的功；没好，更没处找。
先看运行日志。不同工具写法不一样，重点找三件事：发现了什么设备、实际启用了哪个后端、模型有多少部分交给了 GPU。 设备被列出来，不等于已经承担了模型计算。
接着顺着症状往下查。
提示内存不足，就查运行占用。 模型文件大小不能直接当成内存或显存需求。除了权重，运行还需要上下文缓存和计算缓冲；上下文长度、并发等设置也会影响占用。可以先缩短上下文，保留其他设置不变，再看内存不足的报错是否消失。
设备没找到，或 GPU 没接到活，就查程序和环境。 你装的构建有没有相应后端、驱动是否符合要求、启动设置有没有启用 GPU，都比盲目再下一个更小模型更值得先看。
设备已经在用，但报不支持某种类型或运算，再核对兼容范围。 把完整模型名、量化格式、程序版本、后端名称对在一起查。像这次的 OpenCL IQ3 更新，才可能与这一类问题直接相关。具体错误仍需具体分析，不能拿一个 PR 包治百病。
排查示意图，由星桥 API 生成。各类问题可能并存，按实际日志判断，不是自动诊断工具。
还有一种情况：程序能出字，就是慢。这时还要看实际跑在 CPU 还是 GPU、模型有多大、任务设置是什么。能运行、能加速、速度满意，是三个不同结果，别揉成一个“支持”。
准备找人帮忙时，可以先发这么一段，空白处按实际填：
设备与系统：……
工具版本、实际后端：……
完整模型名、量化格式：……
现象及相关日志：……
日志只留排查所需内容，密钥、个人路径和私人提示词记得遮住。比起一句“这个模型咋不能用”，这些信息更容易让人接上话。
所以，下一回看到“更小的量化模型”，可以高兴，但先别直接画等号：更小，不自动代表更快；装得下，也不自动代表你当前的软件和显卡配合得上。
先把这几项对明白，再决定要不要换卡。钱先揣兜里，不耽误事。
资料核对：2026 年 11 月 2 日。新闻依据为 llama.cpp b12031 发布记录与 PR #31338，发布记录标记为预发布；通用解释参考项目的设备后端与命令行文档。本文为更新解读与概念排查说明，未在具体 GPU 上测试，不提供性能或稳定性保证。
原始资料：b12031 发布记录 · PR #31338 · Snapdragon 后端说明。文末“阅读原文”可查看原 PR。