bingdada高通通过2bit量化感知训练（QAT）与高带宽计算（HBC）两大技术路径，分别从软件压缩和硬件架构层面提升AI推理效率。2bit量化已与中国厂商合作，HBC则通过近存计算大幅减少数据移动，实现数十倍的有效内存带宽提升。
在AI算力需求指数级增长的当下，推理效率已成为整个行业面临的核心挑战。近期，高通技术公司工程技术高级副总裁侯纪磊在圣迭戈总部与媒体展开深度交流，揭示了这家芯片巨头在端侧AI与数据中心推理领域的最新思考。从2bit量化技术的落地到高带宽计算（HBC）架构的突破，高通的战略布局正在为AI推理的未来描绘出一条新的技术路径。
侯纪磊博士所领导的高通AI工程技术团队，涵盖了研发、系统、商用软件及面向开发者的AI平台等多个部门。在交流中，他反复强调一个核心理念：AI研发与产品之间必须形成强耦合的“飞轮”——研发驱动产品迭代，产品反哺研发方向。这种理念的背后，是高通对AI技术商业化的深刻理解：研发的意义不仅在于打造前沿技术，更在于推动产品快速落地，真正解决行业痛点。
从这一理念出发，高通在AI领域的布局呈现出清晰的逻辑：以端侧推理为核心，逐步向云端延伸，最终构建一个覆盖多场景的推理平台。正如侯纪磊所言，无论是当前的端侧推理平台，还是未来可能拓展的云端推理平台，高通都希望在推理层面为各种AI入口提供底层支撑。
在模型压缩领域，2bit量化感知训练（QAT）是当前最具挑战性的技术方向之一。大多数模型基于32bit或16bit精度训练，部署时通常会转换为4bit，而进一步压缩到2bit则面临显著的精度损失问题。
高通在这一领域已走在行业前沿。据侯纪磊透露，高通不仅提供了2bit QAT参考方案，且已与部分中国厂商展开合作。从基准测试看，高通的2bit方案表现已相当接近16bit或32bit浮点模型，但实际应用中的精度损失仍是一个需要正视的问题。
侯纪磊分析认为，精度损失主要源于两个层面：其一，从16bit压缩到2bit会破坏模型的系统容量，需评估容量损失对实际用例的影响；其二，16bit模型的多任务泛化能力在转换为2bit后受到显著约束，而OEM和模型厂商在落地时往往有更高要求，仅靠常规QAT和普通数据集难以弥补。
解决之道在于数据。侯纪磊强调，2bit QAT必须使用与厂商最终实际用例相匹配的实用数据，从数据分布和多任务泛化两方面进行对齐。如果能找到多元化、具备鲁棒性的泛在数据，2bit QAT的应用潜力将得到充分释放。这一观点在谷歌近期推出的Gemma 4系列E2B和E4B模型上得到了印证——谷歌凭借其数据优势，通过精细的数据筛选和优化，使2bit QAT实现了良好效果。
如果说2bit量化是软件层面的效率优化，那么高带宽计算（HBC）则是硬件架构层面的范式革新。在AI加速器领域，高通已陆续推出飞龙AI100、AI200、AI250、AI300等多代产品，而HBC技术正是其在今年6月投资日上发布的重磅创新。
据侯纪磊介绍，HBC是高通两三年前就开始在数据中心领域投入的方向，其核心思路是将计算搬到数据附近，从根本上减少数据移动。在现代AI规模下，数据移动已成为整个系统中最大的能耗来源之一，大模型推理中的解码（Decode）阶段尤为明显。
HBC的技术路径颇具颠覆性：采用相对低成本的DDR内存，通过3D堆叠的近存计算架构，将数字逻辑芯片置于内存架构底层，并在其上集成计算单元。这种设计使最数据密集的操作在内存模块内完成，只将紧凑的结果输出到接口之外，从源头消除了大部分数据流。
与现有方案的对比更能凸显HBC的价值：片上SRAM方案虽然带宽极高、时延极低，但每比特成本高昂且容量受限，大模型必须分散到大量器件上，导致硅片、功耗与系统复杂度的代价随模型规模急剧上升；HBM方案虽容量充足、带宽相对较高，但数据仍需从内存跨入处理器，功耗依然偏高。
高通的HBC方案则另辟蹊径。据高通估算，在大批处理大小下，HBC相比HBM具有6倍的每瓦特带宽；在小批处理和大批处理大小下，相比SRAM具有200倍的每瓦特容量。具体到产品，搭载HBC第一代技术的飞龙AI250，有效内存带宽较搭载LPDDR5X的AI200提升18倍；搭载第二代HBC技术的AI300，有效内存带宽更是提升54倍。
从Roofline模型的角度看，HBC的价值在于缩小了分母——即跨越内存与算力之间昂贵边界的字节数。在运行相同工作负载时，运算次数对每个方案都相同，但HBC架构通过减少必须跨越边界的字节数，有效提高了算术强度，从而在带宽受限的斜面上获得更高的可达性能。
侯纪磊补充指出，HBC在性价比上的优势同样明显：在提供相同带宽时，HBM的价格更高且占用电路板面积大，而HBC方案不仅减少了电路板面积，在带宽受限场景下达到相同性能的综合性价比也更占优。目前，高通已就通用及定制HBC方案与中国和海外客户展开深入交流，并获得了大型存储器厂商的认可，产业各方正在形成共识推动HBC落地。
高通的2bit量化与HBC技术布局，与国内AI芯片和终端厂商的发展方向形成了有趣的呼应。在端侧AI领域，国内的华为昇腾、寒武纪等厂商在推理加速器上持续投入，而阿里通义千问、百度文心一言、DeepSeek等大模型也在积极探索量化部署方案以适配端侧场景。
高通与中国厂商在2bit量化上的合作，反映了端侧AI生态的深度协同趋势。国内厂商在数据能力上的积累，使得2bit QAT等前沿技术能够更快地从实验室走向实际应用。与此同时，HBC技术若能在数据中心推理市场站稳脚跟，也将为国内云计算厂商提供除HBM之外的新选择，有望降低AI推理的总体拥有成本。
侯纪磊还透露，高通对多家AI公司的收购大多出于“差异补缺”的考量，更多是着眼于人才储备和全球布局。被收购团队会迅速融入高通的完整体系，而高通的端侧技术储备也将通过产品技术路线图的演进，与这些新能力形成协同效应。
这种“研发-产品-生态”三位一体的战略，与高通在通信领域的长期打法一脉相承。在AI推理的赛道上，高通显然不满足于只做芯片供应商，而是希望通过技术创新和生态构建，成为AI基础设施层面的关键参与者。从2bit量化到HBC，高通正在用一套组合拳，试图在AI推理的效率革命中占据有利身位。
2bit量化能将模型体积进一步压缩，显著降低内存占用和推理功耗，对端侧部署尤为有利。但其挑战在于精度损失更大，需要通过量化感知训练（QAT）和高质量数据匹配来弥补，否则模型的多任务泛化能力会严重受损。
HBC采用近存计算架构，将计算单元直接集成在内存模块内，大幅减少数据移动；而HBM方案仍需数据从内存跨入处理器。HBC在每瓦特带宽和性价比上更具优势，尤其在带宽受限场景下表现突出。
高通致力于构建覆盖端侧和云端的推理平台，以端侧AI为核心优势，通过2bit量化、HBC等技术创新，以及收购整合，打造从芯片到系统的完整解决方案，为各类AI入口提供底层支撑。
HBC技术已在高通飞龙AI250和AI300产品中实现迭代，高通正与中国及海外客户深入交流通用和定制方案，并获得存储器厂商认可，产业各方正共同推动其规模化落地。
Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。
编辑团队：内容策划 · 技术编辑 · AI 研究组
网站：bingdada.com
© 2026 Bingdada. 保留所有权利。
Поместите бренд в ленту читателя
Рекламные места внутри статей — моменты высокого внимания, идеальны для запуска продуктов и набора на мероприятия.
SEO & GEO 技术探索者，专注于搜索引擎优化和生成式引擎优化。
当模型跑分不再是瓶颈，AI手机面临的是感知、记忆、调度与执行的系统级挑战。从端云模型矩阵到系统级Harness，终端厂商正在探索一条不同于大模型公司的技术路径。
高通下一代旗舰平台或采用双2nm策略，SM8950与SM8975分工明确。传闻小米将获SM8950半年独占期，这一安排可能重塑安卓高端旗舰的竞争节奏。
AI 推理时代的基础设施竞争已从算力转向内存与存储的系统协同。本文分析了数据移动瓶颈、架构重构策略及国内外技术进展，为企业优化 AI 基础设施提供参考。
Получайте свежие материалы по SEO и GEO.
Мы уважаем вашу конфиденциальность. Отписаться можно в любой момент.
Войдите, чтобы присоединиться к обсуждению
