Bingdada 技术博客Bingdada 技术博客
首页
博客
SEOGEOAEOAI
工具关于
登录注册
Logo

Bingdada 技术博客

专注于SEO搜索引擎优化和GEO生成式引擎优化以及未来人工智能发展趋势的技术博客

快速链接

  • 首页
  • 博客文章
  • 关于我们

联系方式

  • 398848662@qq.com

订阅我们的 Newsletter,获取最新的 SEO 和 GEO 技术资讯。

© 2024 Bingdada 技术博客. All rights reserved.

苏ICP备2026080046号

首页博客国产 AI 前线320B参数只激活15B:IQuest-Q1如何让模型自己修Bug、自己造游戏
320B参数只激活15B:IQuest-Q1如何让模型自己修Bug、自己造游戏
国产 AI 前线

320B参数只激活15B:IQuest-Q1如何让模型自己修Bug、自己造游戏

bingdadabingdada
九月 30, 20261 次阅读约 6 分钟阅读
快速回答

IQuest-Q1是一款采用稀疏MoE架构的大模型,总参数约320B、激活参数约15B。它能根据提示词直接生成可运行的HTML游戏,也能分析RL训练日志并从代码库中反向定位导致奖励曲线异常的工程缺陷,体现了模型参与自身研发迭代的闭环思路。

核心要点
  • IQuest-Q1采用decoder-only Transformer加稀疏MoE架构,总参数320B但每次只激活15B,兼顾容量与效率。
  • 模型能根据约200字提示词直接输出可在手机运行的完整HTML游戏,展示了对完整交付的理解。
  • 在真实RL训练故障中,IQuest-Q1从日志和轨迹反向定位到推理服务多插入一个空格导致的前缀匹配断裂问题。
  • IQuest Research团队此前提出的ModularRSI框架登上Hugging Face日榜第二,实现了Agent执行能力的跨任务复用。
  • 国内DeepSeek、文心一言、通义千问等也在探索稀疏MoE路线,IQuest-Q1的差异在于强调模型参与自身研发迭代的工程闭环。
目录

目录

  • 当模型开始给自己当运维
  • 稀疏激活背后的工程哲学
  • 从创意到工程:两个维度的实测
  • 一句话生成可玩的HTML游戏
  • 从训练日志反向定位代码缺陷
  • 基准测试中的位置
  • 国内视角:稀疏MoE与工程闭环的本地实践
  • 常见问题
  • IQuest-Q1的核心架构是什么?
  • IQuest-Q1能解决什么类型的训练故障?
  • IQuest-Q1和国内其他大模型有什么区别?
  • IQuest-Q1的基准测试表现如何?
  • 如何获取IQuest-Q1的模型信息?
  • 关于 Bingdada

当模型开始给自己当运维

一条本该稳步爬升的奖励曲线突然卡住了。这不是什么罕见的训练事故,但排查过程却揭示了一种新的可能性:把故障日志、落盘轨迹和代码仓库一并交给模型,让它自己去追根溯源。

最终定位到的元凶小得令人意外——推理服务在文本解码环节多插入了一个空格。这个空格让模型生成内容与回传历史发生错位,前缀匹配断裂,多轮生成中断,RL训练前几轮的读代码、跑命令、改代码全部白费,只有最后一轮回答被有效学习。

修复之后,奖励曲线恢复正常。这个案例来自IQuest Research公开的技术博客,也是理解IQuest-Q1设计思路的一个绝佳切口。

稀疏激活背后的工程哲学

从架构上看,IQuest-Q1采用decoder-only Transformer主干,搭配稀疏MoE(混合专家)设计,总参数量约320B,但每次推理只激活约15B参数。

这种设计的核心逻辑并不复杂:用大容量存储知识,用小激活保证效率。但真正值得关注的是IQuest Research在训练方法上的积累。今年7月底到8月,团队先后提出了MuonH优化、UBio-MolFM和稀疏权重分解等成果,这些工作为后续模型训练提供了底层支撑。

更值得注意的是模型参与自身迭代的机制。当IQuest-Q1提出的研发方案被人类研究者确认后,验证过的模型更新、训练资产和研究流程会直接流入下一轮迭代。每一轮沉淀的数据流程、训练配置、评估方法和工具持续累积,形成可复用的研发资产。这种“模型参与研发闭环”的思路,与Meta在Llama系列中探索的自我改进方向有相似之处,但IQuest-Q1更强调工程交付层面的闭环。

从创意到工程:两个维度的实测

一句话生成可玩的HTML游戏

第一个测试场景很生活化:给国庆宅家不想出门的人搓一个《国庆卧室保卫战》小游戏。

输入一段约200字的提示词后,模型直接输出了一套可在竖屏手机上运行的HTML游戏。游戏机制包括:枕头作为武器攻击怪物、回床上躺平回血、NPC带有独立的情绪设定和血条、结束后随机掉落“今日目标小彩蛋”(从奶茶、炸鸡、看电影、逛超市、附近散步中选一个)。战果还能一键保存分享。

这个测试的价值不在于游戏本身多复杂,而在于它展示了模型对“完整交付”的理解——不是给一段代码片段,而是给一个能直接运行、有完整交互逻辑的产品。

从训练日志反向定位代码缺陷

第二个测试回到了工程现场。

在一场真实的RL训练中,研究人员发现奖励曲线异常。他们把问题交给IQuest-Q1,让它基于Claude Code CLI框架分析训练日志和落盘轨迹,并从代码库中反向追查原因。

模型最终定位到RL框架接入Scaffold时的文本回传与轨迹拼接环节——推理服务在文本解码时额外插入了一个空格。这个发现直接解释了为什么前几轮训练效果全部丢失。

这个案例的意义在于:模型不仅能写代码,还能理解代码运行时的行为偏差,并从日志和轨迹中反推出根因。这种能力在SWE-Bench等基准测试中已有体现,但真实训练场景中的故障排查显然更具挑战性。

基准测试中的位置

IQuest-Q1在多个复杂任务评测中交出了成绩:仓库级代码生成NL2Repo、网络安全基准CyberGym、终端任务Terminal-Bench 2.1、代码长程任务DeepSWE v1.1、办公场景JobBench。在同参数量模型中,这些表现处于可圈可点的区间。

团队此前参与的ModularRSI自进化框架曾登上Hugging Face日榜第二,该框架将Agent在Terminal-Bench 2.0和SWE-Bench Verified上的准确率分别从47.57%和73.40%提升至52.43%和76.45%,并实现了执行能力的跨任务、跨模型复用。

国内视角:稀疏MoE与工程闭环的本地实践

IQuest-Q1的稀疏MoE路线在国内并非孤例。DeepSeek的V3系列同样采用大规模稀疏激活架构,在总参数量与激活参数之间寻找效率平衡;文心一言和通义千问也在持续迭代各自的MoE方案。差异在于侧重点:IQuest-Q1更强调模型参与自身研发迭代的闭环,以及从训练故障中反向定位工程缺陷的能力。

国内另一条值得关注的线索是Agent能力的工程化落地。Kimi在长上下文和网页操作方向持续投入,豆包和智谱GLM则在办公场景和终端任务上发力。IQuest-Q1在JobBench和Terminal-Bench上的表现,说明这条赛道上的竞争正在从“能不能做”转向“能不能稳定交付”。

常见问题

IQuest-Q1的核心架构是什么?

IQuest-Q1采用decoder-only Transformer主干,搭配稀疏MoE架构,总参数约320B,激活参数约15B。这种设计在保持大容量知识存储的同时控制推理成本。

IQuest-Q1能解决什么类型的训练故障?

从公开案例看,它能分析训练日志和落盘轨迹,从代码库中反向追查故障原因。例如定位到推理服务解码时多插入空格导致的前缀匹配断裂问题。

IQuest-Q1和国内其他大模型有什么区别?

相同点是多家国内模型都在探索稀疏MoE路线。差异在于IQuest-Q1强调模型参与自身研发迭代的闭环机制,以及从真实训练故障中定位工程缺陷的能力。

IQuest-Q1的基准测试表现如何?

在NL2Repo、CyberGym、Terminal-Bench 2.1、DeepSWE v1.1、JobBench等复杂任务评测中表现不俗,同参数量模型中处于可圈可点的区间。

如何获取IQuest-Q1的模型信息?

可以通过GitHub仓库(IQuestLab/IQuest-Q1)、Hugging Face模型页以及官方技术博客获取详细信息。

关于 Bingdada

Bingdada 是一个专注 SEO、GEO(生成式引擎优化)与 AEO(答案引擎优化)的内容平台,由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态,为读者提供准确、实用、可落地的方法论与行业洞察。

编辑团队:内容策划 · 技术编辑 · AI 研究组
网站:bingdada.com

© 2026 Bingdada. 保留所有权利。

目录

  • 当模型开始给自己当运维
  • 稀疏激活背后的工程哲学
  • 从创意到工程:两个维度的实测
  • 一句话生成可玩的HTML游戏
  • 从训练日志反向定位代码缺陷
  • 基准测试中的位置
  • 国内视角:稀疏MoE与工程闭环的本地实践
  • 常见问题
  • IQuest-Q1的核心架构是什么?
  • IQuest-Q1能解决什么类型的训练故障?
  • IQuest-Q1和国内其他大模型有什么区别?
  • IQuest-Q1的基准测试表现如何?
  • 如何获取IQuest-Q1的模型信息?
  • 关于 Bingdada
常见问题
黄金广告位 · 限时招商
广告位招商中

把品牌放进读者的阅读流

文章内广告位,高注意力场景,适合新品发布与活动招募。

商务合作

标签

#量子位 QbitAI#IQuest-Q1#稀疏MoE#RL训练#大模型工程交付
bingdada

bingdada

SEO & GEO 技术探索者,专注于搜索引擎优化和生成式引擎优化。

相关文章

当AI医生学会「跨科会诊」:清华系团队如何让多智能体协同走进真实诊室
国产 AI 前线

当AI医生学会「跨科会诊」:清华系团队如何让多智能体协同走进真实诊室

清华AIR孵化的紫荆智康推出多分身智能体协同技术,让不同专科的AI医生在真实诊室中协作,把多学科会诊前置到首诊环节,并在虚拟训练与现实微调中持续进化。

10月 22约 8 分钟阅读
小模型逆袭旗舰:MiniMax M3.1 Flash如何用极致性价比重塑Agent落地逻辑
国产 AI 前线

小模型逆袭旗舰:MiniMax M3.1 Flash如何用极致性价比重塑Agent落地逻辑

MiniMax M3.1 Flash 正式亮相,以 29.6% 的 ALE 得分拿下国产 Agent 第一,同时把综合成本压到前代 30%。本文拆解其跑分表现、极速低价策略,以及国产 Flash 双子星如何改写企业级 Agent 的落地逻辑。

10月 21约 7 分钟阅读
实时渲染与状态解耦:VAST开源EdenLive如何让消费级显卡跑出720P交互世界
国产 AI 前线

实时渲染与状态解耦:VAST开源EdenLive如何让消费级显卡跑出720P交互世界

VAST开源实时世界模型EdenLive,以状态与渲染解耦架构在单张RTX 5090上实现720P超24FPS生成,覆盖游戏预览、场景动画、视频重渲染与具身数据增强四类场景。

10月 20约 8 分钟阅读

订阅我们的 Newsletter

获取最新的 SEO 与 GEO 技术资讯。

我们尊重您的隐私,随时可以取消订阅。

评论 ({count}) (0)

登录后即可参与讨论

登录注册
还没有评论,来抢沙发吧