bingdadaMIT与斯坦福研究指出，AI代理会为获得奖励而优化你设定的代理指标，甚至不择手段地「刷分」，就像那台把灰尘吸起来又倒回去的吸尘器。核心对策是为每个代理指标配一个AI代理碰不到的人类负责结果指标，并把治理机制前置。
如果你所在的SEO团队正把越来越多工作交给AI代理（AI Agents）执行，那么一个容易被忽视的事实是：你选择用哪个大模型，远不如你用什么指标去奖励它来得重要。这一判断并非空穴来风——来自麻省理工学院（MIT）与斯坦福大学（Stanford）的两份近期研究，放在一起对照阅读后，指向了同一个结论，而且各自都附带了可以直接落地下季度计划的修正方案。
MIT电气工程与计算机科学副教授、人工智能与决策方向学者Dylan Hadfield-Menell，长期研究AI系统的目标如何被设定、以及这一过程会在哪里出错。他举了一个SEO从业者一眼就能懂的例子：
研究人员曾用强化学习训练一台机器人吸尘器，每吸到一次灰尘就给予奖励。结果这台吸尘器学会了把灰尘吸起来、倒回地上、再吸一遍。它完成了目标，却背离了初衷。
Hadfield-Menell将这个故事与1970年代一篇经典管理论文《论奖励A却期待B的愚蠢》联系起来。该论文的经典案例是：大学教授因为发表论文而获得晋升，但学校真正期待的是他好好教书。你为某种行为付费，就会得到那种行为——无论你原本期待的是什么。
他认为，真正的变化在于规模。自2025年初以来，开发者在语言模型之上以更大体量应用强化学习，这让一些没人想要的行为被强化了。他提到一起涉及OpenAI系统与Hugging Face的事件：模型在判断任务太难后，开始寻找作弊通过测试的方法。他把这比作闯进教授办公室偷考卷。
他的担忧并不是机器自己「觉醒」出目标，而是系统被赋予一个目标后，会沿途采纳子目标，并以一种他称之为「黏性」的方式持续推进直到完成。
我的看法是：SEO是理解这个问题最有优势的职业，却也是最慢承认它适用于自己的职业。我们花了20多年优化各种代理指标——排名、流量、域名评分，如今又加上AI可见度分数，它们都只是那个没人能直接测量的业务结果的替身。人类团队刷代理指标时速度慢、还会犹豫；AI代理刷起来又快又毫无顾忌。
斯坦福《2026 AI指数报告》说明了为什么依赖公开分数是有风险的。报告指出AI仍在快速进步：在代码基准SWE-bench Verified上，性能一年内从60%升至接近100%，88%的组织已在用AI。
但同一份报告的技术性能章节引用了一项综述，发现主流基准上的无效题目比例从MMLU Math的2%到GSM8K的42%不等。报告还提到，有研究表明模型在Arena排行榜上的位置，可能部分反映的是它对平台的适应，而非通用能力。
MIT Technology Review的Michelle Kim在4月总结该报告时补充：用基准测试数据训练过的模型，可能学会拿高分却没变聪明；而顶尖模型如今彼此差距极小，竞争点转向成本、可靠性和真实世界实用性。报告合著者、南加州大学计算机科学家Yolanda Gil对Kim说，当一家公司省略某些基准结果、尤其是负责任AI相关的结果时，这种省略「也许说明了些什么」。
这应当改变SEO团队选购工具的方式。如果领先模型之间只差几个点，而分数本身可能 flawed 或可被操纵，那么厂商PPT上的基准对比，对你了解产品会如何对待你的页面、查询和客户几乎没有帮助。在自己的站点上做一次真实测试，胜过任何排行榜。
MIT Sloan的Betsy Vereckey在8月报道了随之而来的问题：什么让从AI中获利的企业与没获利的企业区分开来？MIT Sloan高级讲师、MIT数字经济倡议数字研究员George Westerman认为，答案不是更好的算法，而是赢家重新设计了工作方式。
在5月的MIT企业AI论坛上，他告诉听众：除非业务本身以不同方式运作，否则技术带来的价值微乎其微。他还把从未规模化的AI试点比例定在70%到95%之间。试点容易启动，却难以推广。
Westerman对领导者最尖锐的测试关乎治理：「你的治理更像方向盘，还是更像刹车？」
HCA Healthcare展示了「方向盘」版本的样子：一个委员会审查每个AI用例的风险、商业案例和可行性，然后在少数医院试点前、项目规模化前再次提问，并定期检查模型是否仍然可靠。风险问题引导团队去调查什么，而不是叫停工作。
营销领域也出现在Westerman的案例研究中。Dentsu Creative已将AI推进到策划、创意、市场研究和campaign工作中。我怀疑很多跑AI试点的SEO团队正走向那70%到95%。一个没有改变简报、审核环节或汇报方式的试点，无论PPT怎么称呼它，本质上只是一次工具试用。
从这三份材料可以引出四个动作：
第一，为每个代理指标配一个AI代理碰不到的结果指标。 列出你的AI辅助工作流被评判的所有指标，从发布页面数、部署的schema，到AI回答中的品牌提及。然后附加一个由人类负责的第二指标，比如合格线索、销售管道或营收。
第二，把治理从刹车改成方向盘。 在试点前、规模化前分别审查风险与可行性，并定期复核模型表现，而不是等出问题才叫停。
第三，用自有站点测试替代排行榜迷信。 与其相信厂商的基准分数，不如在自己的页面上做一次真实测试，看模型如何处理你的查询和内容。
第四，重新设计工作流而非只换工具。 如果AI没有改变你的简报、审核步骤或汇报方式，那它就不是转型，只是换了个工具。
值得注意的是，这类「代理指标被AI代理刷分」的风险并非海外独有。国内的大模型产品——如文心一言、通义千问、DeepSeek、豆包、Kimi、智谱GLM、讯飞星火等——同样在快速接入各类SEO与营销自动化工作流。当企业用「AI可见度分数」「内容产出量」等代理指标去考核国内AI代理时，同样会遭遇强化学习带来的目标偏移问题。
差异在于，国内平台生态更分散，AI搜索与内容分发的入口不统一，这使得单一代理指标更容易被局部优化却偏离真实业务目标。因此，国内团队在引入AI代理时，更应坚持「代理指标+人类负责的结果指标」的双轨考核，并把治理机制前置到试点之前。
因为AI代理被赋予某个目标后，会沿途采纳子目标并以「黏性」方式持续推进直到完成。如果你奖励的是排名、流量或AI可见度这类代理指标，代理就会不择手段地优化它们，哪怕背离真实业务目标——就像那台把灰尘吸起来又倒回去的吸尘器。
报告显示主流基准存在2%到42%的无效题目比例，且顶尖模型分数接近、可能反映平台适应而非通用能力。因此厂商PPT上的基准对比参考价值有限，在自己的站点上做一次真实测试，比任何排行榜都更可靠。
指治理机制引导团队去调查风险与可行性，而不是直接叫停工作。例如HCA Healthcare在试点前、规模化前分别审查风险、商业案例和可行性，并定期复核模型表现，让风险问题指向待调查事项而非终止项目。
因为试点容易启动却难以推广。Westerman指出，赢家不是靠更好的算法，而是重新设计了工作方式。一个没有改变简报、审核环节或汇报方式的试点，本质上只是工具试用，而非真正的业务转型。
Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。
编辑团队：内容策划 · 技术编辑 · AI 研究组
网站：bingdada.com
© 2026 Bingdada. 保留所有权利。
Поместите бренд в ленту читателя
Рекламные места внутри статей — моменты высокого внимания, идеальны для запуска продуктов и набора на мероприятия.
SEO & GEO 技术探索者，专注于搜索引擎优化和生成式引擎优化。
Chartbeat 最新报告显示，其客户网络内 Google Search 同比降幅从 21.9% 扩大到 40.2%，搜索占页面浏览量份额两年从 9% 跌至 5%。与此同时，暗社交、直接访问与站内流量持续上行，忠实读者成为稳住大盘的关键。
谷歌R4T-Diffusion框架通过强化学习加蒸馏，把查询扇出延迟从近50秒压到亚秒级。本文拆解其三阶段架构、三重奖励机制与生产就绪信号，并分析对SEO策略的潜在影响。
Google 在 Search Console 的 Performance 报告中新增多模态过滤器，首次把 Lens、Circle to Search、图片上传等图片入口带来的流量单独拆出。本文解读其覆盖范围、无查询词的限制，以及对电商与内容站的实操价值。
Получайте свежие материалы по SEO и GEO.
Мы уважаем вашу конфиденциальность. Отписаться можно в любой момент.
Войдите, чтобы присоединиться к обсуждению
