Tolan 用 GPT-5.1 后语音延迟降低了多少？

引入 GPT-5.1 和 Responses API 后，Tolan 的语音启动时间减少了超过 0.7 秒，显著改善了对话流畅度，让实时漫谈式语音交互更自然。

Tolan 为什么不缓存提示而是每次重建语境？

因为用户随时会改变话题，缓存提示无法中途适应。Tolan 每次对话都从头重建语境窗口，拉取最近消息摘要、角色卡片、向量检索记忆、语调指导和实时应用信号，从而实时适应突然的话题转换。

Tolan 的记忆系统只记事实和偏好吗？

不止。Tolan 的记忆系统不仅保留事实和偏好，还保留情感“氛围”信号，这些线索有助于引导对话长期保持连贯，支持长时、非线性的开放式交流。

GPT-5.1 对 Tolan 最重要的改进是什么？

可操控性和延迟的突破。GPT-5.1 让 Tolan 能更忠实于预设的基调和人格，同时语音启动时间减少超过 0.7 秒，将响应速度与角色一致性整合在一起。

AI人工智能

Tolan 如何利用 GPT-5.1 构建语音优先 AI：低延迟、精准语境与稳定人格的实践

bingdada

八月 2, 2026150 次阅读约 7 分钟阅读

快速回答

Tolan 利用 GPT-5.1 将语音启动延迟降低超过 0.7 秒，并通过每次对话实时重建语境窗口（整合消息摘要、角色卡片、向量记忆与实时信号）而非缓存提示，实现了对话题突变的即时适应；同时其记忆系统保留事实、偏好与情感氛围信号，从而在开放式语音交互中维持稳定人格与长期连贯性。

核心要点

语音 AI：从文本到对话的跨越
GPT-5.1 的转折点：可操控性与延迟的突破
构建持久的记忆与人格
GPT-5.1 带来的可衡量提升
Tolan 构建自然语音代理的核心原则

2026 年 1 月 7 日 | 创业公司 | OpenAI News 独家报道随着 OpenAI 发布 GPT-5.1 模型，语音 AI 领域迎来了一次重大突破。Tolan，一款由 Portola 团队打造的语音优先 AI 伴侣，正利用这一技术，重新定义人机对话的边界。在本文中，我们将深入探讨 Tolan 如何通过 GPT-5.1 实现低延迟、精准语境管理和稳定人格的语音交互，并分享其背后的核心原则。这些洞察不仅展示了 OpenAI News 的最新进展，也为语音 AI 的未来发展提供了重要参考。

语音 AI：从文本到对话的跨越

Tolan 是一款语音优先的 AI 伴侣，用户可以与一个个性化、动画化的角色进行开放式对话。与传统的快速问答不同，Tolan 旨在支持持续、无固定主题的深度交流。Portola 的联合创始人兼 CEO Quinten Farmer 表示：“我们看到了 ChatGPT 的崛起，并意识到语音是下一个前沿。但语音更难——你不仅要回应文字提示，还要进行实时、漫无边际的对话。” 语音 AI 对延迟和语境管理提出了更高要求，但也比文本支持更开放、更具探索性的互动。随着基础模型变得更快、更便宜、能力更强，Portola 团队将重点放在两个关键杠杆上：记忆和角色设计。他们构建了一个由获奖动画师和科幻作家塑造的角色驱动宇宙，并使用实时语境管理系统，确保对话中人格和记忆的一致性。

GPT-5.1 的转折点：可操控性与延迟的突破

GPT-5.1 模型的发布标志着一个转折点。它在可操控性和延迟方面带来了重大改进，将这些要素整合在一起，解锁了更响应迅速、更具吸引力的语音体验。 “GPT-5.1 给了我们所需的可操控性，最终实现了我们心中设想的角色。它不仅仅是更聪明——它更忠实于我们想要创造的基调和人格。”——Quinten Farmer，Portola CEO 对于 Tolan 来说，GPT-5.1 的核心优势在于：

延迟降低：引入 GPT-5.1 和 Responses API 后，语音启动时间减少了超过 0.7 秒，显著改善了对话流畅度。
语境管理优化：Tolan 每次对话都从头重建语境窗口，而非缓存提示。每个语境重建会拉取最近消息摘要、角色卡片、向量检索的记忆、语调指导以及实时应用信号。这种架构使 Tolan 能够实时适应突然的话题转换，这是自然语音交互的基本要求。 “我们很快意识到，缓存的提示根本不够，”Quinten 说。“用户随时会改变话题。要感觉无缝，系统必须能够中途适应。”这种实时重建方法在技术上要求极高，但却是 Tolan 成功的基础。

构建持久的记忆与人格

语境处理很重要，但不足以让对话长期保持连贯。为了支持长时、非线性的对话，Tolan 构建了一个记忆系统，不仅保留事实和偏好，还保留情感“氛围”信号——这些线索有助于引导 Tolan 如何回应。记忆使用 OpenAI text-embedding-3-large 模型嵌入，并存储在 Turbopuffer 中，这是一个高速向量数据库，可实现低于 50 毫秒的查找时间。这种速度对于实时语音交互至关重要。每次对话中，Tolan 使用用户的最新消息和系统合成的问题（例如，“用户与谁结婚了？”）来触发记忆检索。为了保持记忆质量，Tolan 每晚运行一次压缩任务，删除低价值或冗余条目（例如，“用户今天喝了咖啡”），并解决矛盾。人格同样被精心管理。每个 Tolan 都从独特的角色框架开始，由团队内部的科幻作家编写，并由行为研究人员优化。这些框架赋予了 Tolan 一致性，同时也提供了灵活性，使其能够随着时间的推移与用户共同进化。一个并行系统监控对话的情感基调，并动态调整 Tolan 的表达方式。这使得 Tolan 能够根据用户提示，在幽默和沉稳之间无缝切换，而不会失去核心人格。

GPT-5.1 带来的可衡量提升

向 GPT-5.1 的过渡是一个转折点。突然之间，分层提示指令——语调框架、记忆注入、角色特征——被更忠实地遵循。曾经需要变通方法的提示开始按预期运行。 “第一次，我们的内部专家觉得模型真的在倾听，”Quinten 说。“指令在长对话中保持不变，人格特征得到尊重，我们看到的漂移大大减少。” 这些变化带来了更一致、更可信的人格，从而创造了更具吸引力的用户体验。Tolan 团队看到了清晰、可衡量的提升：记忆检索失误减少了 30%（基于产品内的挫败信号），在 GPT-5.1 驱动的角色上线后，次日用户留存率提高了超过 20%。

Tolan 构建自然语音代理的核心原则

随着 Tolan 的发展，一些原则逐渐形成，现在指导着团队构建和演进其语音架构： 1. 为对话的波动性设计：语音对话会在句子中间转换。系统需要同样快速地转变，才能感觉自然。

将延迟视为产品体验的一部分：亚秒级响应决定了语音代理是感觉像对话还是像机器。
将记忆构建为检索系统，而非转录：高质量的压缩和快速的向量搜索比过大的语境窗口能提供更一致的人格。
每次对话重建语境：不要用更大的提示来对抗漂移。每次对话重新生成语境，能让代理在对话漫游时保持接地。这些经验共同构成了 Tolan 下一阶段创新的基础，并为语音 AI 的发展方向设定了路线。

结语：语音

AI 的未来 Tolan 的故事展示了 GPT-5.1 如何赋能语音 AI 实现更自然、更人性化的交互。通过聚焦于低延迟、精准语境管理和稳定人格，Tolan 不仅提升了用户体验，也为整个行业树立了标杆。随着 OpenAI 继续推动模型能力的边界，语音 AI 的未来将更加光明。Tolan 的实践表明，成功的关键在于将技术能力与深思熟虑的设计相结合，从而创造出真正能与用户共鸣的对话体验。本文基于 OpenAI News 的独家报道，深入分析了 Tolan 如何利用 GPT-5.1 构建语音优先 AI。随着技术的不断演进，我们期待看到更多类似的创新，推动语音 AI 走向更广阔的天地。

关于 Bingdada

Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。 编辑团队：内容策划 · 技术编辑 · AI 研究组网站：bingdada.com © 2026 Bingdada. 保留所有权利。