OpenAI 首届 DevDay：GPT-4 Turbo 把上下文推到 128K

2023 年 11 月 6 日，OpenAI 在旧金山举办首届开发者大会 DevDay，发布 GPT-4 Turbo：上下文窗口扩展到 128K，官方口径约合 300 页文本一个提示词，知识截止时间更新至 2023 年 4 月，价格明显低于原版 GPT-4。同场还发布了 GPTs（可自定义的 ChatGPT 分身）与 GPT 商店预告、Assistants API、GPT-4 Turbo with Vision 与 DALL-E 3 API 等一整套开发者产品。对检索体系而言，128K 长上下文把一个老问题重新摆上桌面：上下文够长之后，检索增强还要不要？此后几年的工程实践给出的答案是“仍要”——长窗口不等于全窗口同等有效，中间信息易被忽略，检索筛选后按相关度投喂的管线依旧不可替代。知识截止时间同步后移到 2023 年 4 月，官方等于承认了纯参数记忆的时效短板：越新的信息，越要依赖外部检索与文档供给。

GEO 含义

上下文变长改变了引擎与内容的关系：整页甚至整站内容可以被一次性放进提示词，但“塞得进去”与“被注意到”是两回事，中间位置的衰减有专门研究支撑，见 lost in the middle 词条；对内容方更实际的启示是块级自含写作优先于长文堆料。GPT-4 本体的首发经过见 GPT-4 发布事件卡。