跳到正文
热点事件观察中

英伟达研究质疑超大上下文窗口的必要性

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

据 The Decoder 11月22日报道,GPT-4 于2023年3月发布时的上下文窗口为8,192 tokens,如今 GPT 5.6 Sol 可处理约一百万 tokens,约为前者的120倍。针对上下文窗口不断扩大的趋势,英伟达研究团队认为,让模型一次性吞下整本小说这类超大上下文,往往是过度且昂贵的做法。团队在多项测试中发现,定期摘要加定向查找的效果与超大上下文相当,因而质疑继续追求超大窗口的必要性。

AI 根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. The Decoder
    Nvidia 研究者称超大 AI 上下文窗口是死路一条

    Nvidia 研究团队认为,模型一次性吞下整本小说这类超大上下文窗口往往是过度且昂贵的做法,在多项测试中,定期摘要加定向查找的效果与之相当。GPT-4 于 2023 年 3 月发布时上下文为 8,192 tokens,如今 GPT 5.6 Sol 可处理约一百万 tokens,约为前者的 120 倍。

本事件热度走势

当前热度 5·可比范围峰值 10(11月22日 01:00)·近 24 小时可比范围变化 -49%

02.557.51011月22日01:0011月22日09:0011月22日18:0011月23日02:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。