來自基本系列:上下文視窗。語言模型在編寫答案時只能查看視窗內的內容;如今,在最強大的模型中,這個視窗大約有一百萬個代幣。那麼,模型是否同樣好地使用進入視窗的所有內容?我們描述了視窗的組成、其長度的成本以及三個指標:Lost in the Middle 的 U 曲線(當答案位於中間時成功率下降)、RULER 的聲明長度和有效長度差、NoLiMa 的無字匹配 pin。然後,我們在資源自己的頁面上展示了 Anthropic 稱之為「上下文腐爛」的現象及其解決方案(將問題放在最後,不給出不必要的令牌、壓縮、子代理)。章節 0:00 開場:中間句子 0:26 什麼是上下文視窗? 0:54 什麼進入視窗? 1:27 窗戶有多大? 1:53 尺寸的價格:n² 和價格 2:44 迷失在中間:U 曲線 3:29 RULER:聲明和有效長度 4:05 NoLiMa:沒有單字匹配 4:46 上下文腐爛 5:06 做了什麼:問題結束 5:20 代理:壓縮和子代理 5:5617 截至 20 月 2020 月 2020 月 202033:2020 月 202023:2023:203:尺寸:2023:203:2023:203:203)。該影片與 Anthropic、Google、OpenAI、NVIDIA、Adobe 或文章作者無關。來源 Anthropic,上下文視窗:https://platform.claude.com/docs/en/build-with-claude/context-windows Anthropic,AI 代理程式的有效上下文工程:https://www.anthropic.com/engineering/ effective-context-engineering-for-ai-agents-for-ai-agents Anthro-nto 50000 0050 005000505000 7005050050 7000505050 字彙個字):https://platform.claude.com/docs/en/models/overview Google,長上下文(Gemini API):https://ai.google.dev/gemini-api/docs/long-context Google、Gemini 4 Argon 模型卡:https://ai..dev.dev/gemini-api/docs/models 5-4-275-7175-1385-7073-32-713-71375-32-713-30985-32-3385-309 筆欄位視窗和左上下文。價格規則):https://developers.openai.com/api/docs/models/gpt-5.6 Liu 等人,「Lost中間:語言模型如何使用長上下文」(TACL):https://arxiv.org/abs/2307.03172 Hsieh 等人,「RULER:長上下文語言模型的真實大小是多少上下文大小? 2024):https://arxiv.org/abs/2404.06654 Modarressi 等人,「NoLiMa:超越文字匹配的長上下文評估」(Adobe Research,慕尼黑大學):https://arxiv.org/abs/2502.05167
免責聲明:info@kdj.com
所提供的資訊並非交易建議。 kDJ.com對任何基於本文提供的資訊進行的投資不承擔任何責任。加密貨幣波動性較大,建議您充分研究後謹慎投資!
如果您認為本網站使用的內容侵犯了您的版權,請立即聯絡我們(info@kdj.com),我們將及時刪除。