随着输入量的增加,Chroma 2025 年“Context Rot”研究中的 18 个模型中的每一个模型都变得更糟。更大的上下文窗口并不能解决问题;选择其中的内容。这就是情境工程:比巧妙的提示措辞更重要的技能。在这个视频中: • 为什么每个LLM调用都是无状态的,以及为什么“模型是愚蠢的”通常是一个上下文错误 • 上下文窗口作为预算:令牌和注意力 • 四种上下文:指令、检索、内存、工具 • 动态上下文组装:分类、收集、过滤、拟合、排序、渲染、回写 • Python 中的最小上下文组装器 • 迷失在中间:在哪里放置指令、数据和问题 • 长会话中的压缩、压缩和上下文腐烂 • 故障模式、评估和安全• 3 个面试问题 + 1 个危险信号 章节: 00:00 简介:18 个模型中的 18 个变得更糟 00:27 为什么上下文比措辞更重要 01:54 核心思想:上下文窗口是预算 05:20 工作原理:动态上下文组装 09:06 权衡、上下文腐烂和生产 11:47 我的看法:模型的状态管理 12:16 面试问题 + 危险信号13:41 回顾和接下来的内容 📚 全系列:面向开发人员的人工智能工程(播放列表) ▶️ 接下来观看:#13 提示缓存:降低 LLM 成本和延迟 🔗 1:1 指导/模拟面试:https://topmate.io/garvit_anand 🔗 LinkedIn:https://www.linkedin.com/in/garvitanand2/ 🔗 网站: https://gigworkai.com/ 👍 如果这有帮助,请每天点赞并订阅一个人工智能工程概念。 ☕ 喜欢这个视频吗?请我喝杯咖啡:https://razorpay.me/@gigworkai 资料来源:Anthropic Engineering,“AI 代理的有效上下文工程”(2025 年 9 月); Chroma,“Context Rot”技术报告(2025 年 7 月);刘等人,《迷失在中间》(2023)。旁白由 AI 生成(Kokoro TTS);图表和代码均为原创。 #ContextEngineering #PromptEngineering #LLM #AIEngineering #GenerativeAI
免责声明:info@kdj.com
所提供的信息并非交易建议。根据本文提供的信息进行的任何投资,kdj.com不承担任何责任。加密货币具有高波动性,强烈建议您深入研究后,谨慎投资!
如您认为本网站上使用的内容侵犯了您的版权,请立即联系我们(info@kdj.com),我们将及时删除。