Chroma의 2025년 "Context Rot" 연구에 포함된 18개 모델은 모두 입력이 증가함에 따라 더욱 악화되었습니다. 더 큰 컨텍스트 창은 수정 사항이 아닙니다. 그 안에 들어갈 것을 선택하는 것입니다. 이것이 바로 컨텍스트 엔지니어링입니다. 기발한 프롬프트 문구보다 더 중요한 기술입니다. 이 비디오의 내용: • 모든 LLM 호출이 상태 비저장인 이유와 "모델이 멍청하다"는 이유는 일반적으로 컨텍스트 버그입니다. • 예산으로서의 컨텍스트 창: 토큰 및 주의 • 네 가지 종류의 컨텍스트: 지침, 검색, 메모리, 도구 • 동적 컨텍스트 어셈블리: 분류, 수집, 필터링, 맞춤, 주문, 렌더링, 다시 쓰기 • Python의 최소 컨텍스트 어셈블러 • 중간 손실: 지침, 데이터 및 질문을 넣을 위치 • 긴 세션의 압축, 압축 및 컨텍스트 부패 • 실패 모드, 평가 및 보안 • 인터뷰 질문 3개 + 위험 신호 1개 장: 00:00 소개: 18개 모델 중 18개 모델이 악화됨 00:27 컨텍스트가 단어보다 중요한 이유 01:54 핵심 아이디어: 컨텍스트 창은 예산입니다 05:20 작동 방식: 동적 컨텍스트 어셈블리 09:06 절충, 컨텍스트 부패 및 생산 11:47 내 의견: 모델에 대한 상태 관리 12:16 인터뷰 질문 + 위험 신호 13:41 요약 및 다음 내용 📚 전체 시리즈: 개발자를 위한 AI 엔지니어링(재생 목록) ▶️ 다음 시청: #13 프롬프트 캐싱: LLM 비용 및 지연 시간 단축 🔗 1:1 멘토링/모의 인터뷰: https://topmate.io/garvit_anand 🔗 LinkedIn: https://www.linkedin.com/in/garvitanand2/ 🔗 웹사이트: https://gigworkai.com/ 👍 도움이 되셨다면 매일 AI 엔지니어링 컨셉 하나씩 좋아요와 구독 부탁드립니다. 😄 이 영상이 마음에 드셨나요? 커피 사주세요: https://razorpay.me/@gigworkai 출처: Anthropic Engineering, "AI 에이전트를 위한 효과적인 컨텍스트 엔지니어링"(2025년 9월); Chroma, "Context Rot" 기술 보고서(2025년 7월); Liu 외, "중간에서 길을 잃다"(2023). 내레이션은 AI로 생성됩니다(Kokoro TTS). 다이어그램과 코드는 원본입니다. #ContextEngineering #PromptEngineering #LLM #AIEngineering #GenerativeAI