아는 기계 — 프롬프트에서 토큰으로의 여정

여자가 계산기를 샀습니다. 한 남자가 서비스에 전화를 걸어 다른 사람에게 계산을 해달라고 요청합니다. 같은 질문, 같은 대답 — 아래에는 완전히 다른 두 대의 기계가 있습니다. 이 에피소드에서는 네 명의 목소리(내레이터, 분석가, 실무자, 학자)가 현재 거의 모든 사람이 사용하고 있지만 실제로 내부를 들여다본 사람은 거의 없는 AI 모델을 분해합니다. 단순한 인간 비유에서 시작하여 단일 예측 토큰으로 끝나는 이 책은 노트북에서 클라우드까지 AI가 실제로 어떻게 실행되는지에 대한 완전한 설명입니다. 그 과정에서 로컬 AI와 클라우드 AI의 실제 차이점, 그 아래에서 조용히 실행되는 앱과 엔진(llama.cpp, Ollama, LM Studio, vLLM 등), GGUF 파일에 실제로 포함된 내용, 훈련이 추론과 어떻게 다른지, 프롬프트를 답변으로 바꾸는 6단계 루프(한 번에 하나의 토큰)에 대해 알아봅니다. 설명되지 않은 전문 용어는 없습니다. 건너뛴 단계가 없습니다. 기계가 하나씩 열리게 됩니다. 모델은 알고 있습니다. 엔진이 작동합니다. 하드웨어가 계산합니다. 해당 영상은 교육 목적으로만 제작되었습니다. 이는 법적 조언이나 전문 법률 상담을 대체하기 위한 것이 아닙니다.