Ollama Docker GPU 미인식 진단 가이드
Ollama가 GPU 대신 CPU를 쓸 때: Docker GPU 미인식 10분 진단법
Ollama Docker가 GPU를 인식하지 못할 때 호스트 드라이버, NVIDIA Container Toolkit, GPU 전달, Ollama 로그와 VRAM 오프로딩을 10분 순서로 진단한다.
로컬 LLM 메모리 계산 요소를 가중치·KV 캐시·버퍼·OS 여유로 구분한 대표 이미지
로컬 LLM 메모리 계산법: 8B·14B·32B·70B RAM·VRAM 가이드
로컬 LLM의 실제 GGUF 파일, KV 캐시, 컨텍스트, 버퍼를 합산해 8B·14B·32B·70B 모델의 RAM·VRAM 요구량을 계산하는 실무 가이드다.