Bonsai 27B 3.9GB를 읽는 법: Ollama·Claude Code의 로컬 경계
2026-07-15 · 로컬 AIBonsai 27B 3.9GB를 읽는 법: Ollama·Claude Code의 로컬 경계같은 터미널에서 명령을 실행해도 추론은 외부 서버에서 일어날 수 있다. 반대로 모델 파일이 스마트폰에 들어간다고 해서 긴 문맥과 멀티모달 기능까지 같은 메모리에서 여유롭게 돌아가는 것도 아니다. ‘로컬’이라는 말 뒤에서 모델, 런타임, 화면, 운영비가 각각 어디에 놓이는지 구분해 봤다.3.9GB는 모델 파일의 크기다PrismML은 7월 14일 1-bit Bonsai 27B와 ternary 변형을 공개했다. 이 가운데 스마트폰 구동을 내세운 1-bit 모델의 배포 크기는 약 3.9GB다. 회사 설명과 모델 카드에 따르면 Qwen3.6-27B를 바탕으로 언어 모델 가중치를 1.125비트 수..
2026.07.15