altair823-org/kebab
0
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases 40 Wiki Activity

docs: sudo 없이 ollama 설치 + ask --stream 권장 (v0.17.0 post-dogfood) #163

Merged
altair823 merged 1 commits from docs/ollama-install-and-stream into main 2026-05-25 03:26:26 +00:00
Conversation 0 Commits 1 Files Changed 2 +31
altair823 commented 2026-05-25 03:24:09 +00:00
Owner
Copy Link

요약

v0.17.0 확장 도그푸딩에서 사용된 두 운영 패턴을 README / docs/SMOKE.md 에 옮���. docs only — 코드 변경 없음, wire 영향 없음.

(1) sudo / systemd 없이 ollama 설치 — tarball 받아 /opt/ollama/{bin,models,logs} 같은 사용자 디렉토리에 풀고 OLLAMA_MODELS env 로 모델 위치 분리. 도그푸딩 머신에서 /build/cache/ollama 패턴으로 검증. 컨테이너 / WSL2 / root 권한 제약 환경에 유용.

(2) kebab ask --stream UX 권장 — cold start 가 긴 모델 (8B+ 또는 첫 호출) 은 progressive 토큰이 5 분 timeout 한도 안에서 빠르게 surface 됨. p9-fb-33 의 streaming 경로를 일반 권고로 옮김. 동일 inference 시간이라도 wait-and-pray 보다 안정적.

PR #162 (request_timeout_secs config 노브) 와 sibling — 같은 v0.17.0 post-dogfood 라운드의 남은 두 항목.

변경 요약

  • README.md "사전 요구" 의 Ollama 항목에 두 sub-bullet 추가:
    • "sudo 없이 설치 (격리 디렉토리 사용)" + bash snippet (tarball + OLLAMA_MODELS env + serve background launch)
    • "kebab ask --stream 권장 (fb-33)" — 한 문장 + CLI 예시 + MCP host 의 streaming_ask capability flag 안내.
  • docs/SMOKE.md ollama section 에 동일 패턴 두 절 추가 (별 bash 블록 + stream 안내). 기존 "Streaming ask (fb-33)" 본 절은 그대로.

사용자 가시 영향

  • 코드 0 변경.
  • README 만 읽고도 root 권한 없이 ollama 셋업 가능.
  • 큰 모델 시도 시 첫 reach 가 kebab ask --stream 인지 빠르게 인지.

검증

  • 본 패턴 자체가 확장 도그푸딩 (HOTFIXES 2026-05-25) 에서 실제 사용된 명령 — 도그푸딩 메모리 모니터 0 OOM 으로 검증됨.
  • markdown lint / link 정합성 확인.
  • 코드 변경 없어 cargo test / clippy 영향 없음.

시험 항목 (Test Plan)

  • README 의 ollama 설치 snippet 그대로 새 머신에서 실행 → ollama 동작.
  • kebab ask "..." --stream 2> events.ndjson > final.json → stderr 에 ndjson event 흐름, stdout 에 최종 answer.v1 1줄.
  • kebab schema --json | jq '.capabilities.streaming_ask' → true 확인.

Assisted-by: Claude Code

## 요약 v0.17.0 확장 도그푸딩에서 사용된 두 운영 패턴을 README / docs/SMOKE.md 에 옮���. **docs only — 코드 변경 없음, wire 영향 없음**. (1) **sudo / systemd 없이 ollama 설치** — tarball 받아 `/opt/ollama/{bin,models,logs}` 같은 사용자 디렉토리에 풀고 `OLLAMA_MODELS` env 로 모델 위치 분리. 도그푸딩 머신에서 `/build/cache/ollama` 패턴으로 검증. 컨테이너 / WSL2 / root 권한 제약 환경에 유용. (2) **`kebab ask --stream` UX 권장** — cold start 가 긴 모델 (8B+ 또는 첫 호출) 은 progressive 토큰이 5 분 timeout 한도 안에서 빠르게 surface 됨. p9-fb-33 의 streaming 경로를 일반 권고로 옮김. 동일 inference 시간이라도 wait-and-pray 보다 안정적. PR #162 (`request_timeout_secs` config 노브) 와 sibling — 같은 v0.17.0 post-dogfood 라운드의 남은 두 항목. ## 변경 요약 - **README.md** "사전 요구" 의 Ollama 항목에 두 sub-bullet 추가: - "sudo 없이 설치 (격리 디렉토리 사용)" + bash snippet (tarball + OLLAMA_MODELS env + serve background launch) - "`kebab ask --stream` 권장 (fb-33)" — 한 문장 + CLI 예시 + MCP host 의 `streaming_ask` capability flag 안내. - **docs/SMOKE.md** ollama section 에 동일 패턴 두 절 추가 (별 bash 블록 + stream 안내). 기존 "Streaming ask (fb-33)" 본 절은 그대로. ## 사용자 가시 영향 - 코드 0 변경. - README 만 읽고도 root 권한 없이 ollama 셋업 가능. - 큰 모델 시도 시 첫 reach 가 `kebab ask --stream` 인지 빠르게 인지. ## 검증 - 본 패턴 자체가 확장 도그푸딩 (HOTFIXES 2026-05-25) 에서 실제 사용된 명령 — 도그푸딩 메모리 모니터 0 OOM 으로 검증됨. - markdown lint / link 정합성 확인. - 코드 변경 없어 cargo test / clippy 영향 없음. ## 시험 항목 (Test Plan) - [ ] README 의 ollama 설치 snippet 그대로 새 머신에서 실행 → ollama 동작. - [ ] `kebab ask "..." --stream 2> events.ndjson > final.json` → stderr 에 ndjson event 흐름, stdout 에 최종 answer.v1 1줄. - [ ] `kebab schema --json | jq '.capabilities.streaming_ask'` → `true` 확인. Assisted-by: Claude Code
altair823 added 1 commit 2026-05-25 03:24:10 +00:00
docs(ollama): sudo 없이 설치 가이드 + ask --stream 권장 (v0.17.0 post-dogfood) a67300317b 
확장 도그푸딩에서 사용된 두 패턴을 README + SMOKE 에 옮김.

(1) sudo / systemd 없이 격리 디렉토리에 ollama 설치 — tarball 받아
    /opt/ollama/{bin,models,logs} 같은 사용자 디렉토리에 풀고
    OLLAMA_MODELS env 로 모델 위치 분리. 컨테이너 / WSL2 / 회사
    머신 등 root 권한 제약 환경에 유용. 도그푸딩 머신에서
    /build/cache/ollama 로 같은 패턴 검증.

(2) cold start 가 긴 모델 (8B+ 또는 첫 호출) 은 `kebab ask --stream`
    권장 — 동일 inference 시간이라도 progressive 토큰이 5분 timeout
    한도 안에서 빠르게 surface 됨. p9-fb-33 의 streaming 경로를
    UX 개선 권고로 명시.

코드 변경 없음 — docs only. README + SMOKE 두 군데 동일 패턴
sub-bullet + bash snippet.

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
altair823 merged commit 0d69d85757 into main 2026-05-25 03:26:26 +00:00
altair823 deleted branch docs/ollama-install-and-stream 2026-05-25 03:26:27 +00:00
Sign in to join this conversation.
Reviewers
No Reviewers
Labels
No items
No Label
Milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
altair823 claude-reviewer-01
No Assignees
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: altair823-org/kebab#163
Delete Branch "docs/ollama-install-and-stream"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?