마지막 commit. 모든 .md 안의 `kb` 단어 일괄 갱신. - 19 개 crate 이름 (`kb-core`, `kb-app`, …) → `kebab-*` (Rust 모듈 path 표기 `kb_*` → `kebab_*` 포함). - 미래 component (`kb-tui`, `kb-desktop`, `kb-asr-whisper`, `kb-ocr`, `kb-mcp`, `kb-vlm`, `kb-rerank`, `kb-vision-ocr`, `kb-index`, `kb-smoke`, `kb-architecture`) → `kebab-*` (P6+ 가 시작될 때 같은 prefix 사용). - CLI 명령 예제: `kb ingest` / `kb search` / `kb ask` / `kb init` / `kb doctor` / `kb inspect` / `kb list` / `kb eval` → `kebab <verb>`. fenced code block + 인라인 backtick 모두. - XDG paths + env vars + binary 경로 (`target/release/kb` → `target/release/kebab`) 동기화. - design doc / 최초 보고서 / SMOKE / HOTFIXES / phase epic / task spec 모든 reference 통일. - task-decomposition.md 의 `git -c user.name=kb` 는 과거 git history 기록용 author 정보라 그대로 유지 (실제 git history 의 author 는 변경 불가). - `tasks/phase-5-evaluation.md` 의 `status: planned` → `completed` 도 같이 (P5-1 + P5-2 PR 머지 후 미반영분). ## 검증 - `grep -rEn "\bkb-[a-z]|\bkb_[a-z]|\.config/kb\b|kb\.sqlite|\bKB_[A-Z]" --include="*.md"` 0 hits (task-decomposition.md 의 git author 제외). - 모든 file path reference 살아있음 (renamed file 들 모두 새 path 로 update). 🤖 Generated with [Claude Code](https://claude.com/claude-code) Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
2.8 KiB
2.8 KiB
phase, title, status, depends_on, source
| phase | title | status | depends_on | source | |
|---|---|---|---|---|---|
| P7 | PDF text extraction + page citation | planned |
|
kebab_local_rust_report.md §9.2, §17 Phase 7 |
P7 — PDF ingestion
목표
text PDF 추출 → page-aware chunking → citation paper.pdf:p13. scanned PDF OCR 는 후속 단계.
산출 crate
kebab-parse-pdf—Extractor구현.
단계 분리 (§9.2)
| 단계 | 범위 | 우선순위 |
|---|---|---|
| 1 | text PDF 추출 (page + text span) | P7 본체 |
| 2 | scanned PDF OCR | 후속, image OCR 인프라 재사용 |
처음부터 layout reconstruction 욕심 금지. page number + text span 보존이 1차 목표.
라이브러리 선택
- 1차:
pdf-extract(단순 텍스트 추출). - 보조:
lopdf(페이지 단위 접근, metadata). - text 추출 실패 / 빈 페이지 → scanned 의심 표시 → 2단계 OCR 후보로 큐잉.
CanonicalDocument 매핑
PDF 1개 = 1 document. 페이지 단위 block:
pub struct PdfPageBlock {
pub page_number: u32,
pub text: String,
pub source_span: SourceSpan, // byte range or char range within page
pub section_hint: Option<String>, // 휴리스틱 추출, optional
}
heading 검출: PDF 자체엔 heading 의미 없음. 휴리스틱 (font size, bold, ALL CAPS) 1차에서는 생략. section 은 best-effort.
Chunking
- page-respect: chunk 가 page 경계 넘지 않음 (citation 단순화).
- 긴 page → paragraph 단위로 sub-chunk.
- chunker version:
pdf-page-v1.
Citation 형식
paper.pdf:p13
paper.pdf:p13:section=Experiment Setup
paper.pdf:p13:span=0-1240 # char range within page
CLI
kebab ingest ./paper.pdf
kebab ingest ./papers/
kebab search "PDF 안의 특정 개념"
kebab inspect doc <pdf_doc_id>
테스트
- fixture: 한글 PDF (논문/문서), 영문 PDF, 다단 layout, 표 포함, 빈 페이지 포함.
- page number 정확도 (1-based, 1페이지 PDF 도 OK).
- citation round-trip:
paper.pdf:p13으로 다시 page 텍스트 회수 가능. - 추출 실패 페이지는 reject 하지 않고 provenance warning + scanned 후보 표시.
- 동일 PDF 재수집 idempotent.
의존성 경계
kebab-parse-pdf는kebab-core+pdf-extract/lopdf만.- OCR 호출은 별도 adapter 통해 (P6 OCR 인프라 재사용).
완료 조건
kebab ingest <pdf>동작- page-level chunk + citation
- 검색 결과에
paper.pdf:p<n>포함 - 추출 실패 페이지에 대한 provenance warning
- 동일 PDF 재수집 idempotent
리스크 / 주의
- text 추출 품질은 PDF 생성 도구에 크게 좌우. 깨진 한글 (CID 미매핑) 흔함.
- 다단/표 layout 은 reading order 깨짐 → 검색 noise. 1차에선 감수.
- OCR 단계 들어가면 비용/시간 급증. 별도 background job 으로.
- 큰 PDF (>1000p) memory streaming 처리 필요.