Knowledge Base Setup

在 Mac Mini 上快速搭建本地知识库 + RAG 搜索系统。

⚠️ 阅读前必读：本 skill 的能力范围

本 skill 不只是"搭建知识库"，还包含以下高危能力：

执行能力：

• 🔧 Shell 命令执行（python3 + bash 脚本）
• 📁 文件读写（knowledge/, summaries/, archives/, .trash/）
• 📦 安装 Homebrew 包（antiword, tesseract, pandoc, libreoffice，版本固定）
• ⬇️ 下载 Ollama 模型（nomic-embed-text, ~274MB）
• ⚙️ 修改 OpenClaw 配置（~/.openclaw/openclaw.json）
• ⏰ 注册持久 cron 任务（23:00 + 06:00，每天自动）
• 📤 推送消息到飞书 webhook

持久化影响：

• 知识库目录会被自动分析（每天 23:00）
• 摘要文件会被覆盖写入（OCR 修复时）
• cron 任务永久执行（直到手动 openclaw cron remove <id>）
• 失败文件移到 .trash/（7 天兜底清理）

安装流程： 本 skill 的 setup.sh 是交互式安装向导：

• 每个危险操作前会要求 y/N 确认
• 提供 --dry-run 选项查看会做什么
• 已安装用户重跑会进入确认模式

如果不同意上述任何一项，请不要安装本 skill。

结构化权限声明（Structured Permissions）

warning: 本 skill 会自动修改文件、安装包、注册 cron 任务（用户每步都有 y/N 确认）

disable_command: openclaw cron remove <id>

核心功能（v2.0）

• kreuzberg 统一提取层：PDF / DOCX / XLSX / PPTX / MD / 图片 OCR 全自动路由
• antiword 极速专线：.doc 文件专用提取，成功率 85%，169MB 文件 0.02 秒完成
• 智能兜底：antiword 失败自动走 soffice 转换，60 秒硬超时无误判
• 自动分类：关键词匹配驱动，中英文双语标签
• 定时任务：每天 23:00 分析新文档，08:00 发送摘要到飞书

🔧 权限声明

本 skill 在使用时需要以下 OpenClaw 工具能力：

{
  "tools": {
    "alsoAllow": ["exec", "process", "read", "write"]
  }
}

⚠️ 执行风险：exec + cron 自动化组合可导致持续命令执行， 请在可信环境（个人 Mac）使用，不要在共享/服务器部署。

⚠️ 安全警告：定时任务

本 skill 注册 2 个 cron 任务（23:00 分析 + 06:00 推送）， 运行 shell 命令并自动推送消息到飞书。

潜在风险：

• 脚本路径被修改 → 自动执行任意命令
• 知识库目录被入侵 → 自动读取/外发
• 飞书 webhook 泄漏 → 自动推送被劫持

建议：

• 不要把 ~/.openclaw/workspace/knowledge 放在共享/多用户目录
• 定期检查 cron 配置（openclaw cron list）
• 飞书 webhook 使用独立群组，不要复用其他机器人的 webhook
• 仅在个人 Mac 上运行，不要部署到服务器

快速开始

一键安装

cd ~/.openclaw/workspace/skills/knowledge-base-setup/scripts
bash setup.sh <飞书用户ID>

手动分步安装

Step 1: 系统依赖

brew install antiword tesseract pandoc

Step 2: Python 依赖

pip3 install kreuzberg pytesseract pymupdf docx openpyxl python-pptx

Step 3: Ollama + embedding 模型

# 安装 Ollama: https://ollama.com/download
ollama pull nomic-embed-text

Step 4: 创建目录结构

mkdir -p ~/.openclaw/workspace/knowledge/.analysis/summaries/archives
mkdir -p ~/.openclaw/workspace/knowledge/temp_docs
touch ~/.openclaw/workspace/knowledge/文章目录/文章目录.md

Step 5: 部署脚本

cp ~/.openclaw/workspace/skills/knowledge-base-setup/scripts/*.py \
   ~/.openclaw/workspace/knowledge/.analysis/
chmod +x ~/.openclaw/workspace/knowledge/.analysis/*.py

Step 6: 配置 OpenClaw

编辑 ~/.openclaw/openclaw.json，加入：

{
  "models": {
    "providers": {
      "ollama": {
        "baseUrl": "http://127.0.0.1:11434",
        "api": "ollama",
        "models": [
          {"id": "nomic-embed-text", "name": "Nomic Embed Text"}
        ]
      }
    }
  },
  "agents": {
    "defaults": {
      "memorySearch": {
        "provider": "ollama",
        "model": "nomic-embed-text"
      }
    }
  }
}

确保 tools 区块有：

"tools": {
    "alsoAllow": ["exec", "process"]
}

然后重启：openclaw gateway restart

Step 7: 注册定时任务

# 23:00 分析新文档
openclaw cron add \
  --name "23:00分析新文档" \
  --cron "0 23 * * *" \
  --tz "Asia/Shanghai" \
  --session isolated \
  --timeout-seconds 600 \
  --message "cd ~/.openclaw/workspace/knowledge/.analysis && python3 run_analysis.py && python3 generate_catalog.py" \
  --announce --channel feishu --to "user:<飞书用户ID>"

# 08:00 发送文档摘要
openclaw cron add \
  --name "08:00发送文档摘要" \
  --cron "0 8 * * *" \
  --tz "Asia/Shanghai" \
  --session isolated \
  --timeout-seconds 120 \
  --message "读取 summaries/ 目录发送摘要到飞书" \
  --announce --channel feishu --to "user:<飞书用户ID>"

summary 文件名 sanitize（v1.4.1 新增）

防止 OSError: [Errno 63] File name too long（NAME_MAX=255 bytes）：

SUMMARY_NAME_MAX = 200

def sanitize_filename(name, max_length=SUMMARY_NAME_MAX):
    """截断超长文件名，保留扩展名 + 8 位 MD5 hash 防冲突"""
    name_bytes = name.encode('utf-8')
    if len(name_bytes) <= max_length:
        return name
    
    base, ext = os.path.splitext(name)
    ext_bytes = ext.encode('utf-8')
    base_bytes = base.encode('utf-8')
    
    import hashlib
    h = hashlib.md5(name_bytes).hexdigest()[:8]
    
    reserve = len(ext_bytes) + 1 + 8  # "_" + hash + ext
    available = max_length - reserve
    
    if available > 0 and len(base_bytes) > available:
        truncated = base_bytes[:available].decode('utf-8', errors='ignore')
        return f"{truncated}_{h}{ext}"
    
    return name[:max_length]

主循环的异常捕获重试：

try:
    with open(summary_file, 'w', encoding='utf-8') as f:
        f.write(content)
except OSError as e:
    if e.errno == 63:  # ENAMETOOLONG
        short_name = sanitize_filename(filename, max_length=180)
        summary_file = os.path.join(
            SUMMARY_DIR,
            f"{timestamp}_{short_name}.summary.txt"
        )
        with open(summary_file, 'w', encoding='utf-8') as f:
            f.write(content)

触发场景： 畸形 PDF 文件名（如下载错误的 _; filename_=utf-8''... 双名拼接），原文件名 244+ bytes + 时间戳超 255 bytes 限制。

实测案例： 20260730-Nomura-Asia Insights：China：The Politburo meeting indicated a shift to _countercyclical" policies-260730.pdf_; filename_=utf-8''...pdf (原 248 bytes) → sanitize 后 200 bytes + 8位 hash → 安全创建。

temp_docs 畸形文件清理（v1.4.1 新增）

下载失败的 PDF 在文件名里重复了两次（_; filename_=utf-8'' 分隔），实际只需保留前半。一次性清理脚本：

import os, shutil
temp_docs = os.path.expanduser("~/.openclaw/workspace/knowledge/temp_docs")
trash_dir = os.path.expanduser("~/.openclaw/workspace/knowledge/.trash/temp_docs_<时间戳>")
os.makedirs(trash_dir, exist_ok=True)

for f in os.listdir(temp_docs):
    if "_; filename_=utf-8''" in f:
        full = os.path.join(temp_docs, f)
        parts = f.split("_; filename_=utf-8''")
        real_name = parts[0]
        target = os.path.join(temp_docs, real_name)
        if not os.path.exists(target):
            shutil.move(full, target)
            print(f"重命名: {real_name}")

CMap 残缺度自检（v1.4 新增）

不预设"哪个 PDF 来源会乱码"——实测 72% 的乱码来自非 lightpdf PDF（PPT 转 PDF、扫描件等）， 改用自适应检测：

def is_cmap_broken(text, threshold=0.03):
    """检测文本是否含异常字符（CMap 残缺/PUA 污染/未映射 CID）"""
    if not text or len(text.strip()) < 50:
        return False
    total = len(text)
    pua_count = sum(1 for c in text if 0xE000 <= ord(c) <= 0xF8FF)
    cjk_ext = sum(1 for c in text if 0x20000 <= ord(c) <= 0x2EBEF)
    cjk_compat = sum(1 for c in text if 0xF900 <= ord(c) <= 0xFAFF)
    cid_count = text.count('(cid:')
    bad_ratio = (pua_count + cjk_ext + cjk_compat + cid_count) / total
    return bad_ratio > threshold or cid_count > 10

3 类乱码特征：

1. PUA 私用区 (U+E000-F8FF) —— 残缺 CMap fallback
2. CJK 扩展区 (U+20000-2EBEF) —— 字符找不到映射
3. (cid:xxxx) 字面值 —— pdfplumber 提取失败标志

集成位置： extract_pdf_text() 在 kreuzberg / pymupdf 提取后调 is_cmap_broken()， 通过即返回，失败即触发 OCR 路径。

OCR 性能实测（2026-08-12 验证）

批量 OCR 修复脚本（v1.4 新增）

re_ocr_corrupted.py —— 批量扫描乱码 summary，自动用新版本 utils 重新提取：

# 干跑（不写文件）
python3 re_ocr_corrupted.py --dry-run --max 10

# 实际批量（处理所有乱码）
python3 re_ocr_corrupted.py --max 100

# 只处理指定 PDF
python3 re_ocr_corrupted.py --pdf-list "path1.pdf,path2.pdf"

行为：

1. 扫 archives/ 找出乱码 summary
2. 按 basename 匹配源 PDF
3. 调 extract_pdf_text() 重跑（自动 OCR fallback）
4. 写新 summary 到 summaries/（带新时间戳）
5. 覆盖 archives/ 里对应 basename 的所有乱码版本
6. 输出 JSON 报告（含每份文件路径/字数/成功状态）

文档解析架构（v2.0）

架构图

                    ┌──────────────────────────────────────┐
                    │         kreuzberg 统一提取层           │
                    │  (pypdfium2 / python-calamine / pandoc) │
                    └───┬────────────────────────────────┬───┘
                        │                              │
                自动判断 │                              │
                        ▼                              ▼
              ┌─────────────────┐           ┌─────────────────────┐
              │  kreuzberg 直提  │           │  antiword 极速专线  │
              │ PDF/DOCX/XLSX/  │           │   (.doc 文件专用)    │
              │ PPTX/MD/图片OCR │           │   成功率 85%，<1秒   │
              └─────────────────┘           └─────────────────────┘
                        │                              │
                        │         ┌──────────────────────────────┐
                        │         │     soffice 兜底转换          │
                        │         │ (.doc/.xls/.ppt antiword失败) │
                        │         │  60秒硬超时（消除误判watchdog）│
                        │         └──────────────────────────────┘
                        ▼                              │
              ┌──────────────────────────────────────────────┐
              │              文本输出（content）              │
              │  → summaries/ 摘要文件 → generate_catalog.py  │
              └──────────────────────────────────────────────┘

文件类型 × 提取方式

antiword 极速专线

# 实测数据：
# 169MB 超大文件 → 26万字符，0.02秒完成
# 正常 .doc（0.1-15MB）→ <1秒
# 成功率 85%，覆盖绝大多数 .doc 文件
result = subprocess.run(['antiword', filepath], capture_output=True, timeout=10)

kreuzberg 统一提取层

kreuzberg 是专业的非结构化文档文本提取库（支持 20+ 格式），内部自动路由：

• PDF → pypdfium2
• XLSX → python-calamine
• DOCX/PPTX/MD → pandoc
• 图片 → 内置 OCR（tesseract）

关键词库（中英双语）

中文（47个）： 房产、房价、房地产、居民、消费、股市、经济、政策、利率、通胀、人民币、A股、美联储、PBOC、GDP、股票、资产、投资、债券、银行、PPI、CPI、PMI、M2、就业、失业、汽车、新能源、AI 等

英文（70+个）： property、real estate、GDP、inflation、CPI、PPI、PMI、PBOC、Fed、consumer、economy、growth、housing、stock market、EV、AI 等

标签输出语言： 自动判断——英文内容匹配英文关键词输出英文标签，中文内容匹配中文关键词输出中文标签

定时任务兼容性

迁移到新电脑

⚠️ 迁移前必读：~/.openclaw/workspace/knowledge/ 目录可能包含：

• 私人合同/财务文档的 OCR 摘要
• 个人分析报告
• 飞书推送缓存

建议：

1. 先 du -sh ~/.openclaw/workspace/knowledge/ 看大小

2. 排除 .trash/、.analysis/cache/ 后再迁移

3. 用 rsync -av --exclude='.trash' ... 而不是 scp -r

4. 复制目录（推荐 rsync）：

   rsync -av --exclude='.trash' --exclude='.analysis/cache' \
     ~/.openclaw/workspace/knowledge user@new-mac:~/.openclaw/workspace/
   

5. 在新电脑运行 bash setup.sh <飞书用户ID>

6. 重新注册定时任务（Job ID 会变）

避坑指南

关键路径

⚠️ 临时文件处理（v1.4.3 修复）

OCR 流程会把 PDF 复制到临时目录处理。

v1.4.3 之前：使用 /tmp/ocrmypdf_work、/tmp/office_ocr_work、 /tmp/office_convert 共享路径，存在以下风险：

• 多进程并发可能冲突
• 多用户系统下其他用户可访问（权限默认 755）
• 处理失败时临时文件残留

v1.4.3 修复：

• 用 tempfile.mkdtemp(prefix="...") 创建 per-run 私有目录（权限 0o700）
• 处理完成后立即 shutil.rmtree 清理
• tempfile.mkstemp 创建稳定输出文件（避免被 finally 误删）

剩余风险：极端情况下（机器突然断电）可能残留临时目录。 建议定期清理 /Users/home/.openclaw/tmp/ 下 ocrmypdf_*、office_* 前缀目录。

版本历史