用开源模型在本地解析简历并智能筛选：一个HR的“后悔药”

凌晨两点，我盯着电脑屏幕上第87份简历，大脑已经变成一团浆糊。这是某家创业公司HR朋友的真实吐槽——每周处理200+份简历，人工筛完平均每份只停留10秒，漏掉优质候选人几乎是必然。更头疼的是，所有简历数据只能存在脑海里，没法自动化分析。
最直接的做法是用SaaS简历解析服务（比如hireEZ、Textkernel），但一份简历收费几毛到一块，中小企业一年下来也能省出半台服务器。而且数据要上传到云端，有些公司对候选人隐私有严格限制。
我的问题是：能不能完全在本地搭一套简历解析+智能筛选系统？不要说“大模型贵”，今天就有答案。

---

为什么选开源模型？

选型时我对比了两个方向：
– 云端大模型API（如GPT-4o、Claude）：解析准确率高，但每次请求延迟大、成本随量线性增长，且数据出境。
– 本地开源模型：用GGUF量化版部署在单卡GPU甚至CPU上，推理成本几乎为零，数据不出内网。性能上，像Qwen3.6-27B-MTP这种量化模型，在简历结构化提取任务上已经接近GPT-4水平。
我最终选择了llama.cpp v0.31.1 + Qwen3.6-27B-MTP-GGUF的组合，配合一个轻量级Web服务，跑在32GB内存的Mac Studio上，实测每份简历解析耗时约3秒。

---

端到端链路：从PDF到结构化候选人画像

整个流程分为三步：
1. 提取简历文本
先用PyMuPDF（fitz）把PDF转成文本。这一步麻烦在PDF格式不统一，表格、图标经常乱码。我的做法是先转成纯文本，再丢弃超过80%的内容（页眉页脚、无关字符），只保留主体段落。
2. 用LLM解析结构化字段
用一个精心设计的prompt，让模型输出JSON格式的候选人信息：姓名、电话、邮箱、工作经历（公司、职位、起止时间）、教育背景、技能列表、项目亮点。
3. 基于职位描述智能打分
把职位要求的JD也作为prompt的一部分，让模型对每个候选人按“匹配度”打分（0-100），并解释理由。这个打分逻辑可以精细调整，比如权重高的关键词（“Python”、“5年经验”）加更多分。
以下是用llama.cpp调用模型的核心代码片段，直接在本地启动一个HTTP服务：

import subprocess
import json
import requests
# 启动llama.cpp服务器（后台运行）
server_cmd = [
    "./llama-server",
    "-m", "Qwen3.6-27B-MTP-Q6_K.gguf",
    "-c", "4096",
    "--port", "8080",
    "-ngl", "35",          # GPU层数
    "-t", "8"              # CPU线程
]
# 实际部署中请用subprocess.Popen，这里仅示意思路
def parse_resume(text):
    prompt = f"""请从以下简历中提取信息，以JSON格式返回：姓名、电话、邮箱、工作经历（公司、职位、起止时间）、教育背景、技能列表。
    {text}
    JSON:"""
    payload = {
        "prompt": prompt,
        "temperature": 0.1,
        "max_tokens": 1024
    }
    resp = requests.post("http://localhost:8080/completion", json=payload)
    result = resp.json()["content"]
    # 解析JSON（需处理模型输出可能的不规范）
    try:
        return json.loads(result)
    except:
        # 用正则从文本中提取字段
        ...
        return fallback_extract(result)

注意：上面的代码只是简化演示。实际生产环境中需要处理流式输出、重试、错误恢复。llama.cpp的llama-server在0.31.1版本已经支持并发请求，但建议控制并发数在4以下以防止OOM。

筛选逻辑：不止是关键词匹配

很多现成的筛选工具只是简单的TF-IDF或关键词命中。但用LLM做筛选可以做到语义级别。比如JD要求“熟悉推荐系统”，候选人的简历写的是“在电商平台做过协同过滤和向量召回”，传统规则不会认为匹配，但LLM能看出来高度相关。
我的筛选prompt结构如下：
——————文本开始——————
你是一个资深的招聘顾问。以下是职位描述：
{job_description}
以下是候选人的结构化信息：
{candidate_json}
请评估该候选人与职位的匹配度（0-100），并给出不超过3点的理由。输出格式：
分数：XX
理由：…
——————文本结束——————
这样每次筛选调用一次模型，生成分数和理由。200份简历耗时约10分钟（包括解析和打分）。

---

对比传统方案：作弊器 vs 人力

维度	传统人工/规则	本方案（本地LLM）
速度	每份1-2分钟，200份需6-7小时	约15分钟全自动
准确性	依赖HR经验，漏检率高	语义匹配，覆盖隐性技能
成本	人工成本约100元/小时	硬件投入后仅电费
数据隐私	本地完全可控	本地完全可控
可解释性	主观判断，无法复现	每次给出打分理由，可追溯
维护难度	无维护	需定期更新模型、调prompt

但也要诚实地说局限：

– 简历格式极端复杂（如图片扫描件、手写）时，文本提取会失败，需要OCR预处理。

– 模型对中文简历的解析准确率在90%左右，少量字段可能丢失或错位（比如“教育经历”被误解为“工作经历”）。需要后处理校验。

– 硬件要求：至少16GB显存才能跑起27B量化模型，如果只有8GB显存，建议用7B以下模型（如VibeThinker-3B），但解析质量会下降。

适用场景 vs 不适用场景

强烈推荐：

– 中小型企业，每日简历量10-200份，有明确职位描述

– 对数据隐私敏感的行业（金融、医疗、政府）

– 希望将简历库沉淀为结构化人才数据库，用于后续分析

不建议：

– 简历全部是扫描图片且不清晰（需额外部署OCR，增加复杂度）

– 职位描述极其模糊（如“我们需要一个全能型人才”），模型无法有效打分

– 需要复杂决策逻辑（如跨部门交叉评估），此时应该组合规则引擎

最后一点“后悔药”

我那位HR朋友后来用这套系统跑了一次200份简历的实战，筛选出的前20人中，有5位是在人工筛选中被漏掉的——因为他们的简历“关键词”不突出，但项目描述里隐含了强相关经验。她说这是“给自己买了后悔药”。

如果你也想搭一套，推荐从llama.cpp + Qwen3.6-27B-MTP-GGUF开始，先用少量简历测试，调优prompt后再全量跑。迭代过程中你会发现，最难的往往不是模型选择，而是把“简历解析”这个模糊任务拆成模型能理解的结构化指令。

毕竟，让机器像资深HR一样看懂简历，不是靠参数堆出来的。

注：本文提到的llama.cpp版本为b9859，Qwen3.6-27B-MTP-GGUF模型可到HuggingFace上搜索unsloth/Qwen3.6-27B-MTP-GGUF获取。