博客

RAG、语义搜索、推荐都依赖“给一个向量，找出最相似的 N 个向量”。百万到十亿级向量下，暴力比对不现实。本文从向量相似度讲起，聊 ANN 近似最近邻索引（IVF、HNSW、PQ 量化）、元数据过滤与混合检索，以及 Milvus、pgvector、Qdrant 该怎么选。

原理篇讲了 RAG 是什么，这篇带你亲手搭一个能跑的。从文档切分、向量化入库，到检索、重排、拼上下文、生成答案，给出最小可运行代码；然后把 Demo 推向生产：混合检索、Rerank、查询改写、相似度兜底、引用溯源、评测集和增量更新，附一份逐项可落地的调优清单。

同样一个模型，有人用起来频频翻车，有人却能让它稳定产出。差别往往不在模型，而在 Prompt 写得够不够“像一份规格说明”。这篇不讲玄学咒语，而是从模型为什么会听 Prompt 讲起，把角色边界、Few-shot、思维链、结构化输出、任务拆解、拒答策略、版本评测七个技巧讲透，并补上上下文工程和常见反模式。

大模型知识冻结、会幻觉、不知道企业内部数据。RAG（检索增强生成）通过“先检索、再生成”把外部知识注入上下文，是当前落地最广的大模型应用范式。本文带你走通 RAG 的完整链路：分块、嵌入、检索与重排，以及工程上最常踩的坑。