标签：大模型

国产大模型助手多到挑花眼：豆包、通义千问、腾讯元宝、DeepSeek、Kimi、文心一言……它们背后模型差距没那么大，真正的差别在出身带来的生态和擅长场景。这篇不堆跑分（跑分月月变），而是从“你拿来干什么”出发，讲清各家的基因、长板和短板，给一份按场景对号入座的选择建议。

大模型本身只会“生成文本”，Agent 却能自主规划、调用工具、根据反馈纠错。本系列第一篇从最基础的问题入手，讲清 Agent 到底是什么：增强型大模型、ReAct 推理-行动循环，以及模型、工具、记忆、规划四大核心能力。

大模型推理是自回归逐 token 生成，显存带宽是瓶颈。本文讲清 Prefill/Decode 两阶段、KV Cache 的作用与开销，再逐个聊连续批处理、PagedAttention（vLLM）、量化（INT8/INT4）、投机解码、FlashAttention 与并行策略，以及延迟与吞吐怎么权衡。

同样一个模型，有人用起来频频翻车，有人却能让它稳定产出。差别往往不在模型，而在 Prompt 写得够不够“像一份规格说明”。这篇不讲玄学咒语，而是从模型为什么会听 Prompt 讲起，把角色边界、Few-shot、思维链、结构化输出、任务拆解、拒答策略、版本评测七个技巧讲透，并补上上下文工程和常见反模式。

大模型知识冻结、会幻觉、不知道企业内部数据。RAG（检索增强生成）通过“先检索、再生成”把外部知识注入上下文，是当前落地最广的大模型应用范式。本文带你走通 RAG 的完整链路：分块、嵌入、检索与重排，以及工程上最常踩的坑。