博客

消息队列是分布式系统的“减震器”：异步解耦、流量削峰、事件驱动。本文讲清 MQ 的三大作用、投递语义（至多/至少/恰好一次）、消费幂等、顺序消息、延迟/死信队列，以及 Kafka、RocketMQ、RabbitMQ 的适用场景与常见坑。

大模型本身只会“生成文本”，Agent 却能自主规划、调用工具、根据反馈纠错。本系列第一篇从最基础的问题入手，讲清 Agent 到底是什么：增强型大模型、ReAct 推理-行动循环，以及模型、工具、记忆、规划四大核心能力。

Java 团队想接大模型，不必硬套 Python 的 LangChain。Spring AI 把 ChatClient、Prompt 模板、结构化输出、RAG（向量库）、函数调用、对话记忆这些能力做成了 Spring 风格的抽象和 Starter，配几行 yml、写几行链式调用就能跑。这篇从核心抽象讲起，带你用 Spring Boot 一步步实现聊天、结构化映射、RAG 知识库和工具调用，并聊聊生产里要注意的事。

大模型推理是自回归逐 token 生成，显存带宽是瓶颈。本文讲清 Prefill/Decode 两阶段、KV Cache 的作用与开销，再逐个聊连续批处理、PagedAttention（vLLM）、量化（INT8/INT4）、投机解码、FlashAttention 与并行策略，以及延迟与吞吐怎么权衡。

大模型 API 按量计费，Demo 阶段无感，一上量账单比预期来得快。一个日均万次调用的客服机器人，用旗舰模型每月能烧掉上万元，而其中一大半花得冤枉。这篇从计费模型讲起，给出模型分级路由（cascade）、Prompt 瘦身、多级缓存、输出控制、批处理、小模型微调等手段，并按投入产出比排出优化顺序，全程强调“省钱不能以效果滑坡为代价”。

缓存是高并发系统的第一道防线，但用不好会引入数据不一致、缓存穿透、击穿、雪崩等问题。本文系统梳理缓存读写策略（Cache Aside/Read/Write Through）、三大经典问题的成因与解法、热点 key、缓存与数据库一致性，以及 Redis 在生产中的实践要点。