2025：RAG 与 AI Agent——从调用 API 到工程化落地

这一年发生了什么

如果说 2024 年底是 AI 敲门，2025 年就是 AI 进门坐下开始干活。这一年我深度参与了基于 LangChain4j 的企业知识库（RAG）与 AI Agent 研发——从文档解析、向量检索到对话接口、前端流式渲染，完整走了一遍AI 能力的工程化落地。

技术上的变化

1. RAG 的每一环都是工程问题

• 文档解析：PDF/Word/Excel 多格式上传，Apache Tika 提取与清洗；
• 分块策略：段落语义分割 + 滑动窗口 500–800 字，在检索精度与上下文完整性之间找平衡；
• 向量化与检索：Qwen Embedding + PostgreSQL pgvector，余弦相似度检索，Top-5 召回准确率 85%+，文档检索从人工 5 分钟降到 10 秒。

最大的领悟：RAG 效果的瓶颈 80% 不在模型，而在数据——分块切得好，比换模型管用。

2. 对话链路的可靠性设计

/chat 接口：问题 → 向量检索 → Prompt 拼接 → LLM → SSE 流式返回。System Prompt 约束回答范围 +「不知道」保护机制；Redis 管理多轮对话历史（TTL 30 分钟）。

3. AI Agent 工具编排

基于 LangChain4j @Tool 注解与 Function Calling，让 Agent 自主调用内部 API（工单分工查询、版本查询、任务进度追踪），多轮任务中动态选择工具，配合会话状态管理与失败重试/降级。上线后日均 50+ 次智能问答，信息获取效率提升 30 倍。

4. 用规则驯化 AI

熟练使用 Cursor、Claude Code、DeepSeek，并开始编写 Skills 规则文件（代码规范、安全红线、异常处理约束）来引导 AI 行为——比如资金类操作强制加锁、金额校验不可省略。AI 生成 + 人工评审后合入。

个人感悟

2025 年的工程师分两种：把 AI 当搜索引擎的，和把 AI 当需要管理的初级同事的。

前者抱怨 AI 生成的东西不能直接用，后者在写「团队规范」给 AI 看。Prompt 工程的本质不是话术，是把隐性经验显性化——而这恰恰是资深工程师最值钱的能力。

另一个感悟：AI 时代，「会问问题」重新变得比「会背答案」重要。