好大夫

之前有接触过rag么

完整独立开发过一套生产可用私有化 RAG 系统，全程从需求、架构、编码、优化到部署落地，仓库开源。

出现幻觉怎么去排除原因和解决
- 先分层排查根因（定位步骤）幻觉分检索层幻觉、生成层幻觉，逐层定位：
  - 检索层排查：检索结果是否无关、缺少关键原文、文档分块语义破碎；向量 / 关键词召回是否漏掉支撑答案的核心段落；重排是否过滤掉有效参考文本。
  - 生成层排查：Prompt 无事实约束、允许模型自由发挥；模型温度 temperature 过高，随机性强；上下文过长、有效参考文档被稀释；模型本身专业领域知识缺失，只能编造通顺文本；未强制要求回答必须绑定检索原文、无溯源校验。
  - 数据层排查：知识库文档存在错误、过时、矛盾内容，模型采信错误素材。
评估ai应用的指标
如何让agent回复的格式比较稳定，比如json格式很长又比较复杂，存在截断或者回复格式不对的情况
有自己开发过ai应用么
向量相似度，匹配不准，语义上召回比较差，怎么处理
现在有一批体检的数据，让分析异常指标的话，可能要获取某些医学的文献，你怎么获取？既要异常指标又要分析的依据

字节跳动

如何理解agent系统？拆解agent的核心模块

Agent = 具备感知‑思考‑决策‑工具调用‑执行‑记忆‑自我反思，可以自主朝着目标完成任务的智能体

普通大模型只是被动问答，你发问题它输出答案；
Agent 是主动干活：接收目标 → 分析需要什么信息 → 调用工具（搜索、数据库、代码、API）→ 多轮规划执行 → 复盘纠错，直到任务做完。

七大模块

任务规划模块 planning
接收用户需求，先做意图解析，识别任务约束；再将复杂任务拆解成多个可执行的子步骤，规划执行顺序,简单来讲就是 Agent 的决策者，负责制定工作计划。
记忆模块 Memory
- 短期记忆：当前轮次对话上下文，受大模型上下文窗口限制；
- 长期记忆：借助向量数据库存储历史任务经验、私有知识库，依靠 RAG 检索调用；
- 用户会话记忆，隔离不同用户的数据。
LLM 推理决策内核
属于 Agent 的思考中枢。负责判断下一步动作：是否调用工具、子任务是否完成、结果是否存在问题，承担全部逻辑推理。
工具调用模块 Tool‑Calling / Function‑Call
相当于 Agent 的手脚。
大模型知识库存在时间截断，没办法联网、操作数据库、运行代码；依靠函数调用能力，调度搜索、代码解释器、数据库、第三方 API、文件操作等外部工具获取外界信息。
执行调度器 Action Executor
负责解析大模型输出的工具参数、发起工具请求、捕获报错、处理超时、重试异常，管控串行或者并行调用多个工具，也是 LangGraph 工作流的底层核心。
自省反思模块 Reflection
是 Agent 区别于简单函数调用机器人的关键。
每一轮工具返回结果之后，校验信息是否完整、数据是否过期、答案有没有幻觉错误；如果结果不合格，就重新调整规划策略，并且把失败经验存入长期记忆，规避后续踩坑。
结果合成输出模块 Synthesizer
所有子任务全部执行完毕之后，整合全部中间推理记录、工具返回的数据，整理、归纳，按照用户指定格式输出最终结果。