第一部分：大模型基础（所有公司必问）

这份资料结合200+份真实面经（阿里飞猪、AI应用开发、Agent/RAG方向）以及当前大厂真实招聘趋势，把 AI开发工程师 / AI应用工程师 / Agent工程师 / LLM工程师 面试题整理成题库。

阿里系：喜欢项目深挖、指标、业务价值
字节系：喜欢系统设计、工程优化、性能指标
腾讯系：喜欢稳定性、架构、容灾
百度系：喜欢RAG、搜索、检索原理
美团系：喜欢高并发、推荐、业务落地
蚂蚁系：喜欢Agent、工作流、可观测性
DeepSeek/AI创业公司：喜欢实战、模型选型、成本控制

以上大厂面试风格纯属个人瞎总结请各位大佬路过不要锤我，严肃正文请往下看——

本资料食用指南：

我知道网上每天都有无数新鲜出炉的小伙伴们分享的面经，但是碎片化的问题归根到底还是同样的出题思路。与其分散精力给零零散散的面经帖子，不如抓到这一类岗位的出题本质。本资料拒绝长篇大论，给你一年都看不完的饿资料有什么用呢，我们的目的是一小时速成（临阵磨枪不快也光），所以本资料浓缩了所有核心考点，集百家之长，让你事半功倍。

再退一万步说，最差的结果不过是被拷打的面红耳赤支支吾吾，但是了解出题人的思路之后，你就算顺着思路，用上资料里的语料，继续胡说八道的聊下去，也可能会扭转乾坤，毕竟面试官的目的不是证明你是个菜鸟，而是想找到一个发掘你的闪光点的机会！！

第一部分：大模型基础（所有公司必问）

模型基础

GPT和传统NLP模型有什么区别

问题1：GPT和BERT最大的区别是什么？

答案：BERT是双向编码器，擅长理解；GPT是单向解码器，擅长生成。

问题2：为什么GPT能够完成多种任务？

答案：通过大规模预训练学习通用语言能力，无需针对每个任务单独训练模型。

问题3：传统NLP为什么依赖特征工程？

答案：传统模型无法自动学习高层语义，需要人工设计词频、TF-IDF等特征。

问题4：GPT相比传统机器学习优势是什么？

答案：具备上下文理解能力和知识泛化能力，不依赖规则系统。

问题5：为什么大模型能实现零样本学习？

答案：预训练阶段已经学习到大量语言模式和任务模式。

Transformer为什么能取代RNN

问题1：RNN最大的缺陷是什么？

答案：长距离依赖难学习，存在梯度消失和梯度爆炸问题。

问题2：Transformer如何解决长依赖问题？

答案：通过Self-Attention直接建立任意位置之间的联系。

问题3：为什么Transformer训练更快？

答案：支持并行计算，而RNN必须按时间步顺序计算。

问题4：为什么Transformer更适合大模型？

答案：扩展性强，容易堆叠大量层和参数。

问题5：Transformer有没有缺点？

答案：Attention复杂度是O(n²)，长文本计算成本较高。

Attention机制原理

问题1：Attention解决了什么问题？

答案：让模型能够动态关注输入中最重要的信息。

问题2：Q、K、V分别是什么？

答案：Q表示查询，K表示键，V表示值。

问题3：Attention分数如何计算？

答案：通过Q和K的相似度计算权重。

问题4：为什么需要Softmax？

答案：将权重归一化为概率分布。

问题5：Multi-Head Attention有什么作用？

答案：从多个角度学习不同语义关系。

KV Cache是什么

问题1：KV Cache缓存的是什么？

答案：缓存Attention中的Key和Value。

问题2：为什么需要KV Cache？

答案：避免每次生成新Token时重复计算历史Token。

问题3：KV Cache存储在哪里？

答案：主要存储在GPU显存中。

问题4：KV Cache什么时候失效？

答案：会话结束或上下文被清空时。

问题5：长上下文为什么占显存？

答案：历史Token越多，KV Cache越大。

为什么KV Cache可以加速推理

问题1：没有KV Cache会发生什么？

答案：每生成一个Token都需要重新计算全部历史Token。

问题2：KV Cache节省了哪些计算？

答案：历史Token的Attention计算。

问题3：KV Cache对生成速度影响有多大？

答案：长文本场景下通常可提升数倍速度。

问题4：KV Cache是否影响模型效果？

答案：不影响结果，只优化计算过程。

问题5：为什么KV Cache主要用于推理？

答案：训练阶段需要反向传播，无法直接使用缓存机制。

RoPE位置编码原理

问题1：为什么需要位置编码？

答案：Transformer本身无法感知Token顺序。

问题2：RoPE和绝对位置编码有什么区别？

答案：RoPE编码相对位置信息而非固定位置。

问题3：RoPE如何实现位置感知？

答案：通过向量旋转引入位置信息。

问题4：RoPE为什么适合长上下文？

答案：具有较好的长度外推能力。

问题5：为什么Llama和Qwen采用RoPE？

答案：效果好且实现简单，适合大规模训练。

MoE模型为什么更便宜

问题1：MoE全称是什么？

答案：Mixture of Experts，专家混合模型。

问题2：MoE为什么节省计算？

答案：每次只激活少量专家，而不是全部参数。

问题3：671B参数为什么不等于671B计算量？

答案：实际推理只使用部分专家参数。

问题4：MoE如何选择专家？

答案：通过Router网络动态路由。

问题5：MoE最大的挑战是什么？

答案：专家负载均衡问题。

DeepSeek MoE有什么特点

问题1：DeepSeek为什么采用MoE架构？

答案：提高模型容量同时降低推理成本。

问题2：DeepSeek-R1最大的特点是什么？

答案：强化推理能力和长链思维能力。

问题3：DeepSeek如何减少专家浪费？

答案：采用更细粒度专家划分。

问题4：DeepSeek为什么推理成本低？

答案：激活参数远小于总参数量。

问题5：DeepSeek适合哪些场景？

答案：代码生成、数学推理、复杂Agent任务。

推理模型和聊天模型区别

问题1：什么是推理模型？

答案：专门强化逻辑推导和复杂问题求解能力的模型。

问题2：什么是聊天模型？

答案：强调自然对话、交互体验和响应速度的模型。

问题3：推理模型为什么更慢？

答案：会生成更多中间推理步骤。

问题4：聊天模型为什么响应更快？

答案：更关注用户体验和生成效率。

问题5：什么时候选择推理模型？

答案：数学、代码、规划、多步骤决策等复杂任务。

Token相关

Token如何计算

问题1：什么是Token？

答案：Token是模型处理文本的最小单位，不一定等于一个单词或一个汉字。

问题2：一个汉字通常占多少Token？

答案：大部分中文汉字约占1个Token。

问题3：英文单词一定对应1个Token吗？

答案：不是，长单词可能被拆分成多个Token。

问题4：如何估算Token数量？

答案：中文约1字≈1Token，英文约1单词≈1.3Token。

问题5：为什么要关注Token数量？

答案：直接影响模型成本、延迟和上下文长度。

中文和英文Token差异

问题1：中文和英文哪个更省Token？

答案：中文通常更省Token。

问题2：为什么英文Token更多？

答案：英文单词会被拆分成多个子词Token。

问题3：1000字中文和1000词英文哪个Token更多？

答案：1000词英文通常更多。

问题4：同样内容中英文成本一样吗？

答案：一般中文更便宜。

问题5：RAG场景下中文有什么优势？

答案：同样上下文窗口可容纳更多信息。

Prompt为什么贵

问题1：Prompt为什么会产生费用？

答案：模型需要对输入Token进行计算。

问题2：Prompt长度和费用什么关系？

答案：Prompt越长，成本越高。

问题3：系统Prompt会收费吗？

答案：会，所有输入Token都会计费。

问题4：Few-shot为什么贵？

答案：示例会增加大量输入Token。

问题5：RAG为什么容易增加成本？

答案：召回文档会显著增加上下文长度。

长上下文为什么贵

问题1：长上下文为什么计算量大？

答案：Attention计算复杂度接近O(n²)。

问题2：上下文翻倍，成本翻倍吗？

答案：通常增长速度高于线性增长。

问题3：长上下文对显存有什么影响？

答案：KV Cache占用显著增加。

问题4：为什么128K窗口比8K窗口贵很多？

答案：需要处理更多Token和更大的缓存。

问题5：长上下文会影响速度吗？

答案：会，TTFT和生成速度都会下降。

如何降低Token成本

问题1：最直接的降本方式是什么？

答案：缩短Prompt长度。

问题2：RAG如何减少Token？

答案：优化召回数量和Chunk大小。

问题3：为什么要做Context Compression？

答案：保留关键信息，减少无效Token。

问题4：模型路由如何降本？

答案：简单问题使用小模型。

问题5：Prompt模板如何优化？

答案：删除重复描述和冗余规则。

如果公司每天100万请求，如何节省30%成本？

问题1：第一步会优化什么？

答案：分析Token消耗分布，定位成本最高场景。

问题2：如何通过模型路由降本？

答案：80%简单请求走小模型，仅复杂问题走大模型。

问题3：RAG如何降本？

答案：Top10召回改为Top3+Rerank。

问题4：缓存能节省多少成本？

答案：热门问题命中率高时可减少20%以上请求。

问题5：如果必须实现30%降本，你会怎么做？

答案：模型路由+Prompt压缩+RAG优化+缓存四种方案组合。

面试高频追问：成本优化案例

问题1：100万请求每天，成本最高来自哪里？

答案：大模型调用和长上下文RAG。

问题2：为什么小模型路由最有效？

答案：大部分请求并不需要最强模型。

问题3：如何评估优化效果？

答案：统计单次请求平均Token成本。

问题4：优化后准确率下降怎么办？

答案：增加兜底策略和升级路由机制。

问题5：如果老板要求成本减半怎么办？

答案：缓存优先、小模型优先、检索优先、生成最后。

幻觉

为什么会产生幻觉

问题1：什么是大模型幻觉？

答案：模型生成了看似合理但实际错误或不存在的信息。

问题2：为什么LLM会产生幻觉？

答案：本质是预测下一个Token，而不是查询事实数据库。

问题3：训练数据会导致幻觉吗？

答案：会，数据缺失、错误或覆盖不足都会导致幻觉。

问题4：为什么知识截止后容易幻觉？

答案：模型无法获取训练后发生的新信息。

问题5：温度参数为什么影响幻觉？

答案：温度越高，随机性越强，幻觉概率通常越高。

为什么会产生幻觉（进阶追问）

问题1：模型明明不知道为什么还会回答？

答案：模型倾向于完成用户请求，而不是主动承认不知道。

问题2：幻觉和推理错误一样吗？

答案：不一样，幻觉是事实错误，推理错误是逻辑错误。

问题3：参数越大幻觉越少吗？

答案：通常更少，但无法彻底消除。

问题4：Agent场景为什么也有幻觉？

答案：规划、工具选择和结果总结阶段都可能出现幻觉。

问题5：微调能解决幻觉吗？

答案：只能缓解，无法根治。

RAG为什么能降低幻觉

问题1：RAG的核心思想是什么？

答案：用外部知识替代模型记忆。

问题2：为什么知识库比模型参数可靠？

答案：知识库内容可更新、可追溯、可验证。

问题3：RAG如何降低幻觉？

答案：回答时引用检索到的真实文档。

问题4：RAG是否能完全消除幻觉？

答案：不能，只能显著降低。

问题5：为什么RAG适合企业知识库？

答案：企业知识通常不在模型训练数据中。

RAG为什么能降低幻觉（进阶追问）

问题1：RAG失败时为什么仍然幻觉？

答案：召回内容错误或未召回相关内容。

问题2：检索不到资料怎么办？

答案：让模型返回“不知道”而不是自由生成。

问题3：Rerank为什么能降低幻觉？

答案：提高上下文相关性。

问题4：Hybrid Search为什么有帮助？

答案：同时利用关键词匹配和语义匹配。

问题5：GraphRAG为什么进一步降低幻觉？

答案：能够利用实体关系进行更准确推理。

幻觉如何评估

问题1：什么是幻觉评测？

答案：衡量回答与真实事实是否一致。

问题2：最简单的评测方法是什么？

答案：人工标注正确与错误。

问题3：Faithfulness指标衡量什么？

答案：回答是否忠于提供的上下文。

问题4：Answer Correctness衡量什么？

答案：最终答案是否正确。

问题5：为什么仅看BLEU不够？

答案：文字相似不代表事实正确。

幻觉如何评估（进阶追问）

问题1：RAG场景最常用什么指标？

答案：Faithfulness、Groundedness、Answer Correctness。

问题2：如何自动评测幻觉？

答案：利用LLM-as-a-Judge进行评分。

问题3：什么是Groundedness？

答案：答案是否能在检索内容中找到依据。

问题4：什么是Citation Accuracy？

答案：引用内容是否真实存在。

问题5：企业知识库如何构建评测集？

答案：人工构造问题和标准答案对。

线上如何检测幻觉

问题1：线上为什么需要检测幻觉？

答案：避免错误信息直接暴露给用户。

问题2：最常见检测方法是什么？

答案：答案与检索内容进行一致性校验。

问题3：如何利用LLM检测幻觉？

答案：让第二个模型判断回答是否有依据。

问题4：引用机制为什么重要？

答案：便于追溯答案来源。

问题5：高风险行业如何处理？

答案：增加人工审核或规则审核。

线上如何检测幻觉（工程实践）

问题1：如何在RAG系统中检测幻觉？

答案：检查答案是否引用召回Chunk内容。

问题2：如何给答案打可信度分数？

答案：结合检索分数和模型评分。

问题3：如果检测到幻觉怎么办？

答案：降级为“未找到相关信息”。

问题4：Agent如何检测工具返回结果是否被篡改？

答案：校验工具原始输出和最终回答一致性。

问题5：真实项目如何监控幻觉率？

答案：抽样评测、用户反馈和LLM自动审核结合。

大厂高频追问

问题1：RAG为什么不能彻底解决幻觉？

答案：检索、重排、生成任一环节出错都会产生幻觉。

问题2：如何让模型学会说“不知道”？

答案：Prompt约束+置信度阈值控制。

问题3：幻觉率和召回率哪个更重要？

答案：高风险业务优先控制幻觉率。

问题4：金融和医疗场景如何处理幻觉？

答案：必须引入审核链路和证据引用。

问题5：如果老板要求将幻觉率降低50%，你会怎么做？

答案：优化召回质量、增加Rerank、引用约束、答案验证、多模型审核。

第二部分：Prompt Engineering

Prompt设计

一个Prompt优化流程

问题1：Prompt优化的第一步是什么？

答案：明确任务目标和评估指标。

问题2：Prompt优化前为什么要建立Baseline？

答案：方便量化优化效果。

问题3：Prompt优化通常从哪些方面入手？

答案：角色、任务描述、约束条件、输出格式。

问题4：为什么要加入示例？

答案：减少模型理解偏差。

问题5：如何验证Prompt是否有效？

答案：通过测试集评估准确率和稳定性。

一个Prompt优化流程（进阶追问）

问题1：线上Prompt优化流程是什么？

答案：Baseline→分析错误→修改Prompt→A/B测试→上线。

问题2：Prompt优化和微调怎么选择？

答案：优先Prompt优化，成本更低。

问题3：Prompt变长一定更好吗？

答案：不一定，冗余信息可能降低效果。

问题4：Prompt优化最常见错误是什么？

答案：目标不明确。

问题5：如何持续优化Prompt？

答案：结合用户反馈和错误案例迭代。

Few-shot作用

问题1：什么是Few-shot Prompt？

答案：在Prompt中提供少量示例。

问题2：Few-shot为什么有效？

答案：帮助模型学习任务模式。

问题3：Few-shot适用于哪些场景？

答案：分类、抽取、格式化输出。

问题4：Few-shot和Fine-tuning区别是什么？

答案：Few-shot无需训练模型。

问题5：Few-shot数量越多越好吗？

答案：不一定，过多会增加成本和干扰。

Few-shot作用（进阶追问）

问题1：什么时候使用Few-shot？

答案：模型理解任务不准确时。

问题2：Few-shot如何选择样本？

答案：选择具有代表性的案例。

问题3：为什么样本质量比数量重要？

答案：模型会模仿示例模式。

问题4：RAG场景需要Few-shot吗？

答案：通常需要提升回答格式稳定性。

问题5：Few-shot最大的缺点是什么？

答案：增加Token成本。

CoT作用

问题1：CoT是什么？

答案：Chain of Thought，链式思维。

问题2：CoT解决什么问题？

答案：提升复杂推理能力。

问题3：CoT为什么有效？

答案：把复杂问题拆成多个步骤。

问题4：哪些场景适合CoT？

答案：数学、代码、逻辑推理。

问题5：CoT会增加成本吗？

答案：会增加输出Token数量。

CoT作用（进阶追问）

问题1：经典CoT提示词是什么？

答案：Let's think step by step。

问题2：CoT和普通Prompt区别是什么？

答案：显式要求推理过程。

问题3：CoT一定提高准确率吗？

答案：简单任务未必有效。

问题4：为什么推理模型更擅长CoT？

答案：训练时强化了推理轨迹。

问题5：CoT的缺点是什么？

答案：推理变慢、Token增加。

ReAct作用

问题1：ReAct是什么？

答案：Reasoning + Acting。

问题2：ReAct解决什么问题？

答案：让模型边思考边调用工具。

问题3：ReAct的核心流程是什么？

答案：Thought→Action→Observation。

问题4：为什么Agent普遍采用ReAct？

答案：适合动态决策场景。

问题5：ReAct和CoT区别是什么？

答案：CoT只推理，ReAct会执行动作。

ReAct作用（进阶追问）

问题1：Action通常是什么？

答案：搜索、数据库查询、API调用。

问题2：Observation是什么？

答案：工具返回结果。

问题3：为什么ReAct能减少幻觉？

答案：依赖真实工具结果而非模型记忆。

问题4：ReAct有什么缺点？

答案：延迟较高。

问题5：Agent死循环和ReAct有关吗？

答案：可能，因为模型持续产生Action。

Self-Reflection作用

问题1：Self-Reflection是什么？

答案：模型自我检查和修正答案。

问题2：为什么需要Self-Reflection？

答案：发现推理错误和遗漏。

问题3：典型流程是什么？

答案：生成答案→评估答案→修正答案。

问题4：适用于哪些场景？

答案：代码、数学、复杂推理。

问题5：Self-Reflection会提高准确率吗？

答案：通常会，但增加成本。

Self-Reflection作用（进阶追问）

问题1：Self-Reflection和ReAct区别是什么？

答案：ReAct关注行动，Reflection关注检查。

问题2：Reflection如何实现？

答案：二次Prompt审查第一次结果。

问题3：为什么推理模型常使用Reflection？

答案：能提升最终答案质量。

问题4：Reflection一定有效吗？

答案：不一定，可能重复错误。

问题5：Agent系统如何应用Reflection？

答案：增加Reviewer Agent进行结果审查。

大厂高频追问

问题1：Few-shot、CoT、ReAct、Reflection怎么选择？

答案：简单任务Few-shot，复杂推理CoT，工具调用ReAct，质量提升Reflection。

问题2：Agent系统最常用哪个？

答案：ReAct + Reflection组合。

问题3：哪种方法成本最高？

答案：Reflection通常最高，因为需要多轮推理。

问题4：如何兼顾效果和成本？

答案：简单任务不启用CoT和Reflection。

问题5：设计企业Agent时推荐什么流程？

答案：Prompt→ReAct→Tool→Reflection→Output。

结构化输出

JSON输出失败怎么办

问题1：为什么LLM会输出非法JSON？

答案：模型本质是在生成文本，不是真正执行JSON序列化。

问题2：最常见的JSON错误有哪些？

答案：缺失括号、缺失引号、尾部逗号、多余解释文本。

问题3：发现JSON解析失败怎么办？

答案：进入自动修复流程重新解析。

问题4：生产环境直接解析LLM输出安全吗？

答案：不安全，必须做校验。

问题5：如何降低JSON失败率？

答案：使用结构化输出和Schema约束。

JSON输出失败怎么办（进阶追问）

问题1：如何检测JSON是否合法？

答案：使用JSON Parser解析。

问题2：解析失败后第一步做什么？

答案：记录原始输出并进入修复流程。

问题3：修复失败怎么办？

答案：重新请求模型生成。

问题4：为什么不能依赖Prompt保证JSON正确？

答案：Prompt只能提高概率，无法保证100%。

问题5：线上如何监控JSON失败率？

答案：统计Parser异常次数。

如何保证100%合法JSON

问题1：Prompt要求输出JSON能保证100%吗？

答案：不能。

问题2：目前最可靠的方法是什么？

答案：Structured Output或Function Calling。

问题3：什么是JSON Schema？

答案：定义字段类型和结构规范。

问题4：Schema有什么作用？

答案：限制模型输出符合指定格式。

问题5：为什么Function Calling成功率更高？

答案：底层由模型生成结构化参数而非自由文本。

如何保证100%合法JSON（进阶追问）

问题1：OpenAI Structured Output解决了什么问题？

答案：保证输出符合Schema。

问题2：为什么Function Calling适合Agent？

答案：天然适配工具调用参数。

问题3：Schema中可以限制字段类型吗？

答案：可以限制string、number、array等类型。

问题4：Schema中可以设置必填项吗？

答案：可以使用required字段。

问题5：Schema错误怎么办？

答案：模型会重新生成符合Schema的数据。

如果LLM返回缺失括号怎么办

问题1：如何发现缺失括号？

答案：JSON解析器报错。

问题2：最简单修复方案是什么？

答案：自动补全括号并重新解析。

问题3：自动修复有哪些工具？

答案：json_repair、jsonfix等库。

问题4：修复后还需要校验吗？

答案：需要再次验证Schema。

问题5：修复失败怎么办？

答案：重新调用模型生成。

如果返回

{
"name":"Tom"

缺失括号怎么办

问题1：如何处理这种情况？

答案：尝试自动补齐右花括号。

问题2：为什么这种错误很常见？

答案：输出被截断或生成提前结束。

问题3：线上推荐怎么做？

答案：Parser → Repair → Validate。

问题4：Repair成功后直接使用吗？

答案：先进行Schema校验。

问题5：如果Repair失败怎么办？

答案：触发Retry重新生成。

大厂高频追问

问题1：如何设计稳定的结构化输出链路？

答案：Function Calling + Schema + 校验。

问题2：Function Calling能100%保证正确吗？

答案：接近100%，但仍需服务端校验。

问题3：为什么很多Agent框架会有Output Parser？

答案：专门处理结构化输出问题。

问题4：LangChain中Output Parser作用是什么？

答案：解析并校验模型输出。

问题5：生产环境最佳实践是什么？

答案：Schema约束 → Parser校验 → Repair修复 → Retry重试。

项目拷打题（阿里/字节/蚂蚁高频）

问题1：你们Agent的JSON成功率是多少？

答案：通常目标在99%以上。

问题2：剩余1%怎么处理？

答案：自动修复和重试机制。

问题3：为什么不用正则解析？

答案：复杂结构容易失效。

问题4：Function Calling和Prompt输出JSON哪个好？

答案：Function Calling更稳定。

问题5：如果老板要求100%成功率怎么办？

答案：Schema约束、Repair机制、重试机制、多层校验结合实现。

第三部分：RAG（高频）

基础

标准RAG流程

用户问题
 ↓
Embedding
 ↓
向量检索
 ↓
Rerank
 ↓
LLM

Chunk为什么重要

问题1：什么是Chunk？

答案：将长文档切分成适合检索的小文本块。

问题2：为什么RAG不能直接检索整篇文档？

答案：文档过长会降低检索精度和效率。

问题3：Chunk对RAG效果影响大吗？

答案：非常大，往往比模型选择更重要。

问题4：Chunk切分不好会出现什么问题？

答案：召回不到正确内容或召回无关内容。

问题5：Chunk的核心目标是什么？

答案：保证语义完整且方便检索。

Chunk大小如何选择

问题1：Chunk越大越好吗？

答案：不是，过大会引入噪声。

问题2：Chunk越小越好吗？

答案：不是，过小会丢失上下文。

问题3：常见Chunk大小是多少？

答案：300~1000 Token。

问题4：技术文档推荐多大Chunk？

答案：500~1000 Token。

问题5：问答知识库推荐多大Chunk？

答案：200~500 Token。

overlap如何设计

问题1：什么是Overlap？

答案：相邻Chunk之间的重叠内容。

问题2：为什么需要Overlap？

答案：避免重要信息被切断。

问题3：Overlap一般设置多少？

答案：Chunk大小的10%~20%。

问题4：Overlap越大越好吗？

答案：不是，会增加存储和检索冗余。

问题5：Overlap为0有什么风险？

答案：跨Chunk的信息可能丢失。

Chunk为什么重要（进阶）

问题1：Chunk影响Embedding效果吗？

答案：会直接影响向量表达质量。

问题2：Chunk影响召回率吗？

答案：影响非常明显。

问题3：Chunk影响Rerank效果吗？

答案：会，错误Chunk难以被正确排序。

问题4：GraphRAG还需要Chunk吗？

答案：仍然需要作为基础知识单元。

问题5：Chunk优化通常能提升什么指标？

答案：Recall和Answer Accuracy。

Chunk大小如何选择（进阶）

问题1：如何确定最佳Chunk大小？

答案：通过离线评测实验。

问题2：法律文档适合大Chunk还是小Chunk？

答案：较大Chunk。

问题3：FAQ文档适合大Chunk还是小Chunk？

答案：较小Chunk。

问题4：表格内容如何切Chunk？

答案：按行、列或逻辑区域切分。

问题5：图片OCR内容如何切Chunk？

答案：按段落和版面结构切分。

overlap如何设计（进阶）

问题1：Overlap影响召回率吗？

答案：通常能提高召回率。

问题2：Overlap会增加成本吗？

答案：会增加Embedding和存储成本。

问题3：为什么很多项目设置50 Token Overlap？

答案：兼顾效果和成本。

问题4：技术文档Overlap建议多少？

答案：50~150 Token。

问题5：如何验证Overlap是否合理？

答案：比较Recall和最终问答准确率。

项目实战高频题

问题1：你们项目Chunk大小设置多少？

答案：通常500~800 Token。

问题2：为什么不用固定100 Token？

答案：上下文容易丢失。

问题3：为什么不用2000 Token？

答案：语义噪声过大。

问题4：Overlap一般设置多少？

答案：50~100 Token。

问题5：Chunk优化后提升了什么？

答案：提升召回率和问答准确率。

Embedding

BGE和OpenAI Embedding区别

问题1：BGE和OpenAI Embedding最大的区别是什么？

答案：BGE通常本地部署，OpenAI Embedding通过API调用。

问题2：哪个中文效果更好？

答案：BGE系列通常对中文优化更好。

问题3：哪个部署成本更低？

答案：BGE本地部署长期成本更低。

问题4：哪个维护更简单？

答案：OpenAI Embedding更简单，无需运维。

问题5：企业知识库更常用哪个？

答案：私有化场景更常使用BGE。

BGE和OpenAI Embedding区别

问题1：BGE适合哪些场景？

答案：中文RAG、企业私有知识库。

问题2：OpenAI Embedding适合哪些场景？

答案：快速开发和全球化应用。

问题3：BGE是否支持离线部署？

答案：支持。

问题4：OpenAI Embedding需要联网吗？

答案：需要调用云端API。

问题5：向量维度一定相同吗？

答案：不一定，不同模型维度不同。

BGE和OpenAI Embedding区别

问题1：BGE为什么在国内很流行？

答案：中文能力强且开源。

问题2：OpenAI Embedding优势是什么？

答案：泛化能力强，效果稳定。

问题3：Embedding效果只看模型吗？

答案：还与Chunk和数据质量有关。

问题4：两者都能用于Milvus吗？

答案：都可以。

问题5：两者都支持RAG吗？

答案：都支持。

如何选Embedding模型

问题1：选Embedding首先看什么？

答案：业务语言和数据类型。

问题2：中文知识库优先考虑什么？

答案：中文Embedding模型。

问题3：英文知识库优先考虑什么？

答案：国际通用Embedding模型。

问题4：企业内部知识库看什么指标？

答案：召回率和准确率。

问题5：预算有限如何选择？

答案：优先开源Embedding模型。

如何选Embedding模型

问题1：Embedding维度越大越好吗？

答案：不一定。

问题2：为什么维度过大不好？

答案：存储和检索成本增加。

问题3：选择Embedding要看哪些因素？

答案：效果、成本、延迟、部署方式。

问题4：RAG场景最关注什么？

答案：召回效果。

问题5：什么时候需要微调Embedding？

答案：领域数据特殊时。

如何选Embedding模型

问题1：法律知识库适合什么Embedding？

答案：法律领域优化模型。

问题2：医疗知识库适合什么Embedding？

答案：医疗领域Embedding。

问题3：代码知识库适合什么Embedding？

答案：Code Embedding模型。

问题4：多语言知识库怎么办？

答案：选择Multilingual Embedding。

问题5：企业选型通常怎么做？

答案：离线评测多个模型。

如何评估Embedding

问题1：Embedding评估核心目标是什么？

答案：检索相关内容。

问题2：最常见评测指标是什么？

答案：Recall。

问题3：Recall代表什么？

答案：正确答案被召回的比例。

问题4：为什么Recall重要？

答案：召回不到后续无法回答。

问题5：Embedding评测需要测试集吗？

答案：需要。

如何评估Embedding

问题1：MRR是什么？

答案：平均倒数排名。

问题2：MRR衡量什么？

答案：正确答案出现的位置。

问题3：NDCG是什么？

答案：排序质量指标。

问题4：NDCG越高说明什么？

答案：相关内容排名越靠前。

问题5：为什么不能只看Recall？

答案：排序质量同样重要。

如何评估Embedding

问题1：线上如何评估Embedding？

答案：监控检索成功率。

问题2：用户反馈能评估Embedding吗？

答案：可以。

问题3：RAG问答准确率能反映Embedding效果吗？

答案：能部分反映。

问题4：Embedding评测一定需要LLM吗？

答案：不需要。

问题5：离线评测和线上评测哪个重要？

答案：都重要。

项目实战高频题

问题1：你们项目用什么Embedding？

答案：BGE-M3或同类模型。

问题2：为什么选这个模型？

答案：中文效果好，成本低。

问题3：如何验证Embedding效果？

答案：构建问答测试集评测Recall。

问题4：Recall低怎么办？

答案：优化Chunk、Embedding或Query Rewrite。

问题5：Embedding优化后看什么指标？

答案：Recall、MRR和最终问答准确率。

向量数据库

Milvus原理

问题：Milvus是什么类型的数据库？

答案：是专门用于向量相似度搜索的数据库系统。

问题：Milvus的核心索引类型有哪些？

答案：常见有IVF、HNSW、DiskANN等。

问题：Milvus如何加速检索？

答案：通过向量索引和分片并行查询提升速度。

问题：Milvus支持哪些存储模式？

答案：支持内存索引和磁盘持久化存储。

问题：Milvus的查询流程是怎样的？

答案：先向量编码，再索引召回，最后精排返回结果。

FAISS原理

问题：FAISS是什么？

答案：是Facebook开源的高效向量检索库。

问题：FAISS核心优化点是什么？

答案：利用量化和索引结构减少计算量。

问题：FAISS有哪些常见索引？

答案：IVF、PQ、HNSW等。

问题：FAISS适合什么场景？

答案：适合大规模相似度搜索和推荐系统。

问题：FAISS为什么快？

答案：通过压缩向量和近似搜索减少计算复杂度。

Elasticsearch和Milvus区别

问题：ES和Milvus主要区别是什么？

答案：ES偏文本检索，Milvus偏向量检索。

问题：ES能做向量搜索吗？

答案：可以但性能和专用向量库有差距。

问题：Milvus适合什么数据？

答案：高维向量数据如Embedding结果。

问题：ES的优势是什么？

答案：强大的全文检索和结构化查询能力。

问题：为什么要用Milvus替代ES做向量检索？

答案：因为Milvus在大规模向量相似度计算上更高效。

pgvector为什么火

问题：pgvector是什么？

答案：是PostgreSQL的向量扩展插件。

问题：pgvector为什么受欢迎？

答案：可以在关系型数据库中直接做向量搜索。

问题：pgvector适合什么场景？

答案：中小规模RAG和混合检索系统。

问题：pgvector相比Milvus优势是什么？

答案：部署简单且与SQL生态无缝集成。

问题：pgvector的局限是什么？

答案：在超大规模向量检索性能上不如专业向量数据库。

检索优化

召回率低怎么排查

问题：召回率低第一步应该检查什么？

答案：先检查chunk切分是否合理。

问题：Embedding可能导致召回低的原因是什么？

答案：模型能力不足或领域不匹配。

问题：Query问题如何影响召回？

答案：query太短或语义不清导致匹配失败。

问题：如何判断是rerank导致召回低？

答案：初筛结果有但最终排序过滤过多。

问题：排查顺序一般是什么？

答案：chunk→embedding→query→rerank逐层排查。

Hybrid Search

问题：什么是Hybrid Search？

答案：向量检索和关键词检索结合的方式。

问题：为什么要结合BM25？

答案：补充关键词精确匹配能力。

问题：纯向量检索的问题是什么？

答案：容易忽略精确词匹配信息。

问题：BM25的优势是什么？

答案：对关键词和专有名词匹配更准确。

问题：Hybrid Search适合什么场景？

答案：企业知识库和复杂查询场景。

Query Rewrite

问题：Query Rewrite的作用是什么？

答案：把用户问题改写成更标准的检索语句。

问题：为什么原始query效果不好？

答案：用户表达通常不完整或口语化。

问题：Query Rewrite如何提升召回？

答案：增加语义完整性和关键信息。

问题：例子中为什么要改写“那个项目怎么样”？

答案：补充“企业知识库项目”具体语境。

问题：Query Rewrite通常由什么实现？

答案：用LLM进行语义扩展和重写。

高级RAG

GraphRAG原理

问题：GraphRAG的核心思想是什么？

答案：用知识图谱增强RAG的检索结构化能力。

问题：GraphRAG相比传统RAG有什么改进？

答案：利用图结构表达实体关系提升推理能力。

问题：GraphRAG如何构建知识？

答案：从文本中抽取实体和关系构建图谱。

问题：GraphRAG检索流程是什么？

答案：先图谱检索相关子图，再结合文本生成。

问题：GraphRAG适合什么场景？

答案：复杂关系推理和多跳问答任务。

LightRAG原理

问题：LightRAG的核心目标是什么？

答案：降低RAG系统复杂度和成本。

问题：LightRAG和标准RAG区别是什么？

答案：减少复杂索引和多阶段检索流程。

问题：LightRAG如何提升效率？

答案：简化检索链路并减少模型调用次数。

问题：LightRAG适合什么场景？

答案：轻量知识问答和小型应用。

问题：LightRAG的主要优化点是什么？

答案：减少计算和存储开销。

HippoRAG原理

问题：HippoRAG的核心思想是什么？

答案：结合记忆机制增强长程依赖检索。

问题：HippoRAG如何模拟记忆？

答案：通过持久化记忆结构存储知识片段。

问题：HippoRAG相比RAG改进点是什么？

答案：增强跨文档关联和长期记忆能力。

问题：HippoRAG适合什么任务？

答案：需要多轮推理和长期记忆的问答。

问题：HippoRAG的关键组件是什么？

答案：记忆模块+检索模块+生成模块。

RAPTOR原理

问题：RAPTOR的核心思想是什么？

答案：通过树状结构组织文档提升检索效率。

问题：RAPTOR如何处理长文档？

答案：分层聚合形成摘要树结构。

问题：RAPTOR相比普通RAG优势是什么？

答案：支持层级语义检索而不是扁平chunk。

问题：RAPTOR检索流程是什么？

答案：从高层摘要逐步定位到具体内容。

问题：RAPTOR适合什么场景？

答案：长文档问答和结构化知识检索。

Agentic RAG原理

问题：Agentic RAG是什么？

答案：引入Agent进行动态检索和决策的RAG。

问题：Agent在RAG中起什么作用？

答案：决定何时检索、检索什么和如何使用结果。

问题：Agentic RAG和传统RAG区别？

答案：传统是固定流程，Agentic是动态规划流程。

问题：Agentic RAG如何提升效果？

答案：通过多步推理和工具调用优化结果。

问题：适合什么场景？

答案：复杂任务、多轮推理和工具增强问答。

RAG评测

如何构造测试集

问题：测试集构造第一步是什么？

答案：明确业务问题和查询类型分布。

问题：测试集来源有哪些？

答案：真实日志、人工构造和公开数据集。

问题：如何保证测试集覆盖性？

答案：覆盖不同难度、领域和问法。

问题：为什么要做负样本？

答案：用于测试系统误召回能力。

问题：测试集大小如何确定？

答案：根据业务复杂度和评估稳定性决定。

Recall怎么测

问题：Recall的定义是什么？

答案：正确结果被召回的比例。

问题：Recall如何计算？

答案：召回的相关结果数除以总相关结果数。

问题：RAG中Recall指什么？

答案：正确chunk或文档被检索出来的比例。

问题：Recall低说明什么问题？

答案：检索阶段漏掉了正确内容。

问题：如何提升Recall？

答案：优化embedding、chunk和检索策略。

Chunk保留率怎么测

问题：Chunk保留率指什么？

答案：原文信息在chunk中被保留的比例。

问题：为什么要测chunk保留率？

答案：避免切分导致语义丢失。

问题：如何评估chunk保留率？

答案：对比chunk与原文信息覆盖度。

问题：chunk太小会有什么问题？

答案：语义不完整导致信息丢失。

问题：chunk太大会有什么问题？

答案：降低检索精度和召回效率。

Context Compression如何评估

问题：Context Compression是什么？

答案：对检索内容进行压缩后再输入模型。

问题：评估压缩效果看什么指标？

答案：任务效果和信息保留率。

问题：压缩过度会有什么问题？

答案：关键信息丢失导致回答错误。

问题：如何做自动化评估？

答案：对比压缩前后回答准确率。

问题：常见压缩方法有哪些？

答案：摘要、过滤和重排序。

第四部分：Agent（当前最热门）

Agent基础

Agent和Workflow区别

问题：Agent和Workflow本质区别是什么？

答案：Workflow是固定流程，Agent是动态决策流程。

问题：Workflow的特点是什么？

答案：步骤预定义、执行路径固定。

问题：Agent的核心特点是什么？

答案：根据环境和结果自主规划下一步。

问题：什么时候更适合用Workflow？

答案：任务流程清晰且不需要推理时。

问题：什么时候更适合用Agent？

答案：任务复杂且需要动态决策时。

Agent和ChatBot区别

问题：Agent和ChatBot最大区别是什么？

答案：ChatBot只对话，Agent能执行任务。

问题：ChatBot的能力边界是什么？

答案：主要是文本生成和问答。

问题：Agent多了什么能力？

答案：工具调用和环境交互能力。

问题：ChatBot能替代Agent吗？

答案：不能，缺少执行和规划能力。

问题：Agent典型应用是什么？

答案：自动化工作流和复杂任务处理。

Agent为什么需要Tool

问题：Agent为什么必须用Tool？

答案：用来扩展模型能力边界。

问题：Tool在Agent中作用是什么？

答案：执行外部操作如搜索、计算、调用API。

问题：没有Tool会怎样？

答案：只能生成文本，无法完成实际任务。

问题：Tool如何提升Agent能力？

答案：把推理结果转化为真实动作。

问题：常见Tool有哪些？

答案：搜索、数据库、代码执行和API调用。

Agent Loop是什么

问题：Agent Loop是什么？

答案：Agent不断思考-行动-观察的循环。

问题：Loop的基本结构是什么？

答案：Think→Act→Observe→Update。

问题：为什么需要Loop机制？

答案：支持多步推理和任务迭代。

问题：Loop中最关键环节是什么？

答案：Observation反馈更新决策。

问题：Loop有什么风险？

答案：可能陷入无限循环或错误路径。

ReAct

问题：ReAct是什么范式？

答案：结合推理（Reasoning）和行动（Acting）的Agent方法。

问题：ReAct的基本流程是什么？

答案：Thought→Action→Observation循环执行。

问题：Thought在ReAct中作用是什么？

答案：用于规划下一步推理与行动。

问题：Observation在ReAct中作用是什么？

答案：反馈外部执行结果用于更新推理。

问题：为什么ReAct有效？

答案：把推理过程显式化并结合真实反馈，减少幻觉。

Agent Memory

短期记忆设计

问题：短期记忆主要存什么内容？

答案：当前对话上下文和最近交互信息。

问题：短期记忆的核心特点是什么？

答案：容量有限且时效性强。

问题：短期记忆一般怎么实现？

答案：用窗口缓存或session上下文。

问题：短期记忆会存多久？

答案：通常只覆盖当前会话周期。

问题：短期记忆的主要作用是什么？

答案：保证对话连贯性和上下文一致性。

长期记忆设计

问题：长期记忆存储什么内容？

答案：用户偏好、历史行为和重要事实。

问题：长期记忆和短期记忆区别是什么？

答案：长期记忆跨会话保存，短期只在当前会话。

问题：长期记忆一般存在哪？

答案：向量数据库或结构化存储系统。

问题：长期记忆如何更新？

答案：通过增量写入或摘要合并更新。

问题：长期记忆的核心价值是什么？

答案：实现个性化和持续学习能力。

用户画像设计

问题：用户画像是什么？

答案：对用户特征和行为的结构化描述。

问题：用户画像通常包含哪些维度？

答案：兴趣、偏好、历史行为和标签。

问题：用户画像如何生成？

答案：从交互数据和行为日志中抽取。

问题：用户画像有什么作用？

答案：用于个性化推荐和回答优化。

问题：用户画像如何更新？

答案：基于新行为持续动态更新。

Memory如何检索

问题：Memory检索的核心目标是什么？

答案：找到与当前问题最相关的历史信息。

问题：常见检索方式有哪些？

答案：向量检索和关键词检索。

问题：为什么需要语义检索？

答案：因为用户表达和记忆内容不完全一致。

问题：如何提升Memory检索准确率？

答案：优化embedding和增加重排序机制。

问题：检索结果如何使用？

答案：拼接进上下文供模型生成回答。

MCP

MCP是什么

问题：MCP是什么？

答案：Model Context Protocol，用于标准化模型与外部工具交互。

问题：MCP解决什么问题？

答案：统一不同工具和模型之间的接口协议。

问题：MCP核心思想是什么？

答案：用标准协议连接模型、工具和数据源。

问题：MCP和传统API调用区别是什么？

答案：MCP是协议层抽象，API是具体接口实现。

问题：MCP主要应用在哪？

答案：Agent工具调用和多系统集成场景。

MCP和Function Calling区别

问题：MCP和Function Calling本质区别是什么？

答案：Function Calling是模型能力，MCP是系统级协议。

问题：Function Calling依赖什么？

答案：依赖单一模型的函数定义格式。

问题：MCP的优势是什么？

答案：支持多工具、多服务统一接入。

问题：Function Calling有什么局限？

答案：绑定模型厂商，扩展性较弱。

问题：MCP更适合什么场景？

答案：复杂Agent系统和企业级工具集成。

MCP Server架构

问题：MCP Server是什么？

答案：提供工具能力并遵循MCP协议的服务端。

问题：MCP Server主要职责是什么？

答案：暴露工具、管理上下文和处理请求。

问题：MCP架构包含哪些部分？

答案：Client、Server和Context三部分。

问题：Server如何扩展能力？

答案：通过注册更多工具接口。

问题：MCP Server的关键设计点是什么？

答案：低耦合、可扩展和统一协议。

MCP安全问题

问题：MCP可能存在哪些安全风险？

答案：工具滥用和数据泄露风险。

问题：如何防止工具被滥用？

答案：做权限控制和调用白名单。

问题：MCP中数据泄露怎么发生？

答案：上下文或工具返回敏感信息被外泄。

问题：如何提升MCP安全性？

答案：加密传输和访问控制机制。

问题：MCP安全设计核心原则是什么？

答案：最小权限和可审计性。

Multi-Agent

为什么需要多Agent

问题：为什么单Agent不够用？

答案：任务复杂时容易推理局限和能力瓶颈。

问题：多Agent的核心优势是什么？

答案：分工协作提升整体解决复杂问题能力。

问题：多Agent适合什么任务？

答案：需要多角色、多步骤协作的复杂任务。

问题：多Agent如何提升可靠性？

答案：不同Agent交叉验证减少单点错误。

问题：多Agent的主要代价是什么？

答案：通信成本和系统复杂度显著增加。

Coordinator模式

问题：Coordinator模式是什么？

答案：由中心调度Agent统一管理其他子Agent。

问题：Coordinator的核心职责是什么？

答案：任务分发、结果汇总和流程控制。

问题：Coordinator模式有什么优点？

答案：结构清晰，易于控制整体流程。

问题：Coordinator模式的瓶颈是什么？

答案：中心节点容易成为性能和故障瓶颈。

问题：适合什么场景使用Coordinator？

答案：流程明确但需要多模块协作的系统。

Planner模式

问题：Planner模式是什么？

答案：先制定任务计划再逐步执行的Agent模式。

问题：Planner的关键步骤是什么？

答案：任务分解、步骤规划和执行调度。

问题：Planner模式优势是什么？

答案：提高任务结构化和执行可控性。

问题：Planner可能出现什么问题？

答案：计划不准确导致执行偏差。

问题：Planner适合什么任务？

答案：多步骤推理和复杂工作流任务。

Blackboard模式

问题：Blackboard模式是什么？

答案：多个Agent共享一个公共信息空间协作。

问题：Blackboard的核心机制是什么？

答案：通过共享黑板不断写入和读取信息。

问题：这种模式优势是什么？

答案：支持异步协作和信息解耦。

问题：Blackboard模式有什么缺点？

答案：信息冲突和一致性管理复杂。

问题：适合什么场景？

答案：开放式问题求解和多源信息融合。

Graph模式

问题：Graph模式是什么？

答案：用图结构组织Agent之间的协作关系。

问题：Graph模式核心特点是什么？

答案：节点表示Agent，边表示依赖或通信。

问题：Graph模式优势是什么？

答案：灵活表达复杂依赖和执行路径。

问题：Graph模式和Coordinator区别是什么？

答案：Graph是去中心化结构，Coordinator是中心化。

问题：Graph模式适合什么场景？

答案：复杂流程编排和动态任务调度系统。

Agent故障

Agent陷入死循环怎么办

问题：Agent死循环的本质原因是什么？

答案：策略没有收敛条件或反馈不明确。

问题：如何检测死循环？

答案：监控重复状态或重复Action序列。

问题：常见解决方法是什么？

答案：设置最大step或终止条件。

问题：如何避免重复思考？

答案：引入状态记忆或去重机制。

问题：ReAct中如何防止循环？

答案：限制Thought-Action-Observation最大轮数。

Tool调用失败怎么办

问题：Tool调用失败常见原因是什么？

答案：接口错误、参数不匹配或权限不足。

问题：如何处理Tool失败？

答案：进行重试或切换备用Tool。

问题：如何避免参数错误？

答案：增加schema校验和提示约束。

问题：Tool不可用怎么办？

答案：降级到纯LLM推理模式。

问题：如何提升Tool稳定性？

答案：增加超时、重试和熔断机制。

Agent超时怎么办

问题：Agent超时的主要原因是什么？

答案：步骤过多或工具响应慢。

问题：如何控制超时风险？

答案：设置整体和子步骤超时限制。

问题：超时后应该怎么处理？

答案：返回部分结果或中断任务。

问题：如何优化Agent执行速度？

答案：减少调用链和并行执行任务。

问题：Tool慢导致超时怎么办？

答案：使用缓存或异步调用优化。

如何限制调用次数

问题：为什么要限制调用次数？

答案：防止资源浪费和无限循环。

问题：常见限制方式有哪些？

答案：最大step数或API调用次数限制。

问题：如何实现硬限制？

答案：在执行层设置计数器强制终止。

问题：软限制和硬限制区别是什么？

答案：软限制提示，硬限制直接中断。

问题：如何动态调整调用次数？

答案：根据任务复杂度自适应调整上限。

第五部分：AI Coding Agent

阿里、蚂蚁、字节极爱问

Cursor原理

问题：Cursor的核心定位是什么？

答案：AI增强的代码编辑器。

问题：Cursor如何理解代码上下文？

答案：通过索引整个项目并构建上下文窗口。

问题：Cursor和普通IDE区别是什么？

答案：内置LLM辅助代码生成与修改。

问题：Cursor如何提升代码补全？

答案：结合语义检索和大模型生成。

问题：Cursor适合什么场景？

答案：日常开发和快速代码重构。

Claude Code原理

问题：Claude Code是什么？

答案：基于Claude模型的代码生成与执行工具。

问题：Claude Code核心能力是什么？

答案：理解需求并生成可执行代码。

问题：Claude Code如何处理复杂任务？

答案：通过多步推理分解任务。

问题：它和普通Copilot区别是什么？

答案：更强的规划和长上下文能力。

问题：Claude Code适合什么场景？

答案：自动化编程和脚本生成。

Devin原理

问题：Devin是什么？

答案：AI软件工程Agent，可以独立完成开发任务。

问题：Devin的核心能力是什么？

答案：规划、编码、调试和部署全流程执行。

问题：Devin和普通代码助手区别？

答案：Devin是自主Agent而非辅助工具。

问题：Devin如何完成任务？

答案：通过多步Agent循环执行开发流程。

问题：Devin适合什么任务？

答案：完整项目开发和工程自动化。

OpenHands原理

问题：OpenHands是什么？

答案：开源AI软件开发Agent框架。

问题：OpenHands核心特点是什么？

答案：支持多工具调用和任务自动执行。

问题：OpenHands如何工作？

答案：通过Agent循环进行规划和执行。

问题：它和Devin区别是什么？

答案：OpenHands是开源框架，Devin是商业产品。

问题：OpenHands适合什么场景？

答案：构建自定义软件工程Agent系统。

Coding Agent架构

任务理解
 ↓
规划
 ↓
代码生成
 ↓
运行
 ↓
修复
 ↓
提交

如何实现自动修Bug

问题：自动修Bug的第一步是什么？

答案：定位错误来源并复现问题。

问题：如何让Agent修复代码bug？

答案：结合错误日志和上下文生成修复代码。

问题：自动修Bug依赖什么能力？

答案：代码理解和调试能力。

问题：如何验证修复是否成功？

答案：运行测试用例或单元测试。

问题：常见自动修Bug策略是什么？

答案：错误驱动修复+循环验证。

如何实现代码审查

问题：AI代码审查的核心目标是什么？

答案：发现潜在bug和代码质量问题。

问题：代码审查需要哪些输入？

答案：PR代码、diff和上下文信息。

问题：AI如何判断代码质量？

答案：基于规则和大模型语义理解。

问题：代码审查常见问题类型有哪些？

答案：安全漏洞、逻辑错误和风格问题。

问题：如何提升审查准确率？

答案：结合静态分析工具和LLM。

如何实现PR生成

问题：PR生成的核心任务是什么？

答案：将代码修改自动组织成提交请求。

问题：AI如何生成PR描述？

答案：总结代码变更目的和影响。

问题：PR生成需要哪些信息？

答案：diff、commit历史和任务上下文。

问题：如何提高PR质量？

答案：规范化模板和结构化输出。

问题：PR生成的关键难点是什么？

答案：准确理解代码变更意图。

第六部分：AI系统设计

大厂最喜欢

企业知识库

设计：

上传PDF
 ↓
解析
 ↓
切块
 ↓
Embedding
 ↓
Milvus
 ↓
检索
 ↓
Rerank
 ↓
LLM

企业知识库

问题：企业知识库的核心目标是什么？

答案：实现企业文档的统一检索和问答。

问题：企业知识库一般由哪些模块组成？

答案：解析、索引、检索和生成模块。

问题：知识库为什么需要Embedding？

答案：将文本转为向量以支持语义检索。

问题：Milvus在知识库中作用是什么？

答案：存储和检索大规模向量数据。

问题：Rerank在知识库中的作用是什么？

答案：对初步召回结果进行精细排序优化。

问题：LLM在知识库系统中做什么？

答案：基于检索结果生成最终回答。

问题：文档解析的主要任务是什么？

答案：将PDF等文件转换为结构化文本。

问题：切块为什么重要？

答案：保证检索粒度和语义完整性平衡。

问题：Embedding阶段做什么？

答案：把文本转为高维语义向量。

问题：检索阶段的目标是什么？

答案：找到与问题最相关的chunk。

问题：100万文档怎么扩展知识库？

答案：分片索引+分布式向量数据库+异步索引更新。

AI客服

如何支持历史会话

问题：历史会话的核心作用是什么？

答案：保证多轮对话的上下文连续性。

问题：历史会话一般如何存储？

答案：按session或用户维度持久化存储。

问题：如何避免上下文过长？

答案：做摘要或滑动窗口截断。

问题：历史会话如何用于模型输入？

答案：拼接最近对话或检索相关片段。

问题：如何提升历史会话检索效果？

答案：结合向量检索找相关历史记录。

如何支持工单系统

问题：工单系统在Agent中作用是什么？

答案：记录和跟踪用户问题处理流程。

问题：如何自动生成工单？

答案：从用户问题中抽取关键信息创建工单。

问题：工单如何与Agent结合？

答案：Agent负责分类、补充和处理工单。

问题：工单状态有哪些？

答案：新建、处理中、已解决和关闭。

问题：如何提升工单处理效率？

答案：自动分类和优先级排序。

如何支持知识库

问题：知识库在系统中作用是什么？

答案：提供结构化和非结构化信息支持问答。

问题：如何构建知识库？

答案：文档解析、切块、Embedding和索引。

问题：知识库如何被查询？

答案：通过语义检索返回相关内容。

问题：如何保证知识库准确性？

答案：定期更新和人工校验。

问题：知识库如何优化召回？

答案：优化chunk和embedding模型。

如何支持人工转接

问题：什么情况下需要人工转接？

答案：模型无法解决或高风险问题时。

问题：如何触发人工转接？

答案：置信度低或用户主动请求时。

问题：转接时需要传递什么信息？

答案：对话历史和已执行的Agent步骤。

问题：如何保证转接体验？

答案：无缝交接上下文信息。

问题：人工转接的核心价值是什么？

答案：兜底复杂问题提升服务成功率。

AI销售

用户画像设计

问题：用户画像的核心目的是什么？

答案：刻画用户特征以支持个性化服务。

问题：用户画像通常包含哪些信息？

答案：行为、兴趣、标签和历史记录。

问题：用户画像如何生成？

答案：基于用户行为数据和统计分析。

问题：用户画像如何更新？

答案：根据新行为实时或周期性更新。

问题：用户画像有什么应用价值？

答案：用于推荐、营销和对话优化。

意向识别

问题：意向识别的目标是什么？

答案：判断用户当前的真实需求。

问题：意向识别如何实现？

答案：通过文本分类或LLM语义理解。

问题：意向识别的输入是什么？

答案：用户对话内容和历史上下文。

问题：意向识别常见类型有哪些？

答案：咨询、购买、投诉和闲聊。

问题：意向识别为什么重要？

答案：决定后续系统响应策略。

自动跟进

问题：自动跟进的作用是什么？

答案：持续推动用户完成转化或任务。

问题：自动跟进如何触发？

答案：基于用户行为或时间规则触发。

问题：跟进内容如何生成？

答案：结合用户画像和历史交互生成。

问题：如何避免打扰用户？

答案：控制频率和个性化触达时间。

问题：自动跟进常见场景是什么？

答案：销售转化、客服回访和任务提醒。

AI医疗

如何保证准确率

问题：提升系统准确率的第一步是什么？

答案：优化数据质量和检索源。

问题：RAG中影响准确率的关键环节有哪些？

答案：chunk、embedding和rerank。

问题：如何提升模型回答准确率？

答案：引入高质量上下文和约束提示。

问题：如何评估准确率？

答案：通过标准测试集对比正确率。

问题：准确率低通常说明什么问题？

答案：检索或生成阶段存在错误。

如何避免幻觉

问题：幻觉产生的主要原因是什么？

答案：模型缺乏可靠外部信息支撑。

问题：如何减少LLM幻觉？

答案：引入RAG和外部知识检索。

问题：提示词如何影响幻觉？

答案：不明确约束会导致模型自由编造。

问题：如何检测幻觉？

答案：对比答案与检索源一致性。

问题：最有效的防幻觉方法是什么？

答案：强制基于检索内容生成答案。

如何做审核机制

问题：审核机制的核心目标是什么？

答案：保证输出内容安全和准确。

问题：审核机制一般分几层？

答案：输入审核、生成审核和输出审核。

问题：如何自动审核模型输出？

答案：使用规则+模型二次评估。

问题：人工审核什么时候需要？

答案：高风险或低置信度内容时。

问题：如何提升审核效率？

答案：自动过滤+分级审核机制结合。

第七部分：模型选型（阿里特别喜欢）

为什么选Qwen

问题：为什么很多国产系统选Qwen？

答案：中文能力强且开源生态完善。

问题：Qwen相比其他模型优势是什么？

答案：性价比高且支持本地部署。

问题：Qwen适合什么场景？

答案：企业私有化和RAG系统。

问题：Qwen的主要特点是什么？

答案：多尺寸模型覆盖不同算力需求。

问题：Qwen在工程上有什么优势？

答案：推理成本低且部署灵活。

为什么选DeepSeek

问题：DeepSeek的核心优势是什么？

答案：强推理能力和高性价比。

问题：DeepSeek适合什么任务？

答案：复杂推理和代码生成任务。

问题：DeepSeek相比GPT有什么特点？

答案：成本更低且本地化部署友好。

问题：DeepSeek为什么在工程中受欢迎？

答案：性能接近GPT但成本更低。

问题：DeepSeek的短板是什么？

答案：生态和工具链不如GPT成熟。

为什么不用GPT

问题：为什么有时不用GPT？

答案：成本高且依赖外部API。

问题：GPT在企业中最大问题是什么？

答案：数据隐私和合规风险。

问题：GPT部署有什么限制？

答案：无法完全本地化部署。

问题：GPT替代方案是什么？

答案：开源模型如Qwen或DeepSeek。

问题：GPT在哪些场景仍然更优？

答案：复杂推理和多模态能力强。

为什么不用Claude

问题：Claude的主要限制是什么？

答案：可用性和API访问受限。

问题：Claude相比其他模型优势是什么？

答案：长上下文和写作能力强。

问题：为什么企业可能不用Claude？

答案：生态封闭且成本较高。

问题：Claude适合什么场景？

答案：长文档分析和内容生成。

问题：Claude的主要劣势是什么？

答案：工具集成和部署灵活性不足。

如何做模型评测

指标：

准确率
成本
延迟
稳定性

问题：模型评测的核心目标是什么？

答案：衡量模型在真实任务中的效果。

问题：常见评测维度有哪些？

答案：准确率、召回率、鲁棒性和延迟。

问题：离线评测和在线评测区别是什么？

答案：离线用固定数据集，在线用真实用户流量。

问题：如何构建评测数据集？

答案：覆盖典型场景、边界情况和负样本。

问题：RAG系统怎么评测？

答案：分别评估检索效果和生成效果。

问题：如何评估生成质量？

答案：人工评审或基于参考答案对比。

问题：如何评估检索模块？

答案：Recall@K和MRR等指标。

问题：如何避免评测偏差？

答案：保证数据多样性和随机抽样。

问题：自动评测有什么局限？

答案：难以捕捉语义正确但表达不同的答案。

问题：工业界评测重点是什么？

答案：业务指标如转化率和用户满意度。

A/B测试怎么做

问题：A/B测试的核心目的是什么？

答案：对比不同方案的效果优劣。

问题：A/B测试的基本流程是什么？

答案：分流用户→执行实验→收集数据→统计分析。

问题：如何保证A/B测试公平性？

答案：随机分流并保证样本分布一致。

问题：A/B测试常用指标有哪些？

答案：转化率、点击率和留存率。

问题：如何判断A/B测试结果是否显著？

答案：使用统计显著性检验如t检验或卡方检验。

问题：A/B测试样本量如何确定？

答案：根据置信度和最小可检测效应计算。

问题：A/B测试中常见误区是什么？

答案：样本不足或提前停止实验。

问题：如何避免实验污染？

答案：确保用户分组隔离且不交叉。

问题：A/B测试什么时候停止？

答案：达到统计显著性或预定周期结束。

问题：A/B测试在AI系统中怎么用？

答案：用于对比不同模型或Prompt效果。

模型路由怎么做

例如：

简单问题 → 8B

复杂问题 → 72B

代码问题 → Claude

推理问题 → R1

问题：模型路由的核心目标是什么？

答案：根据任务选择最合适的模型。

问题：模型路由常见方式有哪些？

答案：规则路由和模型路由两种。

问题：规则路由怎么实现？

答案：基于关键词、任务类型或成本阈值分配模型。

问题：模型路由如何用LLM实现？

答案：用分类模型或LLM判断任务复杂度。

问题：为什么需要模型路由？

答案：平衡成本、延迟和效果。

问题：简单任务为什么不用大模型？

答案：成本高且响应慢。

问题：复杂任务为什么要用大模型？

答案：需要更强推理能力。

问题：如何评估路由策略好坏？

答案：看整体成本和任务成功率。

问题：路由系统的关键挑战是什么？

答案：准确判断任务难度。

问题：工业中常见路由架构是什么？

答案：轻量模型+大模型级联结构。

第八部分：AI Infra（高级岗）

vLLM原理

PagedAttention原理

问题：PagedAttention解决什么问题？

答案：解决KV Cache显存碎片和利用率低的问题。

问题：PagedAttention核心思想是什么？

答案：像操作系统分页一样管理KV Cache。

问题：KV Cache为什么会浪费显存？

答案：连续分配导致碎片和重复预留。

问题：PagedAttention如何提升吞吐？

答案：提高显存利用率并支持更大batch。

问题：PagedAttention适合什么场景？

答案：高并发LLM推理服务。

问题：PagedAttention和传统KV Cache区别？

答案：前者是分页管理，后者是连续存储。

问题：PagedAttention的关键组件是什么？

答案：block管理和page table机制。

问题：PagedAttention对长文本有什么优化？

答案：减少显存浪费提升长上下文能力。

问题：PagedAttention为什么重要？

答案：是vLLM高性能推理的核心技术之一。

问题：PagedAttention主要收益是什么？

答案：更高吞吐和更低显存浪费。

Continuous Batching原理

问题：Continuous Batching是什么？

答案：动态将请求不断加入同一batch执行。

问题：它和传统batching区别是什么？

答案：传统是固定批次，连续批处理是流式调度。

问题：Continuous Batching解决什么问题？

答案：提升GPU利用率和吞吐效率。

问题：为什么LLM推理适合Continuous Batching？

答案：请求长度不一致且到达是异步的。

问题：如何实现Continuous Batching？

答案：按token step动态调度执行队列。

问题：Continuous Batching的难点是什么？

答案：不同请求长度同步问题。

问题：它对延迟有什么影响？

答案：通常降低平均延迟但可能增加尾延迟。

问题：与静态batch相比优势是什么？

答案：GPU利用率更高。

问题：哪些系统使用该技术？

答案：vLLM和部分推理框架。

问题：核心优化点是什么？

答案：token级调度而非request级调度。

Speculative Decoding原理

问题：Speculative Decoding是什么？

答案：用小模型先生成，大模型验证加速推理。

问题：它的核心思想是什么？

答案：用低成本预测减少大模型计算量。

问题：Speculative Decoding流程是什么？

答案：draft模型生成→target模型验证→接受或重算。

问题：为什么能加速？

答案：减少大模型逐token生成次数。

问题：如果draft错了怎么办？

答案：大模型重新生成正确token。

问题：Speculative Decoding的关键条件是什么？

答案：draft模型要足够快且较准。

问题：适合什么场景？

答案：高延迟敏感的推理服务。

问题：它会影响输出质量吗？

答案：不会，最终由大模型保证正确性。

问题：和纯小模型生成区别是什么？

答案：它是加速机制，不替代大模型。

问题：核心收益是什么？

答案：显著降低推理延迟。

Prefix Cache原理

问题：Prefix Cache是什么？

答案：缓存重复prompt前缀的计算结果。

问题：它解决什么问题？

答案：避免重复计算相同上下文。

问题：Prefix Cache缓存什么？

答案：Transformer前几层的KV Cache。

问题：适合什么场景？

答案：多轮对话和模板化请求。

问题：为什么能加速？

答案：减少重复前向计算。

问题：Prefix Cache如何命中？

答案：匹配输入prompt的前缀token。

问题：和KV Cache区别是什么？

答案：KV Cache是单请求，Prefix Cache跨请求复用。

问题：有什么限制？

答案：输入必须有相同前缀结构。

问题：如何提升命中率？

答案：标准化prompt模板。

问题：核心收益是什么？

答案：显著降低重复请求延迟和成本。

为什么推理吞吐低

GPU利用率怎么看

问题：GPU利用率指的是什么？

答案：GPU在单位时间内被计算任务占用的比例。

问题：如何查看GPU利用率？

答案：用nvidia-smi或监控系统查看utilization指标。

问题：GPU利用率低说明什么？

答案：可能是IO瓶颈或batch太小。

问题：GPU利用率高一定好吗？

答案：不一定，可能延迟或排队严重。

问题：如何提升GPU利用率？

答案：使用continuous batching和并行推理。

问题：显存利用率和计算利用率区别是什么？

答案：一个是内存占用，一个是计算核心使用率。

问题：GPU利用率和吞吐有什么关系？

答案：一般正相关但受调度影响。

问题：推理服务中GPU利用率关键影响因素是什么？

答案：batch size和请求并发度。

问题：如何判断GPU是否过载？

答案：延迟上升且队列持续堆积。

问题：生产环境合理GPU利用率是多少？

答案：通常70%~90%较合理。

TTFT是什么

问题：TTFT是什么意思？

答案：Time To First Token，生成第一个token的时间。

问题：TTFT衡量什么能力？

答案：模型响应速度和首字延迟。

问题：TTFT高说明什么问题？

答案：推理启动或prefill阶段较慢。

问题：TTFT主要受什么影响？

答案：模型大小和prompt长度。

问题：如何优化TTFT？

答案：使用KV cache和prefix cache。

问题：TTFT和TPS关系是什么？

答案：TTFT是起步速度，TPS是生成速度。

问题：TTFT在哪些场景重要？

答案：对话交互和实时系统。

问题：TTFT和流式输出关系是什么？

答案：TTFT决定是否能快速开始流式输出。

问题：TTFT是否包含生成全过程？

答案：不包含，只到第一个token生成。

问题：工业中理想TTFT是多少？

答案：通常希望在100~500ms级别。

TPS是什么

问题：TPS在LLM中是什么意思？

答案：Tokens Per Second，每秒生成token数量。

问题：TPS衡量什么能力？

答案：模型生成速度和吞吐能力。

问题：TPS高说明什么？

答案：推理效率高或batch优化好。

问题：TPS受什么影响？

答案：模型规模和硬件性能。

问题：如何提升TPS？

答案：使用batching和推理加速技术。

问题：TPS和延迟关系是什么？

答案：TPS高通常整体延迟更低。

问题：TPS和QPS区别是什么？

答案：TPS是token级，QPS是请求级。

问题：TPS在哪些场景关键？

答案：高并发推理服务。

问题：TPS是否越高越好？

答案：不一定，要平衡延迟和资源。

问题：如何监控TPS？

答案：统计单位时间生成token总量。

QPS是什么

问题：QPS是什么意思？

答案：Queries Per Second，每秒请求数。

问题：QPS衡量什么？

答案：系统并发处理能力。

问题：QPS和TPS有什么区别？

答案：QPS是请求数，TPS是token数。

问题：QPS高说明什么？

答案：系统能处理更多用户请求。

问题：如何提升QPS？

答案：优化模型、加batch和扩容GPU。

问题：QPS受什么限制？

答案：计算资源和延迟。

问题：QPS和延迟关系是什么？

答案：QPS提升通常会增加排队延迟。

问题：QPS在API系统中作用是什么？

答案：衡量服务吞吐能力指标。

问题：QPS和并发有什么关系？

答案：并发高通常能提升QPS。

问题：工业中QPS怎么看？

答案：结合SLA和延迟一起评估。

第九部分：互联网基础（阿里飞猪特别爱问）

Redis

Redis为什么快

问题：Redis为什么性能高？

答案：基于内存存储减少磁盘IO。

问题：Redis快的核心原因是什么？

答案：数据全部在内存中操作。

问题：Redis还有哪些加速因素？

答案：高效数据结构和事件驱动模型。

问题：Redis为什么适合高并发？

答案：单操作延迟极低。

问题：Redis瓶颈通常在哪里？

答案：网络和CPU单线程限制。

问题：Redis单线程为什么还快？

答案：避免线程切换和锁竞争开销。

问题：单线程模型的优势是什么？

答案：逻辑简单且无锁竞争。

问题：Redis如何处理并发请求？

答案：通过IO多路复用。

问题：Redis是不是完全单线程？

答案：核心执行单线程，IO部分多路复用。

问题：单线程不会成为瓶颈吗？

答案：不会，因为操作主要是内存计算。

Redis单线程为什么快

问题：Redis单线程的设计目标是什么？

答案：避免多线程锁竞争开销。

问题：为什么单线程还能高性能？

答案：内存操作+高效事件循环。

问题：单线程如何处理大量连接？

答案：使用epoll等IO多路复用。

问题：单线程模式的优点是什么？

答案：无锁、无上下文切换。

问题：单线程的缺点是什么？

答案：无法充分利用多核CPU。

问题：Redis如何缓解单线程瓶颈？

答案：通过集群和分片扩展。

问题：为什么Redis不采用多线程？

答案：复杂锁机制会降低性能。

问题：Redis6之后有变化吗？

答案：引入了IO多线程处理网络。

问题：单线程适合什么场景？

答案：高并发短操作场景。

问题：Redis执行瓶颈主要在哪？

答案：CPU执行命令阶段。

Redis事务原理

问题：Redis事务是什么？

答案：通过MULTI/EXEC执行的一组命令。

问题：Redis事务是否支持回滚？

答案：不支持自动回滚。

问题：事务执行流程是什么？

答案：MULTI→入队→EXEC执行。

问题：Redis事务保证什么？

答案：命令按顺序原子执行。

问题：Redis事务有什么限制？

答案：不支持复杂回滚机制。

问题：WATCH命令作用是什么？

答案：实现乐观锁机制。

问题：事务中出错会怎样？

答案：语法错误整段失败，运行错误继续执行。

问题：Redis事务是强事务吗？

答案：不是，只保证命令顺序执行。

问题：事务和Lua脚本区别是什么？

答案：Lua脚本更强原子性。

问题：Redis事务适合什么场景？

答案：简单批量操作。

Lua脚本如何保证原子性

问题：Lua脚本在Redis中的作用是什么？

答案：实现原子执行多条命令。

问题：为什么Lua是原子性的？

答案：执行期间不会被其他命令打断。

问题：Lua脚本如何执行？

答案：通过EVAL命令运行。

问题：Lua脚本和事务区别是什么？

答案：Lua是完全原子执行。

问题：Lua脚本的优势是什么？

答案：减少网络交互和保证一致性。

问题：Lua脚本是否支持回滚？

答案：不支持，但执行是整体原子。

问题：Lua脚本适合什么场景？

答案：复杂逻辑操作如计数和限流。

问题：Lua执行期间Redis状态如何？

答案：其他命令被阻塞。

问题：Lua脚本性能如何？

答案：比多次网络调用更高效。

问题：Lua为什么安全？

答案：受限环境执行，不访问外部系统。

Redis点赞系统设计

问题：点赞系统核心需求是什么？

答案：高并发写入和快速查询。

问题：Redis如何实现点赞？

答案：使用set或bitmap存储用户点赞记录。

问题：如何防止重复点赞？

答案：用set去重用户ID。

问题：点赞计数如何实现？

答案：使用INCR或独立计数器。

问题：如何设计高并发点赞？

答案：使用Redis缓存+异步落库。

问题：如何保证数据一致性？

答案：定期同步Redis到数据库。

问题：取消点赞怎么做？

答案：set删除用户ID并decr计数。

问题：如何优化热点点赞？

答案：分片计数或分桶设计。

问题：Redis点赞系统瓶颈是什么？

答案：单key热点和内存压力。

问题：工业级点赞系统怎么设计？

答案：Redis缓存+消息队列+数据库持久化。

MQ

RocketMQ和Kafka区别

问题：RocketMQ和Kafka核心设计区别是什么？

答案：RocketMQ偏业务消息，Kafka偏日志流处理。

问题：两者吞吐能力谁更强？

答案：Kafka通常吞吐更高。

问题：RocketMQ的优势是什么？

答案：支持延迟消息和事务消息。

问题：Kafka的优势是什么？

答案：高吞吐和强生态（流处理）。

问题：适用场景有什么区别？

答案：RocketMQ适合业务解耦，Kafka适合数据管道。

问题：RocketMQ消息模型是什么？

答案：基于Topic+Queue的模型。

问题：Kafka消息模型是什么？

答案：基于Partition的日志追加模型。

问题：RocketMQ如何保证顺序？

答案：同一队列单线程消费。

问题：Kafka如何保证顺序？

答案：同一Partition内有序。

问题：两者消费模式区别？

答案：RocketMQ支持Push，Kafka多为Pull。

如何保证消息不丢失

问题：消息丢失可能发生在哪些阶段？

答案：生产、存储和消费三个阶段。

问题：生产端如何防止丢失？

答案：使用同步发送和确认机制。

问题：Broker如何保证不丢失？

答案：刷盘和多副本机制。

问题：消费端如何避免丢失？

答案：消费成功后再ACK。

问题：如何处理消费失败？

答案：重试机制或死信队列。

问题：Kafka如何保证可靠性？

答案：ISR机制和ACK配置。

问题：RocketMQ如何保证可靠性？

答案：同步刷盘和多副本复制。

问题：消息丢失最常见原因是什么？

答案：消费端未正确ACK。

问题：如何做到端到端可靠？

答案：生产确认+存储冗余+消费确认。

问题：幂等性在这里有什么作用？

答案：防止重复消费导致错误。

如何实现延迟队列

问题：延迟队列是什么？

答案：消息在指定时间后才被消费。

问题：RocketMQ如何实现延迟队列？

答案：通过延迟等级实现。

问题：Kafka能直接支持延迟队列吗？

答案：不能，需要外部实现。

问题：常见延迟队列实现方式？

答案：时间轮或定时扫描。

问题：延迟队列应用场景有哪些？

答案：订单超时、定时任务。

问题：延迟队列核心问题是什么？

答案：精度和性能平衡。

问题：时间轮算法作用是什么？

答案：高效管理延迟任务。

问题：如何实现高精度延迟？

答案：结合定时器和时间轮。

问题：延迟消息是否影响吞吐？

答案：会增加调度开销。

问题：工业系统怎么实现延迟？

答案：消息队列+定时任务结合。

如何实现重试

问题：为什么需要消息重试？

答案：消费失败可能是临时性错误。

问题：重试机制怎么设计？

答案：失败后重新投递消息。

问题：RocketMQ如何实现重试？

答案：自动重试+死信队列。

问题：Kafka如何实现重试？

答案：需要业务层实现。

问题：重试次数如何控制？

答案：设置最大重试次数。

问题：如何避免无限重试？

答案：超过次数进入死信队列。

问题：重试会带来什么问题？

答案：重复消费风险。

问题：如何保证幂等性？

答案：使用唯一ID或去重表。

问题：重试间隔如何设计？

答案：指数退避策略。

问题：工业级重试机制核心是什么？

答案：可靠性+幂等性+可观测性。

视频流

B站视频流怎么实现

问题：B站视频播放整体架构是什么？

答案：上传转码+分片存储+CDN分发+播放器拉流。

问题：视频为什么要转码？

答案：适配不同码率和设备播放能力。

问题：视频是如何分发的？

答案：通过CDN节点就近分发视频分片。

问题：播放器如何播放视频？

答案：按分片顺序拉取并解码播放。

问题：为什么要做分片？

答案：提升加载速度和支持拖动播放。

问题：如何支持清晰度切换？

答案：不同码率对应不同视频流。

问题：视频存储一般怎么做？

答案：存储为切片文件在对象存储中。

问题：如何减少首屏加载时间？

答案：预加载首个分片。

问题：如何支持弹幕？

答案：独立时间轴与视频同步渲染。

问题：视频系统核心瓶颈是什么？

答案：带宽和分发能力。

HLS原理

问题：HLS是什么？

答案：基于HTTP的流媒体传输协议。

问题：HLS如何工作？

答案：将视频切成TS小片并通过m3u8索引。

问题：m3u8文件作用是什么？

答案：描述视频分片列表和播放顺序。

问题：HLS为什么适合流媒体？

答案：基于HTTP，兼容性强。

问题：HLS如何支持自适应码率？

答案：提供多种清晰度播放列表。

问题：HLS延迟高吗？

答案：传统HLS延迟较高。

问题：如何降低HLS延迟？

答案：使用LL-HLS优化。

问题：HLS和DASH区别是什么？

答案：DASH更开放标准。

问题：HLS分片一般多长？

答案：通常2~10秒。

问题：HLS适合什么场景？

答案：直播和点播。

CDN原理

问题：CDN是什么？

答案：内容分发网络，用于加速资源访问。

问题：CDN核心原理是什么？

答案：就近节点缓存内容。

问题：CDN如何提升速度？

答案：减少跨地域网络延迟。

问题：CDN缓存如何工作？

答案：边缘节点缓存源站内容。

问题：CDN命中率是什么？

答案：请求命中缓存的比例。

问题：CDN如何更新内容？

答案：通过回源刷新或失效机制。

问题：CDN适合什么内容？

答案：静态资源和视频流。

问题：CDN节点如何选择？

答案：根据用户地理位置。

问题：CDN和源站关系是什么？

答案：CDN作为加速层。

问题：CDN的瓶颈是什么？

答案：缓存一致性和成本。

断点续传实现

问题：断点续传是什么？

答案：从中断位置继续下载文件。

问题：HTTP如何支持断点续传？

答案：通过Range请求头实现。

问题：Range头作用是什么？

答案：指定下载文件的起始位置。

问题：服务端如何支持断点续传？

答案：返回206 Partial Content。

问题：断点续传适合什么场景？

答案：大文件下载和视频播放。

问题：如何记录下载进度？

答案：客户端保存已下载offset。

问题：多线程下载如何实现？

答案：分片并行下载文件。

问题：断点续传如何保证一致性？

答案：校验文件hash。

问题：CDN支持断点续传吗？

答案：大多数CDN默认支持。

问题：断点续传核心价值是什么？

答案：提升下载稳定性和效率。

高并发

秒杀系统设计

问题：秒杀系统的核心挑战是什么？

答案：高并发、库存一致性和防超卖。

问题：秒杀系统第一层优化是什么？

答案：前端限流和页面静态化。

问题：如何防止超卖？

答案：Redis原子扣减库存或分布式锁。

问题：秒杀系统如何削峰？

答案：消息队列异步处理请求。

问题：数据库在秒杀中作用是什么？

答案：最终持久化库存和订单。

问题：如何避免瞬时流量压垮系统？

答案：缓存+队列+异步写库。

问题：秒杀系统关键瓶颈是什么？

答案：数据库写入能力。

问题：如何保证公平性？

答案：排队或随机分配机制。

问题：如何提高吞吐？

答案：预扣库存+异步下单。

问题：秒杀系统核心架构是什么？

答案：前端限流+Redis缓存+MQ削峰+DB落库。

限流实现

问题：限流的目的是什么？

答案：控制系统流量防止过载。

问题：常见限流算法有哪些？

答案：令牌桶、漏桶和计数器。

问题：令牌桶原理是什么？

答案：按固定速率生成令牌。

问题：漏桶原理是什么？

答案：以固定速率处理请求。

问题：计数器限流怎么实现？

答案：单位时间内请求数限制。

问题：限流一般在哪一层实现？

答案：网关或应用层。

问题：如何实现分布式限流？

答案：使用Redis计数或令牌桶。

问题：限流和降级区别是什么？

答案：限流是拒绝请求，降级是返回简化结果。

问题：如何避免误伤正常用户？

答案：动态调整阈值。

问题：限流核心指标是什么？

答案：QPS和并发数。

熔断实现

问题：熔断机制是什么？

答案：服务异常时自动切断请求。

问题：熔断的核心目的是什么？

答案：防止故障扩散。

问题：熔断有哪三种状态？

答案：关闭、打开和半开。

问题：半开状态作用是什么？

答案：尝试恢复服务。

问题：熔断触发条件是什么？

答案：错误率或超时率过高。

问题：熔断和限流区别是什么？

答案：熔断针对服务异常，限流针对流量过大。

问题：熔断如何恢复？

答案：定期探测恢复能力。

问题：熔断一般在哪实现？

答案：服务调用端或网关。

问题：熔断带来的副作用是什么？

答案：可能降低系统可用性。

问题：常见熔断框架有哪些？

答案：Hystrix、Resilience4j。

降级实现

问题：降级是什么？

答案：在系统压力大时返回简化结果。

问题：降级和熔断区别是什么？

答案：熔断是切断调用，降级是简化服务。

问题：降级常见策略有哪些？

答案：返回缓存或默认值。

问题：为什么需要降级？

答案：保证核心服务可用性。

问题：降级一般在哪实现？

答案：网关或服务层。

问题：降级如何触发？

答案：系统负载过高或依赖失败。

问题：降级对用户体验影响是什么？

答案：功能减少但服务不中断。

问题：如何设计优雅降级？

答案：分级服务优先级。

问题：降级和限流关系是什么？

答案：限流是控制输入，降级是控制输出。

问题：工业中常见降级方式？

答案：缓存兜底和静态页面返回。

第十部分：项目深挖（阿里P6/P7最喜欢）

如果你项目写：

AI知识库

问题：AI知识库的核心链路是什么？

答案：文档处理→切块→向量化→检索→重排→生成。

问题：知识库系统最关键的指标是什么？

答案：Recall、延迟和QPS。

问题：知识库为什么要用RAG？

答案：避免模型幻觉并引入外部知识。

问题：知识库效果主要受什么影响？

答案：chunk质量、embedding和rerank效果。

问题：知识库系统瓶颈一般在哪？

答案：检索延迟和向量查询性能。

问题：Chunk怎么切最合理？

答案：按语义分段，控制长度在200~500 tokens。

问题：Chunk太大会有什么问题？

答案：语义混杂，检索不精准。

问题：Chunk太小有什么问题？

答案：信息不完整，召回困难。

问题：Chunk切分常见方法有哪些？

答案：按段落、滑窗和语义切分。

问题：Chunk切分优化目标是什么？

答案：保证语义完整和可检索性平衡。

问题：Recall多少算合格？

答案：一般RAG场景要求80%~95%。

问题：Recall低说明什么？

答案：检索阶段漏掉相关chunk。

问题：如何提升Recall？

答案：优化embedding和增加topK。

问题：Recall和Precision关系是什么？

答案：Recall高可能降低Precision。

问题：Recall评估怎么做？

答案：用标注数据计算命中率。

问题：Rerank一般取多少？

答案：通常从top50缩到top5~10。

问题：Rerank的作用是什么？

答案：提升最终结果相关性排序。

问题：Rerank模型输入是什么？

答案：query+候选chunk对。

问题：Rerank为什么重要？

答案：解决向量检索粗排问题。

问题：Rerank会影响延迟吗？

答案：会增加计算开销。

问题：知识库系统延迟一般多少合适？

答案：一般控制在1~3秒内。

问题：延迟主要来自哪里？

答案：embedding和向量检索。

问题：如何降低延迟？

答案：缓存+ANN索引优化。

问题：生成阶段会影响延迟吗？

答案：会，占比通常最大。

问题：如何优化整体链路延迟？

答案：并行检索+提前embedding。

问题：知识库QPS一般多少？

答案：取决于业务，常见100~1000+。

问题：QPS瓶颈在哪里？

答案：向量数据库和LLM调用。

问题：如何提升QPS？

答案：水平扩展和缓存热点查询。

问题：QPS和延迟关系是什么？

答案：QPS提高通常会增加排队延迟。

问题：如何做高QPS设计？

答案：异步化+批处理+多实例部署。

Agent项目

会追：

为什么多Agent

问题：为什么需要多Agent架构？

答案：复杂任务需要分工协作提升整体能力。

问题：多Agent相比单Agent优势是什么？

答案：降低单模型负担并提升专精能力。

问题：多Agent如何提升准确性？

答案：通过多角色交叉验证结果。

问题：多Agent适合什么场景？

答案：复杂推理、多步骤任务和工具系统。

问题：多Agent的核心代价是什么？

答案：通信成本和系统复杂度上升。

为什么不用Workflow

问题：Workflow的核心特点是什么？

答案：流程固定，步骤预定义。

问题：Workflow为什么不适合复杂任务？

答案：无法处理动态变化和不确定性。

问题：Workflow和Agent区别是什么？

答案：Workflow是静态流程，Agent是动态决策。

问题：Workflow的优势是什么？

答案：可控性强且易于调试。

问题：什么时候适合用Workflow？

答案：流程明确且无需推理的任务。

为什么不用单Agent

问题：单Agent的主要瓶颈是什么？

答案：能力集中，容易推理偏差。

问题：单Agent为什么不够用？

答案：复杂任务需要多角色协作。

问题：单Agent在什么情况下失败？

答案：多步骤和多工具任务。

问题：单Agent和多Agent区别是什么？

答案：单点决策 vs 分布式协作。

问题：单Agent如何优化？

答案：增强工具调用和上下文管理。

Tool成功率多少

问题：Tool调用成功率一般多少？

答案：通常在80%~95%之间。

问题：Tool失败主要原因是什么？

答案：参数错误或接口不稳定。

问题：如何提升Tool成功率？

答案：加强schema校验和重试机制。

问题：Tool成功率和模型有什么关系？

答案：模型理解能力影响调用准确性。

问题：工业中如何监控Tool成功率？

答案：通过日志和调用指标统计。

Agent成功率多少

问题：Agent成功率一般多少？

答案：复杂任务通常在60%~90%。

问题：为什么Agent成功率低于Tool？

答案：涉及多步推理和不确定性。

问题：如何提升Agent成功率？

答案：引入规划、记忆和反思机制。

问题：影响Agent成功率的因素有哪些？

答案：工具质量、Prompt和任务复杂度。

问题：如何评估Agent成功率？

答案：任务完成率和最终结果正确性。

AI客服

提升多少转化率

问题：AI系统对转化率的提升范围一般是多少？

答案：通常在5%~30%之间，取决于业务成熟度。

问题：为什么转化率提升差异这么大？

答案：取决于流量质量和优化空间大小。

问题：什么场景转化率提升最明显？

答案：电商推荐和销售自动化场景。

问题：如何衡量转化率提升？

答案：对比A/B测试前后转化率差异。

问题：转化率提升的核心驱动是什么？

答案：更精准的意图识别和推荐策略。

降低多少人工成本

问题：AI系统通常能降低多少人工成本？

答案：一般可降低20%~70%的重复劳动成本。

问题：哪些环节最容易降本？

答案：客服、工单处理和内容审核。

问题：为什么AI能降低人工成本？

答案：自动化处理高频标准化任务。

问题：降本效果如何衡量？

答案：对比人力投入和处理量变化。

问题：降本的主要限制是什么？

答案：复杂问题仍需人工兜底。

如何评估效果

问题：AI系统效果评估的核心是什么？

答案：业务指标+模型指标双维度评估。

问题：常见业务指标有哪些？

答案：转化率、留存率和成本。

问题：模型指标有哪些？

答案：准确率、Recall和F1分数。

问题：如何做线上评估？

答案：通过A/B测试对比真实用户行为。

问题：如何避免评估偏差？

答案：保证样本随机性和多场景覆盖。

压箱底来了！！！

当个人经历被深度拷打时的对策

以及请开始你的模拟面试——

最后的最后，不要按技术栈背题。

请打开你的简历，按：

JD
 ↓
业务场景
 ↓
系统设计
 ↓
技术选型
 ↓
项目追问
 ↓
深度拷打

这个顺序梳理思路，因为大厂面试官基本都是这样问的。

好了你已经可以开始代入模拟面试了。想象接下来的几个岗位面试官正坐在面前，你会怎么回答——

一、阿里飞猪AI应用开发工程师

JD关键词

AI应用
Agent
旅行规划
客服
推荐系统
大模型应用

第一轮：业务理解

为什么旅游行业需要Agent？

为什么不用传统搜索？

用户输入：

"国庆去日本玩5天"

Agent怎么拆任务？

旅行规划Agent设计

画出系统图

用户
 ↓
Planner
 ↓
机票Agent
酒店Agent
签证Agent
天气Agent
 ↓
汇总
 ↓
用户

如何保证规划合理？

追问：

东京
大阪
京都

为什么这样排序？

第二轮：RAG

旅游知识库怎么做？

数据：

景点
签证
酒店
机票
攻略

Chunk怎么切？

问题：Chunk切分的核心目标是什么？

答案：在语义完整性和检索粒度之间平衡。

问题：Chunk一般多长比较合适？

答案：通常200~500 tokens效果较好。

问题：Chunk切分常见方法有哪些？

答案：按段落、滑窗和语义分块。

问题：Chunk太大有什么问题？

答案：语义混杂导致召回不精准。

问题：Chunk太小有什么问题？

答案：信息不完整导致检索失败。

攻略文档特别长怎么办？

问题：长攻略文档的核心问题是什么？

答案：信息过长导致检索效率低。

问题：如何处理超长文档？

答案：分层切块+摘要索引。

问题：长文档如何提升检索效果？

答案：引入多级索引结构。

问题：如何避免信息丢失？

答案：保留原文chunk+生成摘要chunk。

问题：长文档适合什么检索策略？

答案：RAPTOR或层级RAG结构。

图片攻略怎么处理？

问题：图片攻略如何进入知识库？

答案：通过OCR或多模态模型提取文本。

问题：图片信息如何结构化？

答案：转成文本+标签+描述。

问题：OCR有什么局限？

答案：复杂布局和低清晰度识别差。

问题：如何提升图片理解效果？

答案：使用多模态大模型（VLM）。

问题：图片和文本如何统一检索？

答案：统一转为embedding向量。

视频攻略怎么处理？

问题：视频攻略如何处理？

答案：抽帧+ASR转文本+结构化索引。

问题：视频中音频怎么利用？

答案：通过语音识别生成字幕文本。

问题：视频如何做检索？

答案：基于字幕和关键帧embedding。

问题：视频处理的核心难点是什么？

答案：多模态信息对齐困难。

问题：如何提升视频检索效果？

答案：结合文本、图像和时间轴信息。

用户问

东京适合亲子吗

如何召回？

第三轮：工程

Redis缓存设计

缓存什么？

热门路线
热门酒店
热门问题

Redis和MySQL如何一致？

问题：Redis和MySQL一致性问题的本质是什么？

答案：缓存和数据库之间存在延迟和不一致窗口。

问题：常见一致性策略有哪些？

答案：先写数据库再删缓存。

问题：为什么不能先写缓存？

答案：可能导致数据库回写覆盖新值。

问题：如何避免缓存击穿导致不一致？

答案：加锁或使用逻辑过期策略。

问题：最终一致性如何保证？

答案：通过异步补偿或定时对账。

点赞系统设计

问题：点赞系统的核心需求是什么？

答案：高并发写入和防重复点赞。

问题：如何设计点赞数据结构？

答案：使用Redis set或bitmap。

问题：点赞计数如何实现？

答案：INCR计数器或独立字段累加。

问题：如何防止重复点赞？

答案：set存用户ID做去重。

问题：数据如何落库？

答案：异步写入MySQL保证持久化。

收藏系统设计

问题：收藏系统和点赞系统区别是什么？

答案：收藏是长期行为，点赞是瞬时行为。

问题：收藏如何存储？

答案：用户-内容关系表或Redis set。

问题：如何支持快速查询收藏列表？

答案：按用户维度建立索引或缓存。

问题：如何保证收藏一致性？

答案：Redis + MySQL双写或异步同步。

问题：收藏系统的核心挑战是什么？

答案：高并发写入和查询性能平衡。

热榜系统设计

问题：热榜系统的核心目标是什么？

答案：实时计算内容热度排名。

问题：热度如何计算？

答案：点赞、评论和时间衰减加权。

问题：如何实现实时更新？

答案：使用Redis sorted set。

问题：如何避免刷榜？

答案：加权限制和风控策略。

问题：热榜系统如何扩展？

答案：分片计算+离线批处理结合。

第四轮：项目深挖

Agent成功率多少？

问题：Agent成功率一般是多少？

答案：复杂任务通常在60%~90%之间。

问题：为什么Agent成功率不高？

答案：多步推理和不确定性导致误差累积。

问题：影响Agent成功率的关键因素是什么？

答案：工具质量、规划能力和Prompt设计。

问题：如何衡量Agent成功率？

答案：任务完成率或目标达成率。

问题：如何提升Agent成功率？

答案：引入规划、记忆和反思机制。

Tool成功率多少？

问题：Tool调用成功率一般是多少？

答案：通常在80%~95%。

问题：Tool失败主要原因是什么？

答案：参数错误或接口不稳定。

问题：如何提升Tool成功率？

答案：schema校验和重试机制。

问题：Tool成功率受什么影响？

答案：模型理解能力和API稳定性。

问题：如何监控Tool成功率？

答案：统计调用成功/失败日志。

用户满意度多少？

问题：用户满意度如何衡量？

答案：通过评分、反馈或NPS指标。

问题：满意度一般提升多少算有效？

答案：通常提升5%~20%即显著。

问题：满意度受什么影响最大？

答案：回答准确性和响应速度。

问题：如何采集满意度数据？

答案：用户评分和行为反馈。

问题：如何优化满意度？

答案：提升相关性和减少错误回答。

延迟多少？

问题：AI系统延迟一般多少合理？

答案：1~3秒为常见可接受范围。

问题：延迟主要由什么组成？

答案：检索、推理和网络传输。

问题：如何降低延迟？

答案：缓存、批处理和模型优化。

问题：TTFT和延迟关系是什么？

答案：TTFT决定首字响应速度。

问题：延迟过高有什么影响？

答案：用户体验下降和转化率降低。

如何优化？

问题：优化AI系统的核心方向是什么？

答案：提升效果、降低延迟和控制成本。

问题：如何优化延迟？

答案：使用缓存和并行计算。

问题：如何优化准确率？

答案：优化RAG链路和模型质量。

问题：如何优化成本？

答案：模型路由和轻量化模型。

问题：优化系统的第一步是什么？

答案：定位瓶颈环节并做指标分析。

二、蚂蚁Agent工程师

JD关键词

Agent
MCP
Tool Calling
Workflow
Multi-Agent

第一轮

Agent和Workflow区别

问题：Agent和Workflow的本质区别是什么？

答案：Workflow是固定流程，Agent是动态决策。

问题：Workflow有什么特点？

答案：步骤预定义、执行路径固定。

问题：Agent有什么特点？

答案：根据环境反馈自主规划下一步。

问题：什么时候用Workflow更合适？

答案：流程稳定且规则明确的任务。

问题：什么时候用Agent更合适？

答案：复杂、不确定、多步骤任务。

Agent和ChatBot区别

问题：Agent和ChatBot的核心区别是什么？

答案：ChatBot只对话，Agent能执行任务。

问题：ChatBot主要能力是什么？

答案：自然语言生成和问答。

问题：Agent多了什么能力？

答案：工具调用和任务执行能力。

问题：ChatBot能替代Agent吗？

答案：不能，缺乏行动能力。

问题：Agent典型应用是什么？

答案：自动化任务和复杂流程执行。

为什么需要Agent

问题：为什么需要Agent？

答案：解决复杂任务的自动化执行问题。

问题：LLM为什么不够？

答案：只能生成文本，不能执行动作。

问题：Agent解决什么问题？

答案：推理+执行+反馈闭环问题。

问题：Agent的核心价值是什么？

答案：连接模型与真实世界工具。

问题：Agent适合什么场景？

答案：多步骤决策和工具调用任务。

MCP是什么

问题：MCP是什么？

答案：Model Context Protocol，统一模型与工具交互协议。

问题：MCP解决什么问题？

答案：标准化工具调用接口。

问题：MCP核心思想是什么？

答案：用统一协议连接模型和外部系统。

问题：MCP和API区别是什么？

答案：MCP是协议层抽象，API是具体实现。

问题：MCP适合什么场景？

答案：多工具Agent系统。

MCP和Function Calling区别

问题：MCP和Function Calling区别是什么？

答案：Function Calling是模型能力，MCP是系统协议。

问题：Function Calling依赖什么？

答案：依赖单一模型定义函数接口。

问题：MCP有什么优势？

答案：支持多工具和跨系统统一接入。

问题：Function Calling有什么局限？

答案：绑定模型厂商生态。

问题：MCP更适合什么系统？

答案：复杂多Agent工具系统。

MCP Server怎么设计

问题：MCP Server是什么？

答案：提供工具能力的标准化服务端。

问题：MCP Server核心职责是什么？

答案：工具注册、调用和上下文管理。

问题：如何设计MCP Server架构？

答案：分为工具层、协议层和执行层。

问题：如何保证扩展性？

答案：插件化工具注册机制。

问题：如何保证安全性？

答案：权限控制和调用白名单机制。

MCP安全问题

例如：

查询余额
转账

如何防越权？

第二轮

多Agent设计

设计：

财务Agent
审批Agent
风控Agent

为什么不用单Agent

问题：单Agent的核心问题是什么？

答案：能力集中，容易推理和执行瓶颈。

问题：单Agent为什么不够用？

答案：复杂任务需要多角色分工协作。

问题：单Agent在哪些任务容易失败？

答案：多步骤、多工具和长链路任务。

问题：单Agent和多Agent区别是什么？

答案：单点决策 vs 分布式协作。

问题：单Agent如何优化？

答案：增强工具调用和记忆机制。

Agent死循环怎么办

问题：Agent死循环的本质原因是什么？

答案：缺少终止条件或反馈不收敛。

问题：如何检测死循环？

答案：检测重复状态或重复Action序列。

问题：如何防止死循环？

答案：设置最大step限制或终止策略。

问题：ReAct如何避免循环？

答案：限制Thought-Action-Observation轮数。

问题：循环发生后如何处理？

答案：强制终止并返回当前最佳结果。

Agent失败怎么办

问题：Agent失败的常见原因是什么？

答案：工具失败、推理错误或信息不足。

问题：失败后第一步怎么做？

答案：分析失败步骤和日志。

问题：如何恢复失败任务？

答案：重新规划或局部重试。

问题：如何降低失败率？

答案：引入规划和反思机制。

问题：失败任务如何兜底？

答案：降级到人工或简化流程。

Agent重试机制

问题：为什么需要重试机制？

答案：临时错误或工具失败很常见。

问题：重试策略有哪些？

答案：固定重试和指数退避。

问题：如何避免无限重试？

答案：设置最大重试次数。

问题：重试在哪一层实现？

答案：工具层或Agent执行层。

问题：重试的风险是什么？

答案：重复执行导致副作用。

第三轮

长期记忆设计

问题：长期记忆的核心目标是什么？

答案：跨会话保存用户关键信息和偏好。

问题：长期记忆通常存什么？

答案：用户画像、偏好和重要历史事件。

问题：长期记忆一般存在哪里？

答案：向量数据库或结构化存储。

问题：如何决定是否写入长期记忆？

答案：基于重要性和稳定性判断。

问题：长期记忆如何更新？

答案：增量写入或摘要合并更新。

用户半年历史怎么记住？

问题：为什么不能直接存半年历史？

答案：数据量大且检索效率低。

问题：如何处理半年历史数据？

答案：摘要+分层存储+向量检索。

问题：哪些信息需要长期保存？

答案：稳定偏好和关键行为记录。

问题：如何压缩半年对话？

答案：周期性生成用户总结。

问题：半年历史如何查询？

答案：通过语义检索相关片段。

Memory怎么检索

问题：Memory检索的核心目标是什么？

答案：找到与当前问题最相关的历史信息。

问题：常见检索方式有哪些？

答案：向量检索和关键词检索。

问题：为什么要用语义检索？

答案：用户表达和历史记录不一致。

问题：如何提升检索准确率？

答案：优化embedding和rerank。

问题：检索结果如何使用？

答案：拼接进上下文供LLM使用。

Memory怎么压缩

问题：Memory压缩的目的是什么？

答案：减少存储和提升检索效率。

问题：常见压缩方法有哪些？

答案：摘要、聚类和过滤。

问题：压缩后会丢失什么？

答案：细节信息和部分上下文。

问题：如何保证压缩质量？

答案：保留关键事实和结构信息。

问题：什么时候需要压缩？

答案：记忆过长或超过窗口限制时。

Context Compression

问题：Context Compression是什么？

答案：对输入上下文进行信息压缩处理。

问题：为什么需要Context Compression？

答案：降低token成本和延迟。

问题：常见压缩方式有哪些？

答案：摘要、筛选和重写。

问题：压缩的风险是什么？

答案：关键信息丢失导致回答错误。

问题：如何评估压缩效果？

答案：对比压缩前后任务准确率。

第四轮

Agent评测体系

指标：

成功率
工具调用率
完成率
满意度

三、字节豆包AI应用工程师

JD关键词

Prompt
Agent
用户增长
A/B测试

第一轮

Prompt优化流程

问题：Prompt优化的第一步是什么？

答案：明确任务目标和输出格式。

问题：Prompt优化常见步骤有哪些？

答案：初版设计→测试→分析错误→迭代优化。

问题：如何发现Prompt问题？

答案：通过失败案例和输出偏差分析。

问题：如何提升Prompt稳定性？

答案：加入约束和示例。

问题：Prompt优化核心方法是什么？

答案：结构化表达+持续迭代。

如何提升回答准确率

问题：提升回答准确率的关键是什么？

答案：引入高质量上下文和检索信息。

问题：RAG如何提升准确率？

答案：用外部知识减少模型幻觉。

问题：Prompt如何影响准确率？

答案：清晰约束减少自由生成错误。

问题：如何减少模型胡编？

答案：强制基于证据回答。

问题：准确率优化第一步是什么？

答案：优化数据和上下文质量。

Few-shot作用

问题：Few-shot是什么？

答案：通过少量示例指导模型输出。

问题：Few-shot的核心作用是什么？

答案：让模型学习任务格式和模式。

问题：Few-shot为什么有效？

答案：提供明确的输入输出映射。

问题：Few-shot和Zero-shot区别是什么？

答案：是否提供示例。

问题：Few-shot适合什么任务？

答案：结构化输出和复杂任务。

ReAct作用

问题：ReAct是什么？

答案：结合推理和行动的Agent框架。

问题：ReAct的核心流程是什么？

答案：Thought→Action→Observation循环。

问题：ReAct解决什么问题？

答案：减少纯推理的幻觉问题。

问题：Observation有什么作用？

答案：提供外部反馈更新推理。

问题：ReAct为什么有效？

答案：引入真实环境反馈闭环。

Reflection作用

问题：Reflection是什么？

答案：模型对自身输出进行反思优化。

问题：Reflection的核心作用是什么？

答案：提升多步推理正确率。

问题：Reflection如何工作？

答案：生成答案→自我评估→修正。

问题：Reflection适合什么任务？

答案：复杂推理和长链任务。

问题：Reflection的优势是什么？

答案：减少逻辑错误和遗漏。

第二轮

A/B实验

设计：

Prompt A
Prompt B

如何评估？

指标：

点击率
点赞率
停留时长

如何收集反馈

问题：反馈收集的核心目的是什么？

答案：获取用户真实使用效果用于优化系统。

问题：常见反馈来源有哪些？

答案：用户评分、点击行为和人工标注。

问题：隐式反馈是什么？

答案：通过行为数据推断用户满意度。

问题：显式反馈是什么？

答案：用户主动评分或评价。

问题：如何提高反馈质量？

答案：减少干扰并设计简单交互方式。

如何形成数据闭环

问题：数据闭环的核心是什么？

答案：从数据采集到模型优化的持续循环。

问题：数据闭环包含哪些步骤？

答案：收集→清洗→训练→上线→反馈。

问题：为什么需要数据闭环？

答案：持续提升模型效果和适应性。

问题：闭环中的关键环节是什么？

答案：高质量反馈数据回流。

问题：如何加速数据闭环？

答案：自动标注和在线学习机制。

第三轮

用户问题分类

问题：用户问题分类的目的是什么？

答案：判断问题类型以选择合适处理策略。

问题：常见问题分类有哪些？

答案：咨询、任务型、闲聊和投诉。

问题：问题分类如何实现？

答案：用规则或分类模型/LLM判断。

问题：为什么要做问题分类？

答案：提升响应效率和准确性。

问题：分类错误会带来什么问题？

答案：导致错误的处理链路执行。

路由设计

问题：路由设计的核心目标是什么？

答案：将不同问题分配到合适的处理模块。

问题：路由常见方式有哪些？

答案：规则路由和模型路由。

问题：规则路由优缺点是什么？

答案：简单可控但泛化能力弱。

问题：模型路由有什么优势？

答案：能处理复杂语义判断。

问题：路由设计关键指标是什么？

答案：准确率和响应效率。

Agent选择

问题：Agent选择的核心是什么？

答案：根据任务选择最合适的Agent类型。

问题：如何判断用哪个Agent？

答案：基于任务复杂度和工具需求。

问题：单Agent适合什么场景？

答案：简单或线性任务。

问题：多Agent适合什么场景？

答案：复杂协作和多步骤任务。

问题：Agent选择错误会怎样？

答案：导致效率低或任务失败。

模型路由

例如：

简单问题 → 小模型

复杂问题 → 大模型

四、腾讯元宝Agent工程师

JD关键词

知识库
长期记忆
Agent
企业场景

第一轮

企业知识库设计

问题：企业知识库的核心目标是什么？

答案：统一管理企业知识并支持智能问答。

问题：知识库一般包含哪些流程？

答案：文档解析、切块、索引和检索。

问题：企业知识库如何保证可扩展性？

答案：模块化设计和分布式存储。

问题：如何保证知识库更新？

答案：增量更新和定期同步。

问题：企业知识库核心挑战是什么？

答案：数据质量和检索准确性。

RAG设计

问题：RAG的核心流程是什么？

答案：检索相关信息+生成答案。

问题：RAG由哪几部分组成？

答案：Retriever、Reranker和Generator。

问题：RAG为什么重要？

答案：减少模型幻觉并增强事实性。

问题：RAG性能瓶颈在哪里？

答案：检索延迟和embedding质量。

问题：如何优化RAG效果？

答案：优化chunk、embedding和rerank。

为什么会幻觉

问题：模型为什么会产生幻觉？

答案：缺乏真实外部约束信息。

问题：幻觉的本质是什么？

答案：基于概率生成错误但合理文本。

问题：哪些情况更容易幻觉？

答案：知识缺失或上下文不足时。

问题：模型训练如何影响幻觉？

答案：训练数据噪声会放大误导。

问题：幻觉能完全消除吗？

答案：不能，只能降低概率。

如何减少幻觉

问题：减少幻觉的核心方法是什么？

答案：引入外部知识（RAG）。

问题：Prompt如何减少幻觉？

答案：限制模型必须基于给定信息回答。

问题：检索如何帮助减少幻觉？

答案：提供事实依据约束生成。

问题：Rerank如何减少幻觉？

答案：提高上下文相关性质量。

问题：系统层如何减少幻觉？

答案：加入审核和置信度控制机制。

第二轮

长期记忆设计

问题：长期记忆的核心目标是什么？

答案：跨会话保存用户关键信息与偏好。

问题：长期记忆一般存什么？

答案：稳定事实、偏好和关键事件。

问题：长期记忆如何存储？

答案：结构化数据库+向量数据库结合。

问题：长期记忆写入原则是什么？

答案：高价值、长期稳定、可复用信息。

问题：长期记忆系统难点是什么？

答案：噪声过滤和信息冲突处理。

Memory检索

问题：Memory检索的目标是什么？

答案：找到与当前问题最相关的历史信息。

问题：常见检索方式有哪些？

答案：关键词检索和向量检索。

问题：为什么需要语义检索？

答案：用户表达与历史记录不一致。

问题：如何提升检索效果？

答案：优化embedding和rerank。

问题：检索结果如何使用？

答案：拼接到上下文供模型生成。

用户画像

问题：用户画像是什么？

答案：用户特征与行为的结构化表示。

问题：用户画像包含哪些内容？

答案：兴趣、行为、标签和偏好。

问题：用户画像如何构建？

答案：基于行为数据和统计分析。

问题：用户画像有什么作用？

答案：用于推荐、排序和个性化。

问题：用户画像如何更新？

答案：基于新行为动态更新。

Memory更新

问题：Memory更新的核心是什么？

答案：保证信息最新且一致。

问题：更新策略有哪些？

答案：覆盖更新、增量更新和合并更新。

问题：如何避免记忆冲突？

答案：引入时间戳和可信度评分。

问题：什么时候触发更新？

答案：新行为或用户反馈变化时。

问题：如何保证更新质量？

答案：过滤低价值和重复信息。

五、字节Seed / 阿里云AI Infra

JD关键词

vLLM
CUDA
推理优化
Serving
GPU

第一轮

vLLM原理

问题：vLLM的核心目标是什么？

答案：提升LLM推理吞吐和显存利用率。

问题：vLLM相比传统推理框架优势是什么？

答案：更高并发和更低显存浪费。

问题：vLLM核心优化是什么？

答案：PagedAttention和连续批处理。

问题：vLLM如何提升GPU利用率？

答案：动态调度多个请求共享计算资源。

问题：vLLM适合什么场景？

答案：高并发在线推理服务。

PagedAttention原理

问题：PagedAttention解决什么问题？

答案：KV Cache显存碎片和浪费问题。

问题：PagedAttention核心思想是什么？

答案：像操作系统分页一样管理KV Cache。

问题：KV Cache为什么浪费显存？

答案：连续分配导致碎片化。

问题：PagedAttention如何优化？

答案：按block管理KV存储。

问题：PagedAttention的收益是什么？

答案：更高显存利用率和更大batch能力。

Continuous Batching

问题：Continuous Batching是什么？

答案：动态合并不同请求进行推理。

问题：它和传统batch区别是什么？

答案：传统固定batch，CB是流式调度。

问题：Continuous Batching解决什么问题？

答案：提升GPU利用率。

问题：它的关键思想是什么？

答案：token级调度而不是请求级调度。

问题：有什么副作用？

答案：可能增加尾延迟。

Prefix Cache

问题：Prefix Cache是什么？

答案：缓存重复prompt前缀计算结果。

问题：它缓存的是什么？

答案：Transformer前向KV计算结果。

问题：为什么能加速？

答案：避免重复计算相同前缀。

问题：适合什么场景？

答案：多轮对话和模板化请求。

问题：如何提升命中率？

答案：标准化prompt结构。

Speculative Decoding

问题：Speculative Decoding是什么？

答案：用小模型先生成再由大模型验证。

问题：为什么能加速？

答案：减少大模型逐token生成次数。

问题：流程是什么？

答案：draft生成→验证→接受或重算。

问题：失败怎么办？

答案：回退到大模型重新生成。

问题：适合什么场景？

答案：低延迟推理服务。

第二轮

GPU利用率低怎么办

问题：GPU利用率低最常见原因是什么？

答案：batch太小或请求不够集中。

问题：如何提升GPU利用率？

答案：使用continuous batching和并发调度。

问题：数据加载会影响GPU利用率吗？

答案：会，IO瓶颈会导致GPU空闲。

问题：模型推理如何优化利用率？

答案：减少kernel切换和优化计算图。

问题：如何监控GPU利用率问题？

答案：用nvidia-smi和profiling工具分析。

吞吐量怎么算

问题：吞吐量在LLM中怎么定义？

答案：单位时间处理的token或请求数。

问题：吞吐量常见计算方式是什么？

答案：TPS或QPS指标。

问题：吞吐量和延迟关系是什么？

答案：吞吐提高可能增加排队延迟。

问题：如何提升吞吐量？

答案：增加batch size和并行度。

问题：吞吐量瓶颈在哪里？

答案：GPU算力和内存带宽。

TTFT是什么

问题：TTFT是什么意思？

答案：Time To First Token，首token生成时间。

问题：TTFT衡量什么？

答案：系统响应速度。

问题：TTFT由什么决定？

答案：prefill计算和网络延迟。

问题：如何优化TTFT？

答案：KV cache和prefix cache。

问题：TTFT和TPS关系是什么？

答案：TTFT是启动延迟，TPS是生成速度。

TPS是什么

问题：TPS是什么意思？

答案：Tokens Per Second，每秒生成token数。

问题：TPS衡量什么？

答案：模型生成吞吐能力。

问题：TPS受什么影响？

答案：模型大小和GPU性能。

问题：如何提升TPS？

答案：batching和推理优化。

问题：TPS和QPS区别是什么？

答案：TPS是token级，QPS是请求级。

QPS是什么

问题：QPS是什么意思？

答案：每秒处理的请求数量。

问题：QPS和TPS区别是什么？

答案：QPS是请求，TPS是token。

问题：如何提升QPS？

答案：水平扩展和负载均衡。

问题：QPS受什么限制？

答案：计算资源和延迟。

问题：QPS和并发关系是什么？

答案：并发提高通常提升QPS。

第三轮

分布式推理

问题：分布式推理的核心目标是什么？

答案：将大模型推理拆分到多设备执行。

问题：分布式推理解决什么问题？

答案：单卡显存不足和计算瓶颈。

问题：常见分布式方式有哪些？

答案：张量并行、流水并行和数据并行。

问题：分布式推理主要瓶颈是什么？

答案：通信开销和同步延迟。

问题：适合什么场景？

答案：大模型在线服务和高并发推理。

KV Cache管理

问题：KV Cache的作用是什么？

答案：存储attention计算结果加速生成。

问题：为什么需要KV Cache？

答案：避免重复计算历史token。

问题：KV Cache的主要问题是什么？

答案：显存占用过大。

问题：如何优化KV Cache？

答案：PagedAttention和压缩存储。

问题：KV Cache如何管理生命周期？

答案：按请求生成和释放。

多卡部署

问题：多卡部署的目的是什么？

答案：提升算力和扩展模型规模。

问题：多卡部署有哪些方式？

答案：模型并行和数据并行。

问题：多卡通信瓶颈是什么？

答案：GPU间数据传输延迟。

问题：如何优化多卡性能？

答案：减少通信和优化并行策略。

问题：多卡适合什么模型？

答案：大参数量Transformer模型。

Tensor Parallel

问题：Tensor Parallel是什么？

答案：将模型矩阵按维度拆分到多卡。

问题：它解决什么问题？

答案：单卡显存不足问题。

问题：通信开销在哪里？

答案：层间矩阵拼接和同步。

问题：适合什么场景？

答案：大模型推理和训练。

问题：优点是什么？

答案：并行度高、适合大模型。

Pipeline Parallel

问题：Pipeline Parallel是什么？

答案：按层切分模型分布在多卡。

问题：它和Tensor Parallel区别是什么？

答案：TP是矩阵切分，PP是层切分。

问题：Pipeline Parallel优点是什么？

答案：通信简单、易扩展。

问题：缺点是什么？

答案：存在pipeline bubble空闲。

问题：如何提升效率？

答案：micro-batch和调度优化。

六、AI知识库/RAG工程师

JD关键词

RAG
Embedding
Milvus
检索
知识库

第一轮

标准RAG流程

问题：标准RAG流程包含哪些步骤？

答案：文档处理→切块→Embedding→检索→Rerank→生成。

问题：RAG的核心目标是什么？

答案：用外部知识增强LLM回答准确性。

问题：RAG中最关键的模块是什么？

答案：检索模块（Retriever）。

问题：生成阶段的作用是什么？

答案：基于检索内容组织最终答案。

问题：RAG系统瓶颈在哪里？

答案：检索质量和延迟。

Chunk策略

问题：Chunk切分的目标是什么？

答案：保证语义完整且便于检索。

问题：常见Chunk策略有哪些？

答案：按段落、滑窗和语义切分。

问题：Chunk大小如何选择？

答案：一般200~500 tokens较合适。

问题：Chunk太大有什么问题？

答案：语义混杂导致检索不准。

问题：Chunk太小有什么问题？

答案：信息不完整导致召回困难。

overlap设计

问题：overlap的作用是什么？

答案：避免语义在切块边界丢失。

问题：overlap一般设置多少？

答案：通常10%~20% token重叠。

问题：overlap太大有什么问题？

答案：冗余增加存储和计算成本。

问题：overlap太小有什么问题？

答案：边界信息丢失。

问题：什么时候需要更大overlap？

答案：长句或复杂语义文本。

Metadata作用

问题：metadata在RAG中的作用是什么？

答案：提供结构化过滤和辅助检索信息。

问题：metadata通常包含什么？

答案：来源、时间、标签和文档类型。

问题：metadata如何提升检索效果？

答案：用于过滤和加权排序。

问题：metadata能解决什么问题？

答案：减少无关chunk干扰。

问题：metadata和embedding关系是什么？

答案：metadata是结构信息补充embedding。

第二轮

Recall低怎么办

问题：Recall低最常见原因是什么？

答案：embedding不准或chunk设计不合理。

问题：如何快速排查Recall问题？

答案：分别检查chunk、embedding和检索topK。

问题：Recall低如何优化？

答案：增加topK和优化语义切分。

问题：rerank会影响Recall吗？

答案：不会，主要影响Precision。

问题：Recall优化的第一步是什么？

答案：扩大候选召回范围。

Query Rewrite

问题：Query Rewrite的作用是什么？

答案：把用户问题改写成更标准表达。

问题：为什么需要Query Rewrite？

答案：用户表达通常不完整或模糊。

问题：Rewrite能提升什么指标？

答案：Recall和检索准确率。

问题：Rewrite常见方式有哪些？

答案：LLM改写和规则扩展。

问题：Rewrite的风险是什么？

答案：可能引入语义偏差。

Hybrid Search

问题：Hybrid Search是什么？

答案：向量检索+关键词检索结合。

问题：为什么Hybrid Search效果更好？

答案：兼顾语义和精确匹配。

问题：BM25的优势是什么？

答案：对关键词匹配非常准确。

问题：向量检索的优势是什么？

答案：语义理解能力强。

问题：Hybrid如何融合结果？

答案：加权排序或融合打分。

Rerank

问题：Rerank的作用是什么？

答案：对初步召回结果进行精排。

问题：Rerank输入是什么？

答案：query+候选文档对。

问题：Rerank能提升什么？

答案：Precision和最终答案质量。

问题：Rerank为什么重要？

答案：解决向量检索粗粒度问题。

问题：Rerank的代价是什么？

答案：额外计算延迟。

Embedding评测

问题：Embedding评测的目的是什么？

答案：衡量语义检索能力。

问题：常见评测指标有哪些？

答案：Recall@K和MRR。

问题：如何构造评测集？

答案：query+正负样本对。

问题：Embedding好坏如何判断？

答案：高Recall和低误召回。

问题：评测embedding的核心是什么？

答案：语义相似性匹配能力。

第三轮

GraphRAG

问题：GraphRAG的核心思想是什么？

答案：用知识图谱组织文档再进行检索。

问题：GraphRAG和普通RAG区别是什么？

答案：GraphRAG基于结构关系检索，RAG基于向量相似度。

问题：GraphRAG解决什么问题？

答案：多跳推理和全局知识整合。

问题：GraphRAG的关键步骤是什么？

答案：实体抽取→建图→图检索→生成。

问题：GraphRAG适合什么场景？

答案：复杂关系推理和企业知识图谱。

LightRAG

问题：LightRAG的核心特点是什么？

答案：轻量级、低成本的RAG实现。

问题：LightRAG如何提升效率？

答案：简化索引和检索流程。

问题：LightRAG适合什么场景？

答案：中小型知识库应用。

问题：LightRAG和标准RAG区别是什么？

答案：减少复杂重排和图结构依赖。

问题：LightRAG优势是什么？

答案：实现简单、延迟低。

HippoRAG

问题：HippoRAG的核心思想是什么？

答案：结合记忆机制增强检索能力。

问题：HippoRAG解决什么问题？

答案：长文本和多轮推理记忆不足。

问题：HippoRAG如何增强Recall？

答案：引入结构化记忆索引。

问题：HippoRAG特点是什么？

答案：类似人类长期记忆机制。

问题：HippoRAG适合什么场景？

答案：复杂问答和多跳推理。

RAPTOR

问题：RAPTOR是什么？

答案：基于树结构的递归聚合RAG方法。

问题：RAPTOR核心思想是什么？

答案：层级摘要+树状检索。

问题：RAPTOR解决什么问题？

答案：长文档检索效率低问题。

问题：RAPTOR和传统RAG区别是什么？

答案：多层结构而非平铺chunk。

问题：RAPTOR优势是什么？

答案：更强全局语义理解能力。

Agentic RAG

问题：Agentic RAG是什么？

答案：由Agent控制检索和推理流程的RAG。

问题：Agentic RAG和传统RAG区别是什么？

答案：动态决策 vs 固定流程。

问题：Agentic RAG核心能力是什么？

答案：自主规划检索步骤。

问题：Agentic RAG适合什么场景？

答案：复杂多步推理问题。

问题：Agentic RAG优势是什么？

答案：更强灵活性和推理能力。

七、AI全栈工程师（创业公司）

JD关键词

Agent
RAG
前端
后端
部署

从0搭一个知识库

问题：知识库系统最基础的架构是什么？

答案：文档处理→切块→向量化→检索→生成。

问题：第一步应该做什么？

答案：设计文档解析和统一数据格式。

问题：核心组件有哪些？

答案：Embedding、向量数据库和LLM。

问题：如何保证检索效果？

答案：优化chunk和rerank模型。

问题：如何上线一个知识库？

答案：API服务+向量库+模型推理服务。

从0搭一个Agent

问题：Agent系统核心组成是什么？

答案：LLM、工具调用和执行循环。

问题：Agent最小闭环是什么？

答案：思考→行动→观察循环。

问题：如何实现工具调用？

答案：Function Calling或MCP协议。

问题：如何让Agent可靠？

答案：增加规划、记忆和重试机制。

问题：Agent系统怎么落地？

答案：调度器+工具层+LLM服务。

Dify和Coze区别

问题：Dify和Coze是什么？

答案：低代码AI应用开发平台。

问题：Dify特点是什么？

答案：开源、可自部署、偏工程化。

问题：Coze特点是什么？

答案：产品化强、生态集成丰富。

问题：两者核心区别是什么？

答案：Dify偏开发者，Coze偏产品用户。

问题：适合什么人用？

答案：Dify适合工程团队，Coze适合业务团队。

LangGraph和LangChain区别

问题：LangChain是什么？

答案：构建LLM应用的基础框架。

问题：LangGraph是什么？

答案：基于图结构的Agent编排框架。

问题：两者核心区别是什么？

答案：LangChain偏线性流程，LangGraph支持状态机。

问题：LangGraph优势是什么？

答案：支持复杂多分支Agent逻辑。

问题：什么时候用LangGraph？

答案：多Agent协作和复杂流程控制。

MCP怎么接

问题：MCP是什么？

答案：统一模型与工具交互协议。

问题：MCP怎么接入系统？

答案：实现MCP Server并注册工具。

问题：客户端如何使用MCP？

答案：通过协议调用工具接口。

问题：MCP核心作用是什么？

答案：标准化工具调用方式。

问题：MCP接入难点是什么？

答案：权限管理和上下文管理。

如何部署

问题：AI系统部署核心步骤是什么？

答案：服务化、容器化和资源调度。

问题：部署时最关键问题是什么？

答案：性能和稳定性。

问题：如何保证高可用？

答案：多实例+负载均衡。

问题：如何做扩展？

答案：水平扩展和服务拆分。

问题：部署核心目标是什么？

答案：稳定、低延迟和高吞吐。

Docker

问题：Docker的作用是什么？

答案：实现应用容器化部署。

问题：Docker核心概念是什么？

答案：镜像、容器和仓库。

问题：为什么用Docker？

答案：环境一致性和快速部署。

问题：Docker如何优化部署？

答案：减少依赖冲突。

问题：Docker适合什么场景？

答案：微服务和AI服务部署。

Kubernetes

问题：Kubernetes是什么？

答案：容器编排和管理系统。

问题：K8s核心组件是什么？

答案：Pod、Service和Deployment。

问题：K8s解决什么问题？

答案：容器调度和自动扩缩容。

问题：如何保证高可用？

答案：多副本和自动恢复。

问题：K8s适合什么场景？

答案：大规模分布式系统。

Nginx

问题：Nginx的作用是什么？

答案：反向代理和负载均衡。

问题：Nginx为什么高性能？

答案：异步事件驱动模型。

问题：Nginx常用场景有哪些？

答案：API网关和静态资源服务。

问题：如何做负载均衡？

答案：轮询或权重分发。

问题：Nginx在AI系统中作用？

答案：流量入口和转发层。

Redis

问题：Redis的核心作用是什么？

答案：高速缓存和中间数据存储。

问题：Redis适合什么场景？

答案：缓存、队列和计数器。

问题：为什么Redis快？

答案：内存存储+单线程模型。

问题：Redis在知识库中作用？

答案：缓存热点检索结果。

问题：Redis核心风险是什么？

答案：数据一致性问题。

PostgreSQL

问题：PostgreSQL是什么？

答案：关系型数据库系统。

问题：PostgreSQL优势是什么？

答案：强一致性和复杂查询能力。

问题：它在AI系统中作用是什么？

答案：存储结构化数据和元信息。

问题：为什么不用NoSQL替代？

答案：复杂关系查询能力不足。

问题：PostgreSQL适合什么场景？

答案：业务数据和用户数据存储。

强化学习笔记 →上下文工程 →Mission: 掌握多模态 LoRA 与 QLoRA →