SUN 12 分钟
BLOG / 766 ARTICLES
技术笔记
计算机基础、AI、后端与客户端开发笔记
AI · 154 篇文章清除筛选
7 分钟
1 分钟
3 分钟
AI
提示链模式（Prompt Chaining）
提示链模式（Prompt Chaining），又称流水线模式（Pipeline），是将复杂任务分解为多个简单子任务，每个子任务对应一次 LLM 调用，前一步的输出作为下一步的输入，依次串联执行。
9 分钟
1 分钟
6 分钟
AI
理解 triton 内核教程 3
LN 作用是减少了不同特征之间的依赖关系，可以使得模型训练更加稳定，收敛更快，并提高了模型的泛化能力。Batch Norm 和 Layer Norm 的区别一句话总结就是 bn 是切特征，ln 是切样本。
5 分钟
9 分钟
AI
反思模式（Reflection）
在前几章中，我们已经探讨了基础的智能体模式：链式执行（Chaining）、路径选择（Routing）和并行化（Parallelization）。这些模式让智能体能够更高效、更灵活地完成复杂任务。然而，即使拥有复杂的工作流，智能体的初始输出或计划也可能并不理想、准确或完整。这时，反思（Reflection）模式就发挥了作用。
4 分钟
37 分钟
AI
flashattention-1论文解读
Transformer 模型目前已经成为自然语言处理和图像分类等领域中使用最广泛的神经网络架构。虽然 Transformer 模型已经变得越来越大和深，但是处理更长的上下文依然还是有困难，最主要的原因是其核心模块-自注意力机制的时间和内存复杂度是序列长度的二次方。一个重要的问题是，让注意力更快、内存效率更高是否可以帮助 Transformer 模型解决长序列
9 分钟