将 transformer 拓展到更长的序列是一个难点，而注意力层是是扩展到更长序列的主要瓶颈，因为随着序列长度的增加，标准注意力层的计算时间和内存占用呈二次方增长。FlashAttention 通过 Tiling 和 Recomputation 技术大幅减少了 cuda kernel 对 global memory 的访问量，显著节省了内存（线性而非二次）

#llm_note #3-llm_infer_optimize

2026.09.208 分钟

智能体记忆研究脉络

1959 年的 General Problem Solver 用状态、目标、算子和手段—目的分析组织问题求解，原始论文见 A General Problem-Solving Program for a Computer。之后的 Soar 认知架构把当前情境放入 working memory，把 if-then 产生式放入长期 procedural memor

#Agentic #上下文与记忆

2026.09.206 分钟

vit 论文速读

META 于 2020 年发表 DETR 论文，紧跟着谷歌从特征编码的角度深入研究 Transformer 在视觉表征层面的学习能力，进而提出了 Vision Transformer (ViT) 模型。模型结构比较简单，是自注意力机制和前馈网络的直接堆叠，只使用到了 Transformer 中的 encoder 结构。

#llm_note #2-transformer_model

2026.09.203 分钟

面试题：为什么大模型采用 Decoder-only 架构？

Transformer 模型最初包含 Encoder 和 Decoder 两个部分：

#llm_note #2-transformer_model

2026.09.2034 分钟

工具使用格式

你是 Cline，一位技艺高超的软件工程师，精通多种编程语言、框架、设计模式和最佳实践。

#VideoCode-main #MCP终极指南-番外篇

2026.09.203 分钟

智能体可观测性与故障归因

评测回答“系统好不好”，可观测性回答“刚才发生了什么、为什么失败”。智能体包含概率模型、动态工具和外部环境，只记录最终文本无法定位问题。

#Agentic #评测与可观测性

2026.09.205 分钟

AI MOC

Agent 设计模式与实践代码：

2026.09.2058 分钟

llm 推理揭秘论文翻译

在大型语言模型 (LLM) 高效推理领域，尽管其发展迅速且充满活力，但目前尚缺乏一个简洁的框架来分析各种 LLM 推理方法，从而清晰地理解这一领域。我们的综述区别于传统的文献回顾，不仅总结了现有研究的现状，还基于 Roofline 模型提出了一个用于系统分析 LLM 推理技术的框架。该框架能够识别在硬件设备上部署 LLM 时的瓶颈，并为诸如为什么 LLM 受

#llm_note #5-framework