跳到主要内容
SUN / 笔记

BLOG / 766 ARTICLES

技术笔记

计算机基础、AI、后端与客户端开发笔记

AI · 154 篇文章清除筛选
19 分钟
AI

CUDA内存组织

前面我们学习了线程是如何在 GPU 中执行的,以及如何通过操作线程束来优化核函数性能,但是,核函数性能并不是只和线程束的执行有关,它还跟全局内存访问模式有关系。本文将剖析核函数与全局内存的联系及其对性能的影响。

7 分钟
AI

记忆管理(Memory Management)

智能体系统需要记住过往交互信息,才能完成复杂任务并提供连贯体验。没有记忆机制,智能体就是无状态的,无法保持对话上下文、学习经验或个性化响应,仅能处理简单的一问一答,无法应对多步骤流程或用户需求变化。

27 分钟
AI

llm综合分析论文翻译

语言模型(LLMs)已经彻底革新了自然语言处理领域,但其不断增长的复杂性使得在不同硬件配置下的部署和优化变得更加困难。“语言模型比较分析”项目提供了一个全面的评估框架,用于测试 LLM 在各种平台上的性能、计算效率和内存使用情况。通过比较分析预训练模型和定制模型在不同 GPU 上的表现,该项目揭示了性能特征、可扩展性以及资源利用情况。项目采用了网络分析图和

7 分钟
AI

目标设定与监控(Goal Setting & Monitoring)

要让智能体真正高效且有目标地工作,仅仅具备信息处理或工具使用能力是不够的;它们还需要明确的方向感,以及判断自己是否取得成功的方法。这正是目标设定与监控模式的核心:为智能体设定具体目标,并赋予其追踪进度、判断目标是否达成的能力。

32 分钟
AI

Roofline 论文解读

多核处理器设计的兴起,同时针对多核设计还没有统一的设计原则,这使得程序员编写高性能程序面临更加复杂的挑战,因此提出一个易于理解并能提供性能优化建议的性能模型显得尤为重要。

2 分钟
AI

RAG 专题导航

RAG 不是“向量数据库 + 大模型”的简单拼接,而是把数据治理、检索、证据组织、受证据约束的生成和持续评测组合成一套系统。

页