AI Infra 与工程

这里收录训练和运行大模型时真正会碰到的系统问题。

Network & Remote Development

现有内容包括浏览器请求与渲染流程、SSH、多服务器配置和远程开发环境，原始笔记位于 references/engineering/network/。

GPU Systems

GPU 专题目前与 CS336 Lecture 5 笔记联动，包含 GPU 基础、工程师视角的性能模型，以及 Attention 在 GPU 上的执行方式。

后续结构

• GPU 架构与性能模型
• Kernel 与 Attention 优化
• 数据并行、张量并行与流水线并行
• 存储、网络和集群调度
• 推理系统与服务化