作者： 技术觉醒

(26) 附：Tech-Renaissance V4.20 的安装运行指南

(25) 集成测试与性能密码：一个人做的框架，凭什么能比PyTorch快？

(24) NCCL通信与分布式数据并行

(23) Philox可复现随机数与确定性训练

(22) 损失函数、学习率调度与参数初始化：训练算法配置层

(21) 融合优化器：SGD、AdamW与LARS的整区批量更新

(20) CBR融合算子：Conv + BatchNorm + ReLU的三位一体

(19) AMP自动混合精度训练：FP16的速度与精度平衡

(18) CUDA Graph全捕获：把训练循环变成一次GPU提交

(17) 多流并发架构：计算流、传输流、更新流的协同

(16) DTensor：一张图纸，多卡共享的分布式张量抽象

(15) MemoryPlan与显存分区：框架的灵魂设计

(14) ComputationGraph与GraphAtlas：一份图纸，多处复用

(13) ArchPlan与编译管线：从模型定义到可执行图

(12) BluePrint DSL：用声明式语法定义神经网络

(11) FusedNormalization：把数据增强的最后一步融进一次内存遍历

(10) 多线程预处理、NUMA 感知与异步双缓冲：让 GPU 不再等待 CPU

(9) DTS数据格式：为高速训练定制的存储方案

(8) 数据加载管线：一套抽象，兼容 MNIST、CIFAR 与 ImageNet

(7) 张量、NHWC布局与256字节对齐：框架里的”砖块”

(6) Tech-Renaissance全景图：七大模块与一条样本的完整旅程

(5) 静态图 Vs 动态图：深度学习框架的两种世界观

(4) AI做深度学习框架有哪些难点？

(3) AI编程技术及原则

(2) 深度学习框架是什么？

(1) 一个人用AI如何写出比PyTorch更快的自研深度学习框架？