摘要: 加速 PyTorch 模型介绍 PyTorch 2.0 引入了一个名为*torch.compile()*的工具,可以极大地加速 PyTorch 代码和模型。通过将 PyTorch 代码转换为高度优化的内核,torch.compile 在现有代码库上进行最小化修改即可提供显著的性能提升。此功能允许精确 阅读全文
posted @ 2025-03-20 06:19 吴建明wujianming 阅读(142) 评论(0) 推荐(0)
摘要: 数据布局 3D数据的布局使得i方向上的网格点在内存中是连续的,而k方向上的栅格点则以nx*ny为步长。此映射以宏为例: #define u(i, j, k) h_u[(i) + (j) * nx + (k) * nx * ny] 其中i、j和k周围的括号确保了 等表达式的正确展开。在网格点位置应用的 阅读全文
posted @ 2025-03-20 06:12 吴建明wujianming 阅读(72) 评论(0) 推荐(0)
摘要: AMD ROCm 软件 ROCm是一个开源堆栈,主要由开源软件组成,专为图形处理单元(GPU)计算而设计。ROCm由一系列驱动程序、开发工具和API组成,使GPU编程能够从低级内核到最终用户应用程序。 使用ROCm,可以自定义GPU软件以满足特定需求。可以在免费、开源、集成和安全的软件生态系统中开发 阅读全文
posted @ 2025-03-20 06:09 吴建明wujianming 阅读(312) 评论(0) 推荐(0)
摘要: 6本书推荐《MLIR编译器原理与实践》、《ONNX人工智能技术与开发实践》、《AI芯片开发核心技术详解》、《智能汽车传感器:原理·设计·应用》、《TVM编译器原理与实践》、《LLVM编译器原理与实践》 由清华大学出版社资深编辑赵佳霓老师策划编辑的新书《MLIR编译器原理与实践》已经出版,京东、淘宝天 阅读全文
posted @ 2025-03-20 06:06 吴建明wujianming 阅读(14) 评论(0) 推荐(0)