我的随笔

tensorrt int8量化原理几点问题记录

灰太狼锅锅 2019-10-29 11:36 阅读:6021 评论:0 推荐:0 编辑

cuda Global Memory Access

灰太狼锅锅 2019-09-20 23:41 阅读:729 评论:0 推荐:0 编辑

cuda shared memory bank conflict

灰太狼锅锅 2019-09-19 18:10 阅读:2114 评论:0 推荐:1 编辑

一种简单的死锁检测算法

灰太狼锅锅 2019-09-17 22:05 阅读:5168 评论:0 推荐:0 编辑

n = 5x+2y+z，程序优化：unroll loop

灰太狼锅锅 2019-09-16 21:54 阅读:593 评论:0 推荐:0 编辑

c++ detect && solve integer overflow

灰太狼锅锅 2019-09-16 21:06 阅读:465 评论:0 推荐:0 编辑

Tensorpack.MultiProcessPrefetchData改进，实现高效的数据流水线

灰太狼锅锅 2019-08-31 20:34 阅读:1173 评论:0 推荐:0 编辑

tensorflow layout optimizer && conv autotune

灰太狼锅锅 2019-08-31 19:52 阅读:1049 评论:0 推荐:0 编辑

cuda parallel reduction with shared memory

灰太狼锅锅 2019-08-14 21:11 阅读:380 评论:0 推荐:0 编辑

Nccl allreduce && BytePS原理

灰太狼锅锅 2019-08-13 22:25 阅读:5687 评论:0 推荐:0 编辑