2024年7月26日
浮点数
摘要： FP32： 1bit符号位，8bit指数，23bit底数位。 FP16： 1bit符号位，5bit指数，10bit底数位。 BF16： 1bit符号位，8bit指数，7bit底数位 FP16转FP32 NAN/INF：对应的FP32的值 +0/-0： +0/-0 normal：指数+0x70,底数左 阅读全文
posted @ 2024-07-26 21:17 King--jin 阅读(136) 评论(0) 推荐(0)