2020年3月4日
浮点数计算误差
摘要： 做个笔记，几个wiki还有stackoverflow的回答串联起来理解 1) https://en.wikipedia.org/wiki/Floating-point_arithmetic#Accuracy_problems 2) https://stackoverflow.com/question 阅读全文
posted @ 2020-03-04 17:55 IT屁民 阅读(251) 评论(0) 推荐(0) 编辑