会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
Mrwhite86
知行合一
博客园
首页
新随笔
联系
订阅
管理
2022年8月30日
python数据精度问题
摘要: 一、python运算时精度问题: 1.运行时精度问题在Python中(其他语言中也存在这个问题,这是计算机采用二进制导致的),有时候由于二进制和十进制之间对应问题会导致数值的精度问题,比如无法用有限个二进制位完整地表示0.1,因为0.1转化为二进制之后位一个无限循环小数 print(1.1*2.2)
阅读全文
posted @ 2022-08-30 00:31 Mrwhite86
阅读(1789)
评论(0)
推荐(0)
公告