• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
ALi
博客园    首页    新随笔    联系   管理    订阅  订阅
关于C++变量类型精度的研究
C++中数据处理时神奇的bug

今天在练习的时候,忽然发现了一个神奇的“bug”,就是C++在进行数据精度处理的时候会有不同的结果,下面便是我做的两个小测试。

NO1.

如图,在同时使用int类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.000000。

NO.2

如图,在同时使用double类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.500000。

--------------分割线---------------

真的是很神奇,暂时还未找到原因,待解决后补充原因。

posted on 2020-02-13 14:02  ALi66  阅读(370)  评论(0)    收藏  举报
刷新页面返回顶部
博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3