银河

SKYIV STUDIO

  博客园 :: 首页 :: 博问 :: 闪存 :: :: :: 订阅 订阅 :: 管理 ::
  268 随笔 :: 2 文章 :: 2606 评论 :: 48 引用

2013年2月23日

摘要:本文介绍了 decimal 数据类型的算术运算的舍入误差在特殊情况下对运算结果的巨大影响。并且在 Linux 和 Windows 中表现还不相同。最后还给出一个展现 double 数据类型的舍入误差的 C# 程序。 阅读全文
posted @ 2013-02-23 22:41 银河 阅读 (7017) 评论 (3) 编辑

摘要:本文通过构造一个 TinyDecimal 结构来讲解 decimal 的内部表示。然后给出一个展示 decimal 算术运算微妙之处的 C# 程序。该程序在 Windows 和 Linux 的表现还不相同。 阅读全文
posted @ 2013-02-23 19:28 银河 阅读 (6128) 评论 (2) 编辑