随笔分类 -  数值计算与分析

摘要:函数右边括号中的部分称为参数,假如一个函数可以使用 多个参数,那么参数与参数之间使用半角逗号进行分隔。参数 可以是常量(数字和文本)、逻辑值(例如 TRUE 或 FALSE)、数 组、错误值(例如#N/A)或单元格引用(例如 E1:H1),甚至可以 是另一个或几个函数等。参数的类型和位置必须满足函数 阅读全文
posted @ 2016-11-26 13:02 PACHEL35 阅读(1815) 评论(0) 推荐(0)
摘要:作者:何明科链接:https://zhuanlan.zhihu.com/p/23472480来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 收到不少建议,要求开知乎Live来谈谈Excel。然而考虑到知识储备有限,还是先写文章来满足大家的需求,同时从特别窄的话题开始: 阅读全文
posted @ 2016-11-23 21:34 PACHEL35 阅读(323) 评论(0) 推荐(0)
摘要:数值范围转换 243=0xF3 是在寄存器显示的值实际上这是一个负值那么真实的整数值是 0xF3-256 = 243-256=-13 算法定点化 有符号数扩展 移位先后造成比特误差精度问题 饱和问题 阅读全文
posted @ 2016-11-21 11:28 PACHEL35 阅读(428) 评论(0) 推荐(0)