2019年9月10日
Python 的整数与 Numpy 的数据溢出
摘要： 某位 A 同学发了我一张截图，问为何结果中出现了负数？ 看了图，我第一感觉就是数据溢出了。数据超出能表示的最大值，就会出现奇奇怪怪的结果。 然后，他继续发了张图，内容是 print(100000\ 208378)，就是直接打印上图的 E[0]\ G[0]，结果是 20837800000，这是个正确的 阅读全文
posted @ 2019-09-10 21:37 豌豆花下猫 阅读(2101) 评论(5) 推荐(1) 编辑