奇怪的精度误差
  • 板块学术版
  • 楼主__newbie__
  • 当前回复6
  • 已保存回复6
  • 发布时间2022/10/18 14:58
  • 上次更新2023/10/27 07:01:34
查看原帖
奇怪的精度误差
614884
__newbie__楼主2022/10/18 14:58

本来是这样,输出的是正确结果 138138

然而我觉得精度不够,就开了 long doublelong~double

凸(艹皿艹 ),怎么精度高了还出错了?

我干脆将2个变量都改成了 long doublelong~double

居然又好了。。。

这说明了,浮点数运算最好用 roundround 减少误差(误差一般不会太大)。

2022/10/18 14:58
加载中...