一般编程和Java的双精度

2023年5月9日 223次阅读

据我所知,由于float / double的性质,不应该使用它们进行精确的重要计算.然而,由于类似问题的混合答案,我对它们的局限性感到有些困惑,无论浮点数和双打是否总是不准确,无论有效数字是多少,或者只是不准确到第16位数.

我在Java中运行了一些例子,

System.out.println(Double.parseDouble("999999.9999999999"); 
// this outputs correctly w/ 16 digits
System.out.println(Double.parseDouble("9.99999999999999");
// This also outputs correctly w/ 15 digits
System.out.println(Double.parseDouble("9.999999999999999");
// But this doesn't output correctly w/ 16 digits. Outputs 9.999999999999998

我找不到另一个答案的链接,该答案表明像1.98和2.02这样的值会向下舍入到2.0,因此会产生不准确,但测试显示值正确打印.所以我的第一个问题是浮点/双值是否总是不准确,或者是否存在可以确保精度的下限.

我的第二个问题是关于使用BigDecimal.我知道我应该使用BigDecimal进行精确的重要计算.因此我应该使用BigDecimal的算法进行算术和比较.但是,BigDecimal还包含一个doubleValue()方法,它将BigDecimal转换为double.我可以安全地对双值进行比较,我知道它确实少于16位数吗？根本不会对它们进行算术运算,因此固有值不应该改变.

例如,我可以安全地执行以下操作吗？

BigDecimal myDecimal = new BigDecimal("123.456");
BigDecimal myDecimal2 = new BigDecimal("234.567");
if (myDecimal.doubleValue() < myDecimal2.doubleValue()) System.out.println("myDecimal is smaller than myDecimal2");

编辑：在阅读了我自己答案的一些回复之后,我意识到我的理解是不正确的并已将其删除.以下是一些可能有助于未来的片段.

“double不能精确地保持0.1.最接近的可表示值为0.1是0.1000000000000000055511151231257827021181583404541015625.Java Double.toString只打印足够的数字来唯一地标识double,而不是精确的值.” – Patricia Shanahan

资料来源：
https://stackoverflow.com/a/5749978 – 双人最多可容纳15位数的州

最佳答案 我建议你阅读这个页面：

https://en.wikipedia.org/wiki/Double-precision_floating-point_format

一旦你阅读并理解了它,并且可能将几个例子转换为64位浮点格式的二进制表示,那么你就可以更好地了解Double可以容纳多少有效数字.

点赞