小数点を使用している場合、加算と減算の結果が間違って表示される

小数値に対して加算/減算を行うか、いずれかの算術関数を使用すると、出力が間違って表示される場合があります。

たとえば、四つのライン アイテム (a、b、c、d) があり、d の式が「a-b-c」の場合、a=1.01、b=1.005、c=0.005 と設定すると d=0 になるはずですが、実際には d=1.1535911115245767E-16 になります。

これは、IEEE-754 標準の基礎となる挙動によるものです。

詳細については https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html を参照してください。

該当なし