fortran66のブログ

fortran について書きます。

2017-07-04から1日間の記事一覧

浮動小数点数で結合則が成り立たない簡単な例

浮動小数点数では結合則が成り立ちません。すなわち(a + b) + c /= a + (b + c)です。その簡単な例として、単精度実数の 2**24 付近で、数直線の刻み幅が 2 になる所で +1 計算をしてみます。 ソースプログラム 浮動小数点演算の評価を /fp:strict オプショ…