fortran66のブログ

fortran について書きます。

2017-09-24から1日間の記事一覧

【メモ帳】Gustafson の浮動小数点数

浮動小数点数は実数の近似ですが、結合則や分配則が成り立たないなど、実数の性質を満たしません。そのため実数を前提とした等価な数式変形が同じ結果を与えないことがあり、等価な数式表現の内、一番適切なものを選ぶ必要があります。土曜の午後の徒然に、…