fortran66のブログ

fortran について書きます。

2012-05-31から1日間の記事一覧

IEEE 丸めモードで区間演算の代用

数値的に不安定な古典的な例として有名なヒルベルト行列の逆行列計算を、丸めモードを変えて計算してみます。 IEEE7754 の丸めモードの切り捨てと切り上げが、区間演算の下限と上限のようなものとして代用できるというアイデアを試してみます。 近接値への丸…