fortran66のブログ

fortran について書きます。

2008-11-25から1日間の記事一覧

IEEE754規格では浮動小数点の取り方から0に+0と-0の二通りの表記が許されます。ここで複素関数などを扱う場合、リーマン面のカットライン近傍において近づく方向に依存して極限が異なる場合があるので、+0と-0がそれぞれ正からの極限と負からの極限の意味で…