fortran66のブログ

fortran について書きます。

2010-09-13から1日間の記事一覧

LOG(2) のバイナリー表示

九月二日の続き。 Pi Directory by David H. Bailey下のDavid H. Bailey, "The BBP Algorithm for Pi," manuscript, Sep 2006. に基づいて、LOG(2) の任意位置での二進表示の計算というものをやってみました。 アルゴリズムを理解できたかの試し計算なので、…

CDC7600 での FORTRAN 最適化テクニック

スパコンの先祖ともいわれる CDC7600 での FORTRAN 最適化テクニックについての記事がネットにあったのですが、見てみるとすでにバンクコンフリクトの問題とかが書いてあって興味深かったです。注意深くプログラムすると非常に高速だった、と言われていた意…