読者です 読者をやめる 読者になる 読者になる

fortran66のブログ

fortran について書きます。

千円電卓に関する備忘チラシ裏

千円の関数電卓はバックスペースがあったり、括弧が使えたり便利ですね。反復計算でない限りは数式そのまま入力方式より使いやすいような。

四捨五入による整数化表示法および元に戻す法。

FIX 0 FIX .

EXP10ケタ

テイラー展開係数の漸化式 a_{n}=a_{n-1} / n

有効数字10桁計算
FIX 0
1 EXP 10
/ 1
/ 2 
・・・
/14
FIX .

n 1/n!
0 1.00000 00000
1 1.00000 00000
2 0.50000 00000
3 0.16666 66667
4 0.04166 66667
5 0.00833 33333
6 0.00138 88889
7 0.00019 84127
8 0.00002 48016
9 0.00000 27557
10 0.00000 02756
11 0.00000 00251
12 0.00000 00021
13 0.00000 00002
14 0.00000 00000

表で右詰めができないので小数で書きましたが、整数で計算します。

n=2~14まで10**10でスケールして和を取りますと、
sum = 71828 18286
これは最後の桁で四捨五入された数値を足した10ケタの数です。10**10のスケールを考えると小数点以下の数字を表していることになります。これに n=0,1 の項の和 1+1=2 が加えられて、e=2.71828 18286 と計算されます。最後の桁に1程度の誤差(1.4E-10)が入っています。