日記一覧
当サイトに登録されている日記一覧


7月
28
(金)
9月
18
(月)
9月
28
(木)
12月
11
(日)
8月
16
(水)
11月
15
(水)
12月
13
(火)
6月
5
(月)
4月
7
(日)
11月
21
(月)
カテゴリー
関数電卓 fx-JP900 数学自然表示
皆さんこんにちは、時空 解です。
昨晩、fx-JP900 の計算桁数に付いて検証していたところ、順番を変えると計算結果が違ってくる式を見付けました。
その計算式がこちら
1.$ (2 \div 3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7} $
2.$ (2 \div 3) + (4×10^{-16}) - 0.666666 = 6.66666666~ ×...
続きを読む | 
閲覧(5633)
5月
22
(水)
3月
6
(水)
4月
29
(日)
11月
5
(金)
5月
30
(月)
4月
24
(水)
8月
26
(金)
7月
11
(火)
7月
3
(月)
5月
27
(土)