時空 解 さんの日記
8月
5
(月)
5月
5
(金)
11月
18
(金)
11月
21
(月)
カテゴリー
関数電卓 fx-JP900 数学自然表示
皆さんこんにちは、時空 解です。
昨晩、fx-JP900 の計算桁数に付いて検証していたところ、順番を変えると計算結果が違ってくる式を見付けました。
その計算式がこちら
1.$ (2 \div 3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7} $
2.$ (2 \div 3) + (4×10^{-16}) - 0.666666 = 6.66666666~ ×...
続きを読む
| 閲覧(6892)
10月
25
(水)
5月
18
(木)
7月
2
(土)
8月
1
(水)
2月
24
(金)
1月
28
(日)
4月
30
(月)
3月
15
(金)
1月
19
(土)
4月
19
(火)
4月
5
(木)
8月
31
(木)
11月
28
(火)
2月
22
(木)
7月
9
(日)
1月
17
(火)






