時空 解 さんの日記
全1件のうち1 - 1件目を表示しています。
11月
21
(月)
カテゴリー
関数電卓 fx-JP900 数学自然表示
皆さんこんにちは、時空 解です。
昨晩、fx-JP900 の計算桁数に付いて検証していたところ、順番を変えると計算結果が違ってくる式を見付けました。
その計算式がこちら
1.$ (2 \div 3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7} $
2.$ (2 \div 3) + (4×10^{-16}) - 0.666666 = 6.66666666~ ×...
続きを読む
| 閲覧(2366)
全1件のうち1 - 1件目を表示しています。