皆さんこんにちは、時空 解です。

昨晩、fx-JP900 の計算桁数に付いて検証していたところ、順番を変えると計算結果が違ってくる式を見付けました。

その計算式がこちら
１．$ (2 \div 3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7} $
２．$ (2 \div 3) + (4×10^{-16}) - 0.666666 = 6.66666666~ × 10^{-7} $

この計算式を fx-JP900 で試そうと想った切っ掛けは、

内部計算桁数：１５桁

を検証しようと思ってのことです。

うーむ…検証をしていて、改めて $ x × 10^{a} $ と言う表記がどんな数字を表しているのかを確認してしまいました。
$ x $ が $ 4 $ だったとすると

$ x × 10^{a} $ は $ 4 $ に $ 0 $ を $ a $ 個付けた数字ですよね。

$ 4 × 10^{2} = 400 $ 
$ 4 × 10^{-2} = 0.04 $ 

つまり
「$ a $ 個 $ 0 $ を付けた数字」
で間違いないでしょう。

$ (4×10^{-16}) $ は間違いなく $ 0.0000000000000004 $ ですが…

この
 $ 0.0000000000000004 $
は内部計算桁数としては１桁として扱われるようですね。指数部はまた別のメモリを使って表示するのが基本的な設計思想ですからね…
まぁ個人的には、上記の基本的なことを確認した上であらためて
「どうして違うのか」
を考え直したのですけどね…それで、まぁバグではないでしょう…と思えたのですが。

でも $ - 0.666666 $ と $ + (4×10^{-16}) $ を入れ替えて計算結果が違うのを見つけた時にはギョッとしましたね。

今まで信頼してきた数学のアイテム (私の取っては相棒) が
バグ野郎！？
なんて…

今現在では、この計算結果の違いは「答えの表示機能」によるものだと解釈しています。
 
個人的には上記の解釈をしています。
でも、これは Casio さんに確認した方が良いかな？　そのほうがスッキリしますかね…問い合わせしてみようと思います。

では今日も１日の習慣を始めてます。小さな一歩・挑戦を試みています。
( ブログのコメント欄は 2022-04-16 に閉鎖いたしました )