ページのトップにスクロール

Home  >  ブログ  >  時空 解  >  関数電卓 fx-JP900 数学自然表示  >  fx-JP900 (数学自然表示電卓、関数電卓) にバグあり?…でもバクではないと思います

時空 解 さんの日記

 
2022
11月 21
(月)
09:12
fx-JP900 (数学自然表示電卓、関数電卓) にバグあり?…でもバクではないと思います
本文
皆さんこんにちは、時空 解です。

昨晩、fx-JP900 の計算桁数に付いて検証していたところ、順番を変えると計算結果が違ってくる式を見付けました。

その計算式がこちら
1.$ (2 \div 3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7} $
2.$ (2 \div 3) + (4×10^{-16}) - 0.666666 = 6.66666666~ × 10^{-7} $

この計算式を fx-JP900 で試そうと想った切っ掛けは、

内部計算桁数:15桁

を検証しようと思ってのことです。

うーむ…検証をしていて、改めて $ x × 10^{a} $ と言う表記がどんな数字を表しているのかを確認してしまいました。
$ x $ が $ 4 $ だったとすると

$ x × 10^{a} $ は $ 4 $ に $ 0 $ を $ a $ 個付けた数字ですよね。

$ 4 × 10^{2} = 400 $ 
$ 4 × 10^{-2} = 0.04 $ 

つまり
「$ a $ 個 $ 0 $ を付けた数字」
で間違いないでしょう。

$ (4×10^{-16}) $ は間違いなく $ 0.0000000000000004 $ ですが…

この
 $ 0.0000000000000004 $
は内部計算桁数としては1桁として扱われるようですね。指数部はまた別のメモリを使って表示するのが基本的な設計思想ですからね…うーむ01
まぁ個人的には、上記の基本的なことを確認した上であらためて
「どうして違うのか」
を考え直したのですけどね…それで、まぁバグではないでしょう…と思えたのですが。

でも $ - 0.666666 $ と $ + (4×10^{-16}) $ を入れ替えて計算結果が違うのを見つけた時にはギョッとしましたね。汗

今まで信頼してきた数学のアイテム (私の取っては相棒) が
バグ野郎!?
なんて…ううっ

今現在では、この計算結果の違いは「答えの表示機能」によるものだと解釈しています。
 
1.$ (2 \div 3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10{-7} $
上記の計算では、最後に $ (4×10^{-16}) $ が有るので、内部計算メモリは介さずに表示を行なうため、表示メモリの最後の空 (10桁表示のためのメモリの最後の下1桁) に $ (4×10^{-16}) $ の仮数部 4 をストアして表示するから4が入る。

個人的には上記の解釈をしています。
でも、これは Casio さんに確認した方が良いかな? そのほうがスッキリしますかね…問い合わせしてみようと思います。

では今日も1日の習慣を始めてます。小さな一歩・挑戦を試みています。
( ブログのコメント欄は 2022-04-16 に閉鎖いたしました )
閲覧(48)
コメントを書く
コメントを書くにはログインが必要です。
メインメニュー
ログイン
ユーザー名:

パスワード:



日記投稿者リスト
カレンダー
月表示
カテゴリー
にほんブログ村リンク