TOP

Home  >  ブログ  >  時空 解  >  関数電卓 fx-JP900 数学自然表示  >  バグでは無かった、fx-JP900 の計算結果…内部計算桁数 15桁の制約

時空 解 さんの日記

 
2022
11月 26
(土)
08:59
バグでは無かった、fx-JP900 の計算結果…内部計算桁数 15桁の制約
本文
皆さんこんにちは、時空 解です。

昨晩、Casioさん からメールが届きました。
 
時空 解 様

カシオ計算機お客様相談室の○○ と申します。
平素よりカシオ製品のご愛顧を賜わり誠にありがとうございます。
お問い合わせをいただきました件につきまして、次の通りご案内申し上げます。

お待たせいたしまして申し訳ございません。

計算式
1 (2÷3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7}
2 (2÷3) + (4×10^{-16}) - 0.666666 = 6.66666666   × 10^{-7}

上記計算式1と2で結果が異なるのは製品の不具合等ではなく、fx-JP900での
正常な計算結果となります。
以下に、異なる数値での同様の計算例を用いまして、理由をご案内いたします。

<桁数が多い数値で加減算を行う際の、計算順による結果の違いにつきまして>
 計算例:
  (A) 123456789012345 - 123456789000000 + 0.1 = 12345.1
  (B) 123456789012345 + 0.1 - 123456789000000 = 12345

 fx-JP900の内部計算桁数は15桁のため、加減算を行う2つの数値のうち
 より大きい方の数値の上位15桁に入りきらない桁の数値は予め切り捨てた
 状態で計算をいたします。
 従いまして、計算式(A)のように 先に減算を行って桁数を減らした状態での
 「+ 0.1」は有効な加算となり、計算結果にも反映されます。
 一方、計算式(B)のように「+ 0.1」が加算相手となる「123456789012345」
 から見て上位16桁目以降となる場合には、内部計算桁数の範囲外による
 切り捨てにより加算自体が無効となりまして、計算結果にも反映されません。

取扱説明書の関連箇所としまして、53ページの「計算範囲と精度」にて
内部計算桁数が15桁であることの記載がございます。

<fx-JP900 取扱説明書>
 https://www.casio.com/content/dam/casio/global/support/manuals/calculators/pdf/004-ja/f/fx-JP700_900_JA.pdf

以上の内容についてYouTube動画で配信されることにつきましては、お客様の
ご判断にお任せいたします。

何卒よろしくお願い申し上げます。

-----------------------------------------------------------
カシオ計算機株式会社 お客様相談室
お問い合わせ先URL https://www.casio.com/jp/support/
-----------------------------------------------------------


丁寧なご回答を頂きました。この場をお借りして改めて感謝を致します。

どうもありがとうございます。m( _ _ )m

なるほどぉ…シンプルな計算式を例に挙げて頂いたおかげで、とても分かり易いですよね。こんにちは

プラス演算とマイナス演算には優先順位がありませんからね、どうしても数式の頭から計算を実行することになります。
ですから内部計算桁数の15を超えた時点で切り捨てるしかありません。

なんだかそんな fx-JP900 が可愛く見える私ですが…みなさんはどんな感想を持たれましたかな?

まぁともかく、fx-JP900 に関するご報告でした。

では今日も1日の習慣を始めてます。小さな一歩・挑戦を試みています。
( ブログのコメント欄は 2022-04-16 に閉鎖いたしました )
閲覧(3316)
コメントを書く
コメントを書くにはログインが必要です。
メインメニュー
ログイン
ユーザー名:

パスワード:



日記投稿者リスト
カレンダー
月表示
カテゴリー
にほんブログ村リンク