時空 解 さんの日記
2022
11月
26
(土)
08:59
バグでは無かった、fx-JP900 の計算結果…内部計算桁数 15桁の制約
前の日記
次の日記
カテゴリー
関数電卓 fx-JP900 数学自然表示
本文
皆さんこんにちは、時空 解です。
昨晩、Casioさん からメールが届きました。
丁寧なご回答を頂きました。この場をお借りして改めて感謝を致します。
どうもありがとうございます。m( _ _ )m
なるほどぉ…シンプルな計算式を例に挙げて頂いたおかげで、とても分かり易いですよね。
プラス演算とマイナス演算には優先順位がありませんからね、どうしても数式の頭から計算を実行することになります。
ですから内部計算桁数の15を超えた時点で切り捨てるしかありません。
なんだかそんな fx-JP900 が可愛く見える私ですが…みなさんはどんな感想を持たれましたかな?
まぁともかく、fx-JP900 に関するご報告でした。
では今日も1日の習慣を始めてます。小さな一歩・挑戦を試みています。
( ブログのコメント欄は 2022-04-16 に閉鎖いたしました )
昨晩、Casioさん からメールが届きました。
時空 解 様
カシオ計算機お客様相談室の○○ と申します。
平素よりカシオ製品のご愛顧を賜わり誠にありがとうございます。
お問い合わせをいただきました件につきまして、次の通りご案内申し上げます。
お待たせいたしまして申し訳ございません。
計算式
1 (2÷3) - 0.666666 + (4×10^{-16}) = 6.666666664 × 10^{-7}
2 (2÷3) + (4×10^{-16}) - 0.666666 = 6.66666666 × 10^{-7}
上記計算式1と2で結果が異なるのは製品の不具合等ではなく、fx-JP900での
正常な計算結果となります。
以下に、異なる数値での同様の計算例を用いまして、理由をご案内いたします。
<桁数が多い数値で加減算を行う際の、計算順による結果の違いにつきまして>
計算例:
(A) 123456789012345 - 123456789000000 + 0.1 = 12345.1
(B) 123456789012345 + 0.1 - 123456789000000 = 12345
fx-JP900の内部計算桁数は15桁のため、加減算を行う2つの数値のうち
より大きい方の数値の上位15桁に入りきらない桁の数値は予め切り捨てた
状態で計算をいたします。
従いまして、計算式(A)のように 先に減算を行って桁数を減らした状態での
「+ 0.1」は有効な加算となり、計算結果にも反映されます。
一方、計算式(B)のように「+ 0.1」が加算相手となる「123456789012345」
から見て上位16桁目以降となる場合には、内部計算桁数の範囲外による
切り捨てにより加算自体が無効となりまして、計算結果にも反映されません。
取扱説明書の関連箇所としまして、53ページの「計算範囲と精度」にて
内部計算桁数が15桁であることの記載がございます。
<fx-JP900 取扱説明書>
https://www.casio.com/content/dam/casio/global/support/manuals/calculators/pdf/004-ja/f/fx-JP700_900_JA.pdf
以上の内容についてYouTube動画で配信されることにつきましては、お客様の
ご判断にお任せいたします。
何卒よろしくお願い申し上げます。
-----------------------------------------------------------
カシオ計算機株式会社 お客様相談室
お問い合わせ先URL https://www.casio.com/jp/support/
-----------------------------------------------------------
丁寧なご回答を頂きました。この場をお借りして改めて感謝を致します。
どうもありがとうございます。m( _ _ )m
なるほどぉ…シンプルな計算式を例に挙げて頂いたおかげで、とても分かり易いですよね。
プラス演算とマイナス演算には優先順位がありませんからね、どうしても数式の頭から計算を実行することになります。
ですから内部計算桁数の15を超えた時点で切り捨てるしかありません。
なんだかそんな fx-JP900 が可愛く見える私ですが…みなさんはどんな感想を持たれましたかな?
まぁともかく、fx-JP900 に関するご報告でした。
では今日も1日の習慣を始めてます。小さな一歩・挑戦を試みています。
( ブログのコメント欄は 2022-04-16 に閉鎖いたしました )
閲覧(3316)
コメントを書く |
---|
コメントを書くにはログインが必要です。 |