2014/10/9 (木) 14:53:27 Mr.XRAY |
最初に示したサンプルの結果は,結局,
[890_計算誤差 ( 数値計算の誤差 ) と多倍長演算]
http://mrxray.on.coocan.jp/Delphi/plSamples/890_CalcError.htm
の記事の内容が原因ということが分かりました.
たまにある質問なのですが,現在のコンピュータが有限桁数の演算しか
できないというこを理解していないと,数学的に正しい結果でないことが,
疑問となることがあります.
実際問題として,最後の桁の数値が 1 ぐらい違っていても,
数値計算では誤差範囲内と言えます.
ネタ元はメールでの問い合わせですが,例によって,いろいろやってみました.
質問された方が納得するかどうかは不明です (^^;
|
|