喫茶XRAYトップページ

[スレッド全体
]

[8081] というわけで...返信 削除
2014/10/9 (木) 14:53:27 Mr.XRAY
最初に示したサンプルの結果は,結局,

[890_計算誤差 ( 数値計算の誤差 ) と多倍長演算]
http://mrxray.on.coocan.jp/Delphi/plSamples/890_CalcError.htm

の記事の内容が原因ということが分かりました.
たまにある質問なのですが,現在のコンピュータが有限桁数の演算しか
できないというこを理解していないと,数学的に正しい結果でないことが,
疑問となることがあります.

実際問題として,最後の桁の数値が 1 ぐらい違っていても,
数値計算では誤差範囲内と言えます.

ネタ元はメールでの問い合わせですが,例によって,いろいろやってみました.
質問された方が納得するかどうかは不明です (^^;


[8083] Re:というわけで...返信 削除
2014/10/9 (木) 22:33:50 Mr.XRAY
Delphi Forum に,内容をまとめて投稿しておきました.
[数値計算の誤差と四捨五入]
http://ht-deko.minim.ne.jp/delphiforum/?vasthtmlaction=viewtopic&t=1203.0#postid-2404

このような数値計算の誤差による違いを表現できる例というのは,
中々見つかるものではありません.
個人的には貴重なサンプルではないかと思っています.


[▼次のスレッド]
INCM/CMT
Cyclamen v3.82