喫茶XRAYトップページ

[スレッド全体
]

[1399] 数値計算の誤差の記事返信 削除
2007/9/2 (日) 17:49:39 Mr.XRAY
少し前にQ and A で計算誤差の質問がありました。
この手の質問はMLでもたまにしかないのですが、記事を書いてみました。
もし興味がありましたらご覧下さい。
(質問が少ない原因は、疑問をもった方が過去ログで調べている可能性
もありますが)

数値演算誤差の解説ではありませんので、その・#95;はご了承下さい。

http://homepage2.nifty.com/Mr_XRAY/Delphi/plSamples/T_CalcError.htm


[1400] Re:数値計算の誤差の記事返信 削除
2007/9/7 (金) 17:07:03 Syake
▼ Mr.XRAYさん
そう言えば昔あったな。

先生「コンピュータって、正確で期待した結果を出してくれると
   思いますよね。
   では、0.01を十回加算するプログラムを書いてください」

//-------------------------------------------------------
var
 s :Single;
 i :Integer;
begin
 s := 0;
 for i := 0 to 9 do s := s + 0.01;
 ShowMessage(FloatToStr(s));
end;
//-------------------------------------------------------

生徒「あれ? コンピュータが間違って答えを出してますよ」
先生「いえいえ、コンピュータの計算は間違っているわけではないんですよ」
生徒「????」
先生「これって、実はね・・・・・」


[1401] Re2:数値計算の誤差の記事返信 削除
2007/9/7 (金) 23:01:58 Mr.XRAY
▼ Syakeさん

> //-------------------------------------------------------
> var
>  s :Single;
>  i :Integer;
> begin
>  s := 0;
>  for i := 0 to 9 do s := s + 0.01;
>  ShowMessage(FloatToStr(s));
> end;
> //-------------------------------------------------------


こちらの方が例題としてはいいですね〜。
ではいただき。明日、早速追加しよ〜っと。


[▼次のスレッド]
INCM/CMT
Cyclamen v3.82