喫茶XRAYトップページ

[スレッド全体
]

[1400] Re:数値計算の誤差の記事返信 削除
2007/9/7 (金) 17:07:03 Syake
▼ Mr.XRAYさん
そう言えば昔あったな。

先生「コンピュータって、正確で期待した結果を出してくれると
   思いますよね。
   では、0.01を十回加算するプログラムを書いてください」

//-------------------------------------------------------
var
 s :Single;
 i :Integer;
begin
 s := 0;
 for i := 0 to 9 do s := s + 0.01;
 ShowMessage(FloatToStr(s));
end;
//-------------------------------------------------------

生徒「あれ? コンピュータが間違って答えを出してますよ」
先生「いえいえ、コンピュータの計算は間違っているわけではないんですよ」
生徒「????」
先生「これって、実はね・・・・・」


[1401] Re2:数値計算の誤差の記事返信 削除
2007/9/7 (金) 23:01:58 Mr.XRAY
▼ Syakeさん

> //-------------------------------------------------------
> var
>  s :Single;
>  i :Integer;
> begin
>  s := 0;
>  for i := 0 to 9 do s := s + 0.01;
>  ShowMessage(FloatToStr(s));
> end;
> //-------------------------------------------------------


こちらの方が例題としてはいいですね〜。
ではいただき。明日、早速追加しよ〜っと。


[▼次のスレッド]
INCM/CMT
Cyclamen v3.82