喫茶XRAYトップページ

[スレッド全体]
[8089] Re:いろいろテストしても意味がない?返信　削除
2014/10/10 (金) 16:00:39 Mr.XRAY
> > でも、FloatToStrは「9.999…」と文字列にされると困るので、こそっと有効桁数で
> > 丸め処理をして、「10」と表示しているのですね。なるほど。
>
> おそらくそういうことではないかと思います．

これが曲者だったわけです．
計算結果を FloatToStr で文字列にしたら，数学的な計算結果と一致した．
しかし，本当は，15 桁目で丸めた結果なんですが．
そこで，何故同じ FloatToStr 関数を使用しているのに，小数点の以下の桁数を
指定したら誤差がでてしまうのか?
といったことではないでしょうか．多分．

[8090] Re2:いろいろテストしても意味がない?返信　削除
2014/10/10 (金) 17:30:48 taki
▼ Mr.XRAYさん

> 小数点の以下の桁数を
> 指定したら誤差がでてしまうのか?
> といったことではないでしょうか．多分．

１０進数の179.935が２進数で近似されているわけだから、
その値は179.9349999999995〜179.9350000000004の間にある？
この条件なら15桁目で丸め処理をすると179.935になる。

関数で小数点以下の桁数を指定して丸め処理をしても、
179.94は179.9399999999995〜179.9400000000004の間にある？

う〜ん、私にはわかりません。(+_+)

[8094] Re3:いろいろテストしても意味がない?返信　削除
2014/10/11 (土) 19:14:18 Mr.XRAY
>その値は179.9349999999995〜179.9350000000004の間にある？

あ〜，こういうことを書かれると手抜きした私の立場が. (^^;
立場を取り戻すために，こんなことやってみました．ヘヘヘッ
ほとんど意味ありませんが．

小数点 16 桁目を調べるために 16 乗しています．
16 桁目も 9 になっています．あとちょっとだったようです
思ったのですが，15 桁で丸めるというのは，内部処理でも精度 16 桁が限界
だからなのかも知れません．


//-----------------------------------------------------------------------------
//  (1)と(2)の計算式は，数学的には等しく，179.935となる
//-----------------------------------------------------------------------------
procedure TForm1.Button1Click(Sender: TObject);
var
  A, B, C, D, E, F : Extended;
  IntE : Int64;
  IntF : Int64;
begin
  Memo1.Lines.Clear;
  Memo1.Font.Name := 'ＭＳ ゴシック';
  Memo1.Font.Size := 10;

  A := 389.7;
  B := 94.4;
  c := 30;
  D := 0.35;
  E := (A + B + C) * D;        //(1)
  F := A * D + B * D + C * D;  //(2)

  //Int64は16乗が限界?
  IntE := Trunc(E * Math.Power(10, 16));
  IntF := Trunc(F * Math.Power(10, 16));

  Memo1.Lines.Add(IntToStr(intE));
  Memo1.Lines.Add(IntToStr(intF));
end;

[▼次のスレッド]
INCM/CMT
Cyclamen v3.82