喫茶XRAYトップページ

[スレッド全体
]

[10210] Re3:四捨五入について返信 削除
2016/7/22 (金) 16:26:31 おかぽん
▼ Mr.XRAYさん
> 予想が外れました.
あ〜・・・すみません。

procedure TForm1.Button1Click(Sender: TObject);
var
  LValue : Double;
begin
  LValue := RoundAct(565.49999999999994);
  Memo1.Lines.Add(FloatToStr(LValue));
  LValue := RoundAct(565.49999999999995);
  Memo1.Lines.Add(FloatToStr(LValue));
end;

doubleの有効桁数16桁を超えた値で、565と566になることは確認しました。
こんなレスならば、当たりでしたでしょうか。

> ところで,www42.tok2.com はまだ復活していないようです.
そのまま消え去ってネットの海の藻屑となる・・?

[10211] Re4:四捨五入について返信 削除
2016/7/22 (金) 16:45:56 Mr.XRAY
▼ おかぽんさん

> > ところで,www42.tok2.com はまだ復活していないようです.
> そのまま消え去ってネットの海の藻屑となる・・?


ハハハッ.
笑いごとではありませんが,こんなことがあるんですね.


[10215] Re4:四捨五入について返信 削除
2016/7/22 (金) 17:16:11 Mr.XRAY
▼ おかぽんさん

>   LValue := RoundAct(565.49999999999994);

おそらく,計算の過程でそうなっていると思います.
具体的な数値ではなく,変数に格納された値が.

>doubleの有効桁数16桁を超えた値で、565と566になることは確認しました。
>こんなレスならば、当たりでしたでしょうか。


通常は当たり前かも知れませんが,今回質問された方は,反応から判断すると
理解が難しいかも知れません.


[▼次のスレッド]
INCM/CMT
Cyclamen v3.82