喫茶XRAY [Mr.XRAY掲示板]

[8071] 四捨五入

返信　削除

2014/10/8 (水) 16:50:38 Mr.XRAY

四捨五入と丸めに関するサンプルです．
例えば以下のコードを実行します．
コードの下の図を見てください．
動作確認は，Windows 7 U64(SP1) + Delphi XE5 Pro で，32 ビットのEXEです．

//-----------------------------------------------------------------------------
//  (1)と(2)の計算式は，数学的には等しく，179.935となる
//  SimpleRoundToの使用にはusesにMathが必要
//
//  Math.GetRoundModeで取得したモードはrmNearest
//  Extendedの扱いは
//  Math.SetPrecisionMode(pmDouble);
//  でDouble型として扱うようにできる
//-----------------------------------------------------------------------------
procedure TForm1.Button1Click(Sender: TObject);
var
  a,b,c,d,e,f:Extended;
  strText : String;
begin
  a:=389.7;
  b:=94.4;
  c:=30;
  d:=0.35;
  e:=(a+b+c)*d;    //(1)
  f:=a*d+b*d+c*d;  //(2)

  StrText :=  FloatToStr(e)+#13+
              FloatToStr(f)+#13+ sLineBreak +
              FloatToStr(SimpleRoundTo(e,-2))+#13+
              FloatToStr(SimpleRoundTo(f,-2));
  MessageBox(Handle, PChar(strText), '結果', MB_OK);
end;

//-----------------------------------------------------------------------------
//  変数の型をDoubleとした場合
//-----------------------------------------------------------------------------
procedure TForm1.Button2Click(Sender: TObject);
var
  a,b,c,d,e,f:Double;
  strText : String;
begin
  a:=389.7;
  b:=94.4;
  c:=30;
  d:=0.35;
  e:=(a+b+c)*d;    //(1)
  f:=a*d+b*d+c*d;  //(2)

  StrText :=  FloatToStr(e)+#13+
              FloatToStr(f)+#13+ sLineBreak +
              FloatToStr(SimpleRoundTo(e,-2))+#13+
              FloatToStr(SimpleRoundTo(f,-2));
  MessageBox(Handle, PChar(strText), '結果', MB_OK);
end;

数学的に正確な値は，どちらも 179.94 です．
  e:=(a+b+c)*d;    //(1)
  f:=a*d+b*d+c*d;  //(2)

しかし，結果の図のように Extended 型では e と f が違っています．
Double 型では同じ値になっていますが，数学的に正しい値ではありません．

[8084] ごめんなさい．間違えました

返信　削除

2014/10/9 (木) 23:13:56 Mr.XRAY

この「四捨五入」のスレッドの記事に大きな間違いがありました．
これから修正します．
読んで納得してしまった方がいたらゴメンナサイ．
読んでみて，「あれっ?」と思った方もゴメンナサイ．

[8085] Re:ごめんなさい．間違えました

返信　削除

2014/10/10 (金) 07:14:31 Mr.XRAY

修正というか，かなり文章を変更してしまいました．
コードも一部変更しています．
結果の図に変更はありません．

今回の例は，Extended 型というのがミソでした．
FormatFloat 関数では，桁数を大きくしても，実際の内部の値が取得できませんでした．
Double 型であれば，計算結果を見ること出来て，説明が簡単だったのですが...

いろいろテストしましたが，数学的には正しくなくても，数値計算の結果としては
当然の結果と言えます．
今回のテストは，非常に単純な計算でしたが，実際の実務での計算はもっと計算式も
多く，複雑であると思われます．その時，結果として取得した値が，数学的に正しい
かを把握して検証するのは，一般的には困難です．
今回のように，数学的な計算結果との照合というのは無理があるかも知れません．
そういうことを研究している研究者もいますが，我々の目的ではありません．

コンピュータを使用した計算，特に実数の使用した計算では，常に誤差が伴うことを
認識する必要があると思われます．
基本的に，数値計算では，数学的な計算と一致する結果を計算するというのは，
期待できない場合があります．今回の計算のサンプルでも，基本的な解決策は
ありません．

[890_計算誤差 ( 数値計算の誤差 ) と多倍長演算]
http://mrxray.on.coocan.jp/Delphi/plSamples/890_CalcError.htm

の記事にあるように，確実に誤差のない計算を希望するのであれば，BCD 演算
ということになります．また，Currency 型 (固定小数点形式) を使用すれば，
小数点 4 桁までは正確な演算が可能です．

[8086] マスターお疲れ様です

返信　削除

2014/10/10 (金) 11:03:51 taki

▼ Mr.XRAYさん

> 確実に誤差のない計算を希望するのであれば，BCD 演算
> ということになります．また，Currency 型 (固定小数点形式) を使用すれば，
> 小数点 4 桁までは正確な演算が可能です．

マスターお疲れ様です。

え～っと、通常の実数の演算は２進数で行われるので誤差が出るのですね。

例えば、a := 10; としても、実際には 9.9999999…がセットされているかも…ですね。
32Bitであろうと64BitであろうとDouble型であろうとExtended型であろうと
小数点以下の.999…の桁数が増えるだけということでしょうか。

でも、FloatToStrは「9.999…」と文字列にされると困るので、こそっと有効桁数で
丸め処理をして、「10」と表示しているのですね。なるほど。

それと、学校では四捨五入は4は切り捨てて、5は切り上げるとならったのですが、
銀行で使われている四捨五入は実は五捨五入で結果が常に偶数？になるように
なっているのですね。

例えば小数点１位で丸める場合、2.35→2.4、2.45→2.4、2.55→2.6、2.65→2.6
こうすると、増える方に丸め処理と減る方に丸める処理が同じ確率で行われ
全体としての誤差が減るのですね。
この事を知っていないと２進数の演算誤差と混ざって？？？となるのですね。

間違いがあったら突っ込んでください。m(_ _)m

昔使っていたIBMのマシンの演算はBCDだったようです。ファイルの数字が0～9で
表現されてました。

そういえば、Z-80の命令に10進補正命令というのがあったのを思い出しました。

[8088] いろいろテストしても意味がない?

返信　削除

2014/10/10 (金) 14:06:11 Mr.XRAY

▼ takiさん

> でも、FloatToStrは「9.999…」と文字列にされると困るので、こそっと有効桁数で
> 丸め処理をして、「10」と表示しているのですね。なるほど。

おそらくそういうことではないかと思います．
ところが，質問された方のコードでは SimpleRoundTo で 2 桁にしてしまって
いますから，その時点で 15 桁で丸めるという「親切?」な仕様が意味なくなって
いるわけです．

素直に，FloatToStrF 関数, FloatToText 関数や FloatToDecimal 関数等を利用
すればいいのですが，いい題材だと思って，思いつくまま書いてしまいました．
結果，まとまりのない書き込みになってしまいました(汗)

「敵?」のスキルや知識を知ることは難しいです．ハイ．
今回のような現象が起きると，過去の例では，いろいろ数値を変えたりして
テストする人が多いのですが，それは数値計算における演算誤差発生の様子を
調べているだけです．

私のように，素直に「コンピュータでの計算だからそんなもんだ」と
割り切ってしまうといいのですが...

[8089] Re:いろいろテストしても意味がない?

返信　削除

2014/10/10 (金) 16:00:39 Mr.XRAY

> > でも、FloatToStrは「9.999…」と文字列にされると困るので、こそっと有効桁数で
> > 丸め処理をして、「10」と表示しているのですね。なるほど。
>
> おそらくそういうことではないかと思います．

これが曲者だったわけです．
計算結果を FloatToStr で文字列にしたら，数学的な計算結果と一致した．
しかし，本当は，15 桁目で丸めた結果なんですが．
そこで，何故同じ FloatToStr 関数を使用しているのに，小数点の以下の桁数を
指定したら誤差がでてしまうのか?
といったことではないでしょうか．多分．

[8090] Re2:いろいろテストしても意味がない?

返信　削除

2014/10/10 (金) 17:30:48 taki

▼ Mr.XRAYさん

> 小数点の以下の桁数を
> 指定したら誤差がでてしまうのか?
> といったことではないでしょうか．多分．

１０進数の179.935が２進数で近似されているわけだから、
その値は179.9349999999995～179.9350000000004の間にある？
この条件なら15桁目で丸め処理をすると179.935になる。

関数で小数点以下の桁数を指定して丸め処理をしても、
179.94は179.9399999999995～179.9400000000004の間にある？

う～ん、私にはわかりません。(+_+)

[8094] Re3:いろいろテストしても意味がない?

返信　削除

2014/10/11 (土) 19:14:18 Mr.XRAY

>その値は179.9349999999995～179.9350000000004の間にある？

あ～，こういうことを書かれると手抜きした私の立場が. (^^;
立場を取り戻すために，こんなことやってみました．ヘヘヘッ
ほとんど意味ありませんが．

小数点 16 桁目を調べるために 16 乗しています．
16 桁目も 9 になっています．あとちょっとだったようです
思ったのですが，15 桁で丸めるというのは，内部処理でも精度 16 桁が限界
だからなのかも知れません．

//-----------------------------------------------------------------------------
//  (1)と(2)の計算式は，数学的には等しく，179.935となる
//-----------------------------------------------------------------------------
procedure TForm1.Button1Click(Sender: TObject);
var
  A, B, C, D, E, F : Extended;
  IntE : Int64;
  IntF : Int64;
begin
  Memo1.Lines.Clear;
  Memo1.Font.Name := 'ＭＳゴシック';
  Memo1.Font.Size := 10;

  A := 389.7;
  B := 94.4;
  c := 30;
  D := 0.35;
  E := (A + B + C) * D;        //(1)
  F := A * D + B * D + C * D;  //(2)

  //Int64は16乗が限界?
  IntE := Trunc(E * Math.Power(10, 16));
  IntF := Trunc(F * Math.Power(10, 16));

  Memo1.Lines.Add(IntToStr(intE));
  Memo1.Lines.Add(IntToStr(intF));
end;

[▼次のスレッド]

INCM/CMT
Cyclamen v3.82