名前 題名 ▼ takiさん > ▼ Mr.XRAYさん > > > 小数点の以下の桁数を > > 指定したら誤差がでてしまうのか? > > といったことではないでしょうか．多分． > > １０進数の179.935が２進数で近似されているわけだから、 > その値は179.9349999999995〜179.9350000000004の間にある？ > この条件なら15桁目で丸め処理をすると179.935になる。 > > 関数で小数点以下の桁数を指定して丸め処理をしても、 > 179.94は179.9399999999995〜179.9400000000004の間にある？ > > う〜ん、私にはわかりません。(+_+) GIF,JPEG,PNG画像ファイル及びLZH,ZIPファイルをアップロードできます.600 x 1200 ピクセルを超える画像は縮小表示されます(画像クリックで拡大表示). (上限122000(120k)バイト) 削除キー Link