喫茶XRAYトップページ
[
スレッド全体
]
[12445]
数値計算の誤差関係
返信
削除
2018/11/14 (水) 23:17:01
Mr.XRAY
[ 06_数値の四捨五入等と数値を文字列にする関数類 ]
に Trunc 関数関係のサンプルを追加しました．
[ 08_関数の引数が数値を使用した式の時に発生する現象 ]
http://
mrxray.
on.
coocan.
jp/
Delphi/
plSample
s/
890_Calc
Error.
htm#
08
2018/11/15
別項目にしました．
[12462]
Re:数値計算の誤差関係
返信
削除
2018/11/20 (火) 21:59:25
Mr.XRAY
> [ 08_関数の引数が数値を使用した式の時に発生する現象 ]
>
http://
mrxray.
on.
coocan.
jp/
Delphi/
plSample
s/
890_Calc
Error.
htm#
08
に，現在のシステムで使用可能な SSE 関係の機能を確認するコードを追加しました．
http://
mrxray.
on.
coocan.
jp/
Delphi/
plSample
s/
890_Calc
Error.
htm#
fig19
[
▼次のスレッド
]
INCM/CMT
Cyclamen v3.82