対数

返信する


答えを正確に入力してください。答えられるかどうかでスパムボットか否かを判定します。

BBCode: ON
[img]: ON
[url]: ON
スマイリー: OFF

トピックのレビュー
   

展開ビュー トピックのレビュー: 対数

by イグトランス » 2006年7月15日(土) 09:15

CPUのLogを求める命令(fyl2x)ではLog(0.0)だと-Infを,Log(負値)だとNaNを返すようです。(エラーを無視するように設定した場合)
ABはそれを使っていませんが,それに挙動を合わせておくのが無難だと思います。

ところでABでは今までInfやNaNが全く使われていません。
つまりLogだけを直すのは簡単ですが,浮動小数点数処理全般の見直しが必要になるかもしれず,意外と手間がかかるかもしれませんね。

対数

by 河川屋 » 2006年7月15日(土) 02:58

x=Log(0.0) →0が返る。 (正しくは、-Inf or 計算エラー)
x=Log(-10) →0が返る。 (正しくは、 計算エラー)

※念のため言わしてもらうと、IEEE浮動小数では、±InfとかNANという計算結果が返せる筈です。
で、Pentiumの浮動小数点演算はこういうのにも対応している筈。
±InfとかNANに対応しないのはアリとしても、せめて計算エラーとして扱わないとマズイのと
違いますか?
※※ Infは無限大、NANは非数値の意味です。

ページトップ