| ab.com コミュニティ https://www.activebasic.com/forum/ |
|
| 対数 https://www.activebasic.com/forum/viewtopic.php?t=1238 |
ページ 1 ／ 1 |
| 作成者: | 河川屋 [ 2006年7月15日(土) 02:58 ] |
| 記事の件名: | 対数 |
x=Log(0.0) →0が返る。 (正しくは、－Inf or 計算エラー) x=Log(-10) →0が返る。 (正しくは、 計算エラー) ※念のため言わしてもらうと、IEEE浮動小数では、±InfとかNANという計算結果が返せる筈です。 で、Pentiumの浮動小数点演算はこういうのにも対応している筈。 ±InfとかNANに対応しないのはアリとしても、せめて計算エラーとして扱わないとマズイのと 違いますか? ※※ Infは無限大、NANは非数値の意味です。 |
|
| 作成者: | イグトランス [ 2006年7月15日(土) 09:15 ] |
| 記事の件名: | |
CPUのLogを求める命令(fyl2x)ではLog(0.0)だと-Infを，Log(負値)だとNaNを返すようです。（エラーを無視するように設定した場合） ABはそれを使っていませんが，それに挙動を合わせておくのが無難だと思います。 ところでABでは今までInfやNaNが全く使われていません。 つまりLogだけを直すのは簡単ですが，浮動小数点数処理全般の見直しが必要になるかもしれず，意外と手間がかかるかもしれませんね。 |
|
| ページ 1 ／ 1 | 全ての表示時間は UTC+09:00 です |
| Powered by phpBB® Forum Software © phpBB Limited https://www.phpbb.com/ |
|