ab.com コミュニティ

ActiveBasicを通したコミュニケーション
現在時刻 - 2024年3月29日(金) 01:36

全ての表示時間は UTC+09:00 です




新しいトピックを投稿する  トピックへ返信する  [ 2 件の記事 ] 
作成者 メッセージ
 記事の件名: 対数
投稿記事Posted: 2006年7月15日(土) 02:58 
x=Log(0.0) →0が返る。 (正しくは、-Inf or 計算エラー)
x=Log(-10) →0が返る。 (正しくは、 計算エラー)

※念のため言わしてもらうと、IEEE浮動小数では、±InfとかNANという計算結果が返せる筈です。
で、Pentiumの浮動小数点演算はこういうのにも対応している筈。
±InfとかNANに対応しないのはアリとしても、せめて計算エラーとして扱わないとマズイのと
違いますか?
※※ Infは無限大、NANは非数値の意味です。


通報する
ページトップ
   
 記事の件名:
投稿記事Posted: 2006年7月15日(土) 09:15 
オフライン

登録日時: 2005年5月31日(火) 17:59
記事: 899
お住まい: 東京都
CPUのLogを求める命令(fyl2x)ではLog(0.0)だと-Infを,Log(負値)だとNaNを返すようです。(エラーを無視するように設定した場合)
ABはそれを使っていませんが,それに挙動を合わせておくのが無難だと思います。

ところでABでは今までInfやNaNが全く使われていません。
つまりLogだけを直すのは簡単ですが,浮動小数点数処理全般の見直しが必要になるかもしれず,意外と手間がかかるかもしれませんね。


通報する
ページトップ
期間内表示:  ソート  
新しいトピックを投稿する  トピックへ返信する  [ 2 件の記事 ] 

全ての表示時間は UTC+09:00 です


オンラインデータ

このフォーラムを閲覧中のユーザー: なし & ゲスト[15人]


トピック投稿:  可
返信投稿:  可
記事編集: 不可
記事削除: 不可
ファイル添付: 不可

検索:
ページ移動:  
cron
Powered by phpBB® Forum Software © phpBB Limited
Japanese translation principally by ocean