ページ 11

Val関数

Posted: 2008年12月14日(日) 12:47
by MML
お久しぶりです。ゆちボンです。

Str$で変換した文字列をdouble型に戻そうと、Valを使ったのですが
うまく変換できません。
(特にすごく大きい値+小数点以下がすごく長い数列)

おそらく、Str$は小さい値などを変換するときに
「e32」みたいなものをおしりにくっつけているような気がします。

コード: 全て選択

#console
print Str$(0.000000000000000000001)
Str$を改造する必要があるのでしょうか?
それとも、Valを改造したほうがいいのでしょうか?

使用Active Basic バージョンは4.24です。

Posted: 2008年12月14日(日) 13:42
by konisi
Val関数の最後のEnd Ifの直前に次のコードを挿入してみてください。

コード: 全て選択

If buf=&H45 Or buf=&H65 then Val=Val*10^Val(buf+i+1)'eが続く場合に関する改造

Posted: 2008年12月14日(日) 21:03
by MML
konisiさん、ありがとうございます!
うまく動くようになりました