ありがとうございました。
質問のあて先は、以後気をつけます。
自分では、質問箱の方に出したつもりでおりました。
続きなものですからもうひとつだけ質問させて下さい。
(以降は、質問箱に致しますのでご容赦下さい。)
コンピュータでは、正確な数値計算は、たとえ簡単な計算であっても
できないということでしょうか?
> それはcだけがsingle型になっているためです。バグではありません。(a,bはデフォルトのdouble型になっています。)
> a,bはdouble型なので、何回もの演算を行わない限りは15~16桁の表示でも上手く動いているように見えます。
>
> そもそもコンピュータ内部では2進数で数値を扱っているため、2.4等の数値を普通に扱えばどうしても誤差が生じてしまいます。
> 丸め誤差といいますが。(2進数で、10.011001100110・・・という値になる。)
>
> 試しに
コード: 全て選択
#prompt
> Dim c As Single
> c=2.4
> Print c
としてみてください。
>
> 対処法としては、全て10倍した値で保持いておいて、出力する時に10で割るという方法等が挙げられます。
>
>
> 質問はプログラミング質問板の方でしましょう。