by イグトランス » 2006年5月14日(日) 22:30
それは指数表記で,つまりとてつもなく0がとてつもなく沢山(308個前後)並ぶ数も表現できますが,
実際に計算などが行われるのは端から15桁分だけと言うことです。
実数は「m × (rのe乗)」という形へ変形できます。(たとえば123.456は1.23456 × (10の2乗)という具合です)
Double型は,mが15桁(原則1 ≦ m < 10),rを10としたらeは-307 ~ +308に収まる数を記憶できるような大きさなのです。
細かいことを言えば実際にはコンピュータですから二進法を使うので正確にはもう少し異なりますけどね。
それは指数表記で,つまりとてつもなく0がとてつもなく沢山(308個前後)並ぶ数も表現できますが,
実際に計算などが行われるのは端から15桁分だけと言うことです。
実数は「m × (rのe乗)」という形へ変形できます。(たとえば123.456は1.23456 × (10の2乗)という具合です)
Double型は,mが15桁(原則1 ≦ m < 10),rを10としたらeは-307 ~ +308に収まる数を記憶できるような大きさなのです。
細かいことを言えば実際にはコンピュータですから二進法を使うので正確にはもう少し異なりますけどね。