第９話 倍精度浮動小数点型変数
コードを次のように変更してください。
Private Sub CommandButton1_Click()
Dim a As Double
a = 123456789.123456
Range("B4") = a
End Sub
Private Sub CommandButton2_Click()
Range("B4").Select
Selection.ClearContents
Range("A1").Select
End Sub
参考ダウンロード添付ファイル
実行結果
ただし、
の場合です。
同じにしたい場合には、B4で右クリックしてセルの書式設定から、
図のように変更してください。
倍精度にしてから１６桁までが正確に扱えるようになりました。
ただし、扱う小数が８桁以下であることがわかっている場合には、
Singleにすべきなのは言うまでもありませんね。
変数型のメモリ容量と処理速度は反比例するのでしたね。
データ容量にあった大きさの箱＝変数型を用意する習慣を身につけてください。
第８話へ 第10話へ
