第８話 単精度浮動小数点型変数
単精度浮動小数点型変数とはずいぶんむずかしい名称ですが、
桁数が８桁以下の小数です。
例えば、
12.345678
です。
浮動小数点と書くのは、
0.00000000012345678
なら
1.2345678646053E-10と表記されるからです。
最後のE-10は
を意味して、1.2345678646053E-10が表しているのは、
1.2345678646053×
です。
ですから、
1.2345678646053E12
なら、
1.2345678646053×
すなわち
1234567864605.3
になります。
小数点が浮動するので、
浮動小数点と呼ぶのです。
E-10すなわち
なら、小数点が左に１０個移動しますし、E12すなわち
なら、小数点が右に１２個移動します。なお、９桁目から、おかしくなっていますが、
単精度浮動小数点型変数は８桁しか扱えないのに、
シートのセルの表示設定が16桁になっているためです。
コードを次のように変更して実行ボタンを押してください。
もし、保存しないでエクセルを閉じてしまった方は、
前話の添付ファイルを開いて変更してください。
Private Sub CommandButton1_Click()
Dim a As Single
a = 0.00000000012345678
Range("B4") = a
End Sub
Private Sub CommandButton2_Click()
Range("B4").Select
Selection.ClearContents
Range("A1").Select
End Sub
参考ダウンロード添付ファイル
実行結果
一部しか表示されていない理由は、
セル幅が小さいからです。
セル幅をカーソルを赤い線に合わせて、
右にドラッグしてから
B4で右クリック→
セルの書式設定→
表示形式の数値にして青い囲いをクリックして、小数点以下の桁数を12（この数字は例えばです。好きな数字にして下さい。）にすると、
となります。
123456789.123456
を正確に扱うには倍精度浮動小数点型変数を使う必要があります。
次話で実際に見てみましょう。
第７話へ 第９話へ
