最近のトラックバック

2018年10月
  1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30 31      
無料ブログはココログ

« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »

10進浮動小数点(Decimal64, 32)クラスを作成しました

10進浮動小数点(Decimal64, Decimal32)を扱うクラスを作成しました。

通常の2進浮動小数点(double等)では10進数を正確に表せなくなる可能性がありますが、
10進浮動小数点では10進数でデータを持つのでこの可能性はなくなります。
(しかし、1/3*3=1とはなりません)

また、この副産物としてBCD(2進化10進数)を扱うクラスを作成しました。
RDBのNUMERIC型をそのまま保存できるので、DBとのインターフェースに使用できると思います。

« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »

Java」カテゴリの記事

コメント

とても魅力的な記事でした!!
また遊びに来ます!!
ありがとうございます。。

コメントを書く

(ウェブ上には掲載しません)

トラックバック


この記事へのトラックバック一覧です: 10進浮動小数点(Decimal64, 32)クラスを作成しました:

« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »