最近のトラックバック

2013年12月
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30 31        
無料ブログはココログ

« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »

10進浮動小数点(Decimal64, 32)クラスを作成しました

10進浮動小数点(Decimal64, Decimal32)を扱うクラスを作成しました。

通常の2進浮動小数点(double等)では10進数を正確に表せなくなる可能性がありますが、
10進浮動小数点では10進数でデータを持つのでこの可能性はなくなります。
(しかし、1/3*3=1とはなりません)

また、この副産物としてBCD(2進化10進数)を扱うクラスを作成しました。
RDBのNUMERIC型をそのまま保存できるので、DBとのインターフェースに使用できると思います。

« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »

Java」カテゴリの記事

コメント

とても魅力的な記事でした!!
また遊びに来ます!!
ありがとうございます。。

コメントを書く

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/544127/53174089

この記事へのトラックバック一覧です: 10進浮動小数点(Decimal64, 32)クラスを作成しました:

« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »