10進浮動小数点(Decimal64, 32)クラスを作成しました
10進浮動小数点(Decimal64, Decimal32)を扱うクラスを作成しました。
通常の2進浮動小数点(double等)では10進数を正確に表せなくなる可能性がありますが、
10進浮動小数点では10進数でデータを持つのでこの可能性はなくなります。
(しかし、1/3*3=1とはなりません)
また、この副産物としてBCD(2進化10進数)を扱うクラスを作成しました。
RDBのNUMERIC型をそのまま保存できるので、DBとのインターフェースに使用できると思います。
« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »
「Java」カテゴリの記事
- 文字コード自動判別(2013.05.04)
- バイト列から文字へのエンコード(2013.05.04)
- 10進浮動小数点(Decimal64, 32)クラスを作成しました(2011.11.06)
- JSONパーサを作成しました(2011.08.21)
- 開平法(2011.06.19)
コメント
この記事へのコメントは終了しました。
« コミックマーケット81に当選しました | トップページ | 半精度/単精度(2進)浮動小数点・10進浮動小数点をサポートしました »
とても魅力的な記事でした！！
また遊びに来ます！！
ありがとうございます。。
投稿: あろえ | 2012年6月25日 (月) 18時07分