山下寛人オフィシャルブログ

オイシックス株式会社 執行役員 システム本部長 山下寛人の公式ブログです。

2011-07-31から1日間の記事一覧

Javaプリミティブ型小数の誤差

Javaのプリミティブ型のfloatやdoubleでは小数の誤差が発生します。これはコンピュータの内部では2進数で数を表現しているためです。10進数では小数点以下の桁数が有限でも2進数では無限になることがあります。そうすると一定の桁数以下では2進数では切捨て…