Open棟梁Project - マイクロソフト系技術情報 Wiki

目次

概要

特に小数点を持つ数値の計算を行う場合は、以下の点に考慮する。

桁溢れ

動作

オーバーフロー

アンダーフロー

コンパイラ オプション

.NETはコンパイラ オプションでオーバーフロー、アンダーフローのチェックが可能である。

キーワード / ステートメント

コンパイラ オプションで設定したオーバーフロー、アンダーフローのチェックの既定の動作を変更したい場合は、

小数点を持つ値の計算

問題

特に小数点を持つ数値の計算を行う場合は、以下の点に考慮する。

丸め誤差

打ち切り誤差

0.3333....

桁落ち

計算結果が0に極端に近くなる加減算

情報落ち

計算結果が0に極端に近くなる加減算

Decimal

特に小数点を持つ金額の計算には、Decimalを用いる。

Decimalの特徴を以下に示す。

Decimalの特徴

参考資料


Tags: :.NET開発


トップ   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS