数値の丸め

かなり歴史のあるKBで.NETやC/C++に関する記述がないのも不満ですが、ある程度網羅的に製品・技術別に数値丸めの違いについてまとめられているので、かなり参考になります。

丸めを行うカスタム プロシージャを実装する方法
http://support.microsoft.com/kb/196652/ja

同じように動作しそうなRound()関数一つとってもこんな感じ。。。

  • SQL ServerのRound()は四捨五入
  • Excel関数のRound()は四捨五入
  • Excel VBAのRound()は銀行丸め
  • Visual Basic 6.0のRound()は銀行丸め

数値丸め(端数処理)に関してはWikipediaとかも参考に。ふつうJIS Z 8401で規則Aにしたがっていればたいていの工業系の計算は良いはずなのですが、何か世の中送うまく行かない。。

ちなみに.NETはJIS Z 8401での規則Aというか、IEEE 754 での最近接遇数への丸めが標準のようです。

One thought on “数値の丸め”

コメントを残す