スポンサーリンク

桁丸めメモ

全く世の中ってめんどくさいわ。

数値の丸め方 JIS Z 8401-1999
http://www.bsddiary.net/doc/jis-z8401.html

端数処理 – Wikipedia
http://ja.wikipedia.org/wiki/%E7%AB%AF%E6%95%B0%E5%87%A6%E7%90%86

IEEE 754 – Wikipedia
http://ja.wikipedia.org/wiki/IEEE_754#.E6.B5.AE.E5.8B.95.E5.B0.8F.E6.95.B0.E7.82.B9.E6.95.B0.E3.81.AE.E4.B8.B8.E3.82.81

コメント

タイトルとURLをコピーしました