有効数字

HOME＞ 実験レポートの書き方＞データ処理の知識＞有効数字

有効数字：数値の丸め方

数値の丸め方

「丸め」とは、長い桁数を有効数字n桁にするときの計算処置のことをいう。
「丸め」は、n+1桁目が４以下の場合、6以上の場合は、「四捨五入」と同等の処置をする。
しかし、n+1桁目が5の場合は、「四捨五入」とは異なる特殊な処置を必要とする。
5での「切り上げ」・「切り捨て」の確率を均等にして、平均誤差を小さくすることが狙いである。

このような「丸め」は、JIS Z 8401に準拠している。

■次のページ：有効数字の要点

このページのTOPへ