物理学解体新書

有効数字

HOME実験レポートの書き方データ処理の知識>有効数字

有効数字の計算処理

計算の基本は加減乗除である。
加減乗除によって、和差積商が得られる。
加減乗除を経ることによって、有効数字の桁数が変化する。
つまり「真の値が含まれる範囲」が広がるのだ。これは数値の精度が低下することを意味する。


ここを意識して適切な処置をしないと、計算値はあっていても、「真の値が含まれる範囲」が違ってきてしまう。
これでは正しいデータ解析とは言えない。


ここでは和差積商を求める場合の有効数字の扱いについて解説する。



和の場合

123.12345gの溶液に、45.3gの同種の液体を加えるとする。
この場合は精度の悪い方の有効数字に合わせて計算する。
精度の良い値と、精度の低い値を合計したら、答えは精度が低い方に埋もれてしまうからだ。

正誤計算式解説
×:誤123.12345+45.3=168.42345計算後に精度が高くなることはあり得ない。
:正123.12345+45.3=168.4精度が低い数値が全体の精度を決める。

有効数字よりも細かな数字は、無駄なので、有効数字の桁数に丸めなくてはならない

有効数字の和


差の場合

245.56789gの溶液から、32.4gを取り去るとする。
この場合は精度の悪い方の有効数字に合わせて計算する。
精度の良い値と、精度の低い値を合計したら、答えは精度が低い方に埋もれてしまうからだ。

正誤計算式解説
×:誤245.56789-32.4=213.16789計算後に精度が高くなることはあり得ない。
:正245.56789-32.4=213.2精度が低い数値が全体の精度を決める。

有効数字よりも細かな数字は、無駄なので、有効数字の桁数に丸めなくてはならない

有効数字の差

■次のページ:有効数字:数値の丸め方

このページのTOPへ



スポンサーリンク

2005/09/26
2009/12/16



スポンサーリンク

Amazon.co.jpアソシエイト



スポンサーリンク

Amazon.co.jpアソシエイト