有効数字

HOME＞ 実験レポートの書き方＞データ処理の知識＞有効数字

有効数字の取扱いの注意

末尾のゼロ

「34.6」と「34.60」は同一の値ではない。
信じていい範囲(真の値が含まれている範囲)が異なるからだ。
念のために比べてみよう。

小学校の算数で「34.60は34.6と書く」と習うが、これはあくまで数値としての話である。
計測の世界では、末尾のゼロを勝手に付けたり取ったりしてはならないのだ。
「真の値は34.55〜34.65の範囲」と言う代わりに「34.6」と表現するのだ。

先頭のゼロ

「3.46g」と「0.00346kg」は同一である。

範囲の幅に違いはない。
だから、両者の精度は同一なのだ。
位取りのために、先頭のゼロをつけたり、外したりしても有効数字に影響しない。

指数表記

「3.46g」は、有効数字３桁である。
単位をグラム(g)からmgに換算する。

「3460mg」にすると、末尾のゼロを付加することになり有効数字が変わってしまう。
「3.46×103 mg」のように、桁数を合わせて指数表記にすれば、有効数字は変わらない。
単位を変換する場合は、有効数字の桁数を変えてはならない。

次のページでは、有効数字の扱いや計算処理について解説しよう。

■次のページ：有効数字の計算処理

このページのTOPへ