有効数字

HOME＞ 実験レポートの書き方＞データ処理の知識＞有効数字

有効数字の読み取り時の注意

デジタル計測器の有効数字

今までは、主にテスターやメスシリンダーなどアナログの計測器を題材にしたが、測定値がそのまま表示されるデジタルテスターにも有効数字は適用される。
ただし、デジタルテスターには目分量がない。

デジタルテスターは表示全体が有効数字と見なしてよいだろう。
無論、本体や取扱説明書を読んで有効数字が何桁であるは把握する必要がある。
後述するが、有効数字に桁数が不明だと、測定値の計算処理ができない。

読み取り時の注意

目盛りを読む視点によって、読み取り値が異なってくる。これを視差という。
視差が生じないように読み取らなくてはならない。

視差なく正しく読み取るためには、目盛りに対して真正面から針を見る必要がある。

目盛り面に鏡があるメーターがある。このようなメーターでは、実物の針と鏡に写った針が重なるように読み取ると視差が生じない。
鏡が変形しているたり、曇っていると、読み取りの誤差になるのでこのようなメーターは使用できない。

また、計測器が熱的に安定していない場合は、ゼロ点が揺れる場合がある。
これをドリフトという。
ドリフトが生じるとデータの再現性が低下する。ドリフトがなく安定した状態で測定しなくてはならない。

視差やドリフトに注意しないと、測定値の不確かさが有効数字に収まらない。
視差やドリフトは測定値の信頼性に大きく影響を与えるので実験中は特に関心を持たねばならない事項だ。
言い換えると、これらが考察ネタになる。
測定誤差の要因として、ミラーの変形や曇りを列挙し、以下のように考察にすることができる。当然コピペはしてはいけない。

同時に「レポートの記載項目の説明＞考察」も参照して欲しい。
くどいが、コピペは厳禁である。

■次のページ：有効数字の取扱いの注意

このページのTOPへ