測量の誤差

1)有効数字

 物理的に意味のある数字、桁数(1mm単位の定規で0.01mmの位まで測定しても意味は無い、物理的に意味のあるのは0.1mmの位まで)

2)有効数字のけた数と最終のけたの位

12300 = 5けた、1の位
1230   = 4けた、1の位
123   = 3けた、1の位
1.23   = 3けた、小数2位
1.230   = 4けた、小数3位
0.123   = 3けた、小数3位
0.0123  = 3けた、小数4位
0.00123 = 3けた、小数5位
 
例えば123000の数字で有効数字が3けたしか無い場合は次のように表示する。
  = 3けた、千の位
  = 3けた、百の位
  = 3けた、十の位 
 

3)数値の丸め方

 計算を行って端数がでた場合は有効数字のけた数にあわせて数値を丸める必要がある。【五捨五入法】 

 (1)有効数字の最終けたの端数がちょうど半分(5)になる場合、

  ・最終けたの数字が偶数であればその5は切り捨て

  ・最終けたの数字が奇数であればその5は切り上げ

例えば 124.5 で有効数字3けたにこの数値を丸めるのであれば、最終けたは一の位の4であるから、端数は最終けたの半分(0.5)であるから五捨五入を行う。

【例題1】有効数字3けたに丸めよ。

(1) 8.595   (2) 0.043950   (3) 124.500

(4) 893500   (5) 2.56501   (6)

 

(1) 8.60      (2) 0.0440     (3) 124

    (5) 2.57         (6)

【各問題の注意】

(1) 有効数字3桁の最終桁は小数2位の9である。それ以下がそのちょうど半分(0.005)であるから五捨五入を行う。9は奇数であるから切り上げる。小数2位の0は必要。

(2) 問題(1)と同様に有効数字3桁の最終桁は小数4位の9で、五捨五入を行う。

(4) 有効数字の最終桁は千位の3である。五捨五入で切り上げる。しかし、894000とすると有効数字は6桁になってしまうので という形式で表す必要あり。

 

 戻る