統計の考え方
第 5 回
(Stirling の公式 / Venn 図)
「測定値の扱い」
講義ノート目次
測定値の末位の位の数字は、1 つ下の位を四捨五入して得られた値と考える。
測定値が 13 (末位は 1 の位) のときの真の値 x の範囲
とは、1 つ下の位、すなわち小数第 1 位を取って、
12.5 ≤ x < 13.5
数直線で表すと
数直線で表すと分かりやすい。
誤差の程度
ある測定値を得たとき、
真の値との誤差がどの範囲にあるかというところを誤差の程度という。
この例では誤差は最大で 13 - 12.5 = 0.5 なので、
誤差の程度は 0.5 以下である。
小数第 1 位を四捨五入して 8 になる数 x
の範囲を、不等号を用いて表しなさい。
7.5 ≤ x < 8.5
小数第 2 位を四捨五入して、6.2 になる数 x の範囲を、
不等号を用いて表しなさい。
6.15 ≤ x < 6.25
次のような測定値が得られたとき、それぞれの真の値 x の値を不等号を用いて表しなさい。また誤差の程度を求めなさい。
- 39 kg
- 38.5 ≤ x < 39.5
誤差は最大で 39.5 ? 38.5 = 0.5
であるから、誤差の程度は 0.5 kg 以下。
- 25.70 m
- 25.695 ≤ x < 25.705
誤差は最大で 25.70 ? 25.695 = 0.005
であるから、誤差の程度は 0.005 m 以下。
25.7 と 25.70 は異なる。25.7 は小数第 2 位を四捨五入して得られた値で、
25.70 は小数第 3 位を四捨五入して得られた値。