統計の考え方 第 3 回 (順列) 「近似値の表し方」 講義ノート目次

有効数字をあらわにに記すために、 a × 10n (n は整数)

と表すことがある。

24 = 2.4 × 10 有効数字は 2 桁。整数部分を 1 桁で表す
0.24 = 2.4 × 10-1 有効数字は 2 桁。整数部分を 1 桁で表す
314 = 3.14 × 102 有効数字は 3 桁。整数部分を 1 桁で表す
0.0314 = 2.4 × 10-2 有効数字は 3 桁。整数部分を 1 桁で表す

ある本の重さを測ったら 800 g であった。 このとき次の問に答えよ。

  1. 有効数字が 2 桁のとき、整数部分が 1 桁の小数と 10 のべきの形で表せ。
  2. 有効数字が 3 桁のとき、整数部分が 1 桁の小数と 10 のべきの形で表せ。
  1. 有効数字が 2 桁のとき、8 と 0 だけを使って、8.0 × 102
  2. 有効数字が 3 桁のとき、8 と 0 と 0 を使って、8.00 × 102

次の測定値について、 整数部分が 1 桁の小数と 10 のべきの形で 表せ。

  1. 米粒 1 個の重さを測定したら 0.210 g であった。(有効数字 3 桁)
  2. マツ花粉の直径を測定したら 0.0052 cm であった。(有効数字 2 桁)
  1. 有効数字 3 桁は 2 1 0 であるので、2.10 × 10-2
  2. 有効数字 2 桁は 5 2 であるので、5.2 × 10-3