ME-PH-01-P02 · 有効数字と計算結果の丸め

ME-PH-01-P02 有効数字と計算結果の丸め

• ブランド: Medvance
• 講座: 基礎講座
• 科目: 物理
• 章: 物理量と測定
• 前提: ME-PH-01-P01

今日のゴール

測定値の有効数字を正しく数え、掛け算・割り算と足し算・引き算で異なる丸め規則を適用できる。

受験での位置づけ

物理量は測定精度を含んだ数値である。電卓に多くの桁が表示されても、元の測定値以上の精度を主張してはいけない。有効数字は力学、熱、波、電磁気の数値計算すべてに共通する答案作法である。

この回のポイント

• 先頭の0は位取りなので有効数字に数えない
• 小数末尾の0は測定した桁を示すので数える
• 掛け算・割り算は最も有効数字の少ない値に合わせる
• 足し算・引き算は最も粗い小数位に合わせる
• 途中計算では1〜2桁多く保持し、最後に丸める

定義・用語

有効数字とは、測定値の中で意味をもつ桁である。$0.0120\ \mathrm{m}$ では、先頭の0は小数点の位置を示すだけで、有効な桁は1、2、末尾の0の3桁。末尾の0は「$0.0001\ \mathrm{m}$ の位まで測定した」という情報を表す。

科学表記 $a\times10^n$ を使うと桁数が明確になる。$1200\ \mathrm{m}$ が2桁なら $1.2\times10^3\ \mathrm{m}$、3桁なら $1.20\times10^3\ \mathrm{m}$ と書く。

核となる手順

1. 各測定値の有効数字または最終桁の位を確認する
2. 掛け割りか、足し引きかを判定する
3. 途中計算では必要桁より1〜2桁多く残す
4. 掛け割りは最少有効数字、足し引きは最も粗い位へ合わせる
5. 最後の1回だけ四捨五入し、単位を付ける

例題A

縦 $2.5\ \mathrm{cm}$、横 $4.20\ \mathrm{cm}$ の長方形の面積を、有効数字を考えて求めよ。

解答A

1. $2.5$ は有効数字2桁、$4.20$ は末尾の0を含めて3桁。
2. 面積は掛け算なので、結果は少ない方の2桁に合わせる。
3. 計算値は $2.5\times4.20=10.50$。
4. 2桁へ丸めると $11$。単位は面積なので $\mathrm{cm^2}$。
5. 答えは $11\ \mathrm{cm^2}$。

誤答比較

$10.50\ \mathrm{cm^2}$ とそのまま書くと、元の $2.5\ \mathrm{cm}$ がもつ2桁より高い4桁の精度を主張してしまう。反対に、途中で $4.20$ を $4.2$ としても数値は同じだが、測定精度の情報を勝手に捨てることになる。計算前は桁を保持し、最後に規則どおり丸める。

演習

(1) $0.0120\ \mathrm{m}$ の有効数字は何桁か。

(2) $12.3\ \mathrm{cm}+4.567\ \mathrm{cm}$ を適切な桁で答えよ。

(3) $6.00\ \mathrm{m}\div2.0\ \mathrm{s}$ を適切な桁で答えよ。

解答

(1) 先頭の0は数えず、1、2、末尾の0を数えるので3桁。

(2) 足し算では小数第1位までの $12.3$ に合わせる。計算値 $16.867$ を小数第1位へ丸め、$16.9\ \mathrm{cm}$。

(3) 有効数字は $6.00$ が3桁、$2.0$ が2桁。割り算なので2桁に合わせ、$3.0\ \mathrm{m/s}$。

落とし穴

• 小数末尾の0を消し、測定精度の情報を失う
• 掛け算と足し算で同じ丸め規則を使う
• 計算の各段階で丸め、丸め誤差を積み重ねる
• 電卓表示の全桁を答案に写す

到達チェック

• $0.0120$ が3桁である理由を説明できる
• 掛け割りと足し引きの規則を区別できる
• 科学表記で有効数字の桁数を明示できる
• 途中計算では保持し、最後に1回丸められる

次Part

ME-PH-01-P03では、測定誤差と相対誤差を扱う。