測定値の有効数字と誤差の考え方【超まとめ】

有効数字と実験
この記事は約5分で読めます。

測定値の有効数字と誤差の考え方【超まとめ】

 

測定値の有効数字と誤差

同じ物を測定しているのに,値が微妙に違う…

なんで?故障かな?

本記事は,このような「なぜ?どうして?」にお答えします.

 

こんにちは.

博士号を取得後,派遣社員として基礎研究に従事しているフールです.

今回は,有効数字とべき数について解説します.

「実験と何の関係があるの?」と思った人は,ぜひこの記事を読んでください!

それでは恒例のやりとりからどうぞ.

 

先生,マウスの重さが頻繁に変わります.

 

どういうこと?

 

故障

同じマウスの体重を連続で測ってみたら,毎回微妙に重さが違います.故障ですかね?

 

どのくらい違うの?

 

1回目は24.32 gで,2回目は24.36 gで,3回目は24.34 gでした.

 

誤差の範囲

それは「故障」ではなく,誤差の範囲ですね.

有効数字という言葉を聞いたことがあると思います.

理科系のテスト等で「有効数字3桁で答えなさい.」みたいな一文が文末にありませんでしたか?

その有効数字です.

私は,有効数字をちゃんと理解せずに計算結果をそのまま書いて減点され続けた人ですが(笑).

そんな私が言うのも難ですが,有効数字をちゃんと理解すると実験データの扱いも楽しくなりますよ!

 

サマリー・測定値の有効数字の最小桁は誤差を含みます.

・実験データの測定値の表記では「べき数」を使います.

測定値の有効数字の最小桁は誤差を含む

有効数字とべき数

有効数字とは「測定結果などを表す数字のうちで,位取りを示すだけのゼロを除いた意味のある数字」のことです*1

例えば,0.00987なら有効数字は「987」の3桁で,1009.0000なら有効数字は「1009」の4桁です.

でも「有効数字とは何ぞや」を知っていることが「実験室の当たり前」ではないですよ.

私がお伝えしたい「実験室の当たり前」は,測定値の有効数字の最小桁は誤差を含むということです.

冒頭の会話に戻りましょう.

学生は「1回目は24.32 gで,2回目は24.36 gで,3回目は24.34 gでした.」と言っていました.

測定値の有効数字の最小桁は誤差を含む」ということは,24.3までは信頼できるけど,2とか6とか4には誤差が含まれるということなのです.

*1日本工業規格(JIS) K0211

有効数字は測定機器ごとに異なる

有効数字は,測定機器ごとに異なります.

そして,測定器のタイプ(デジタル式またはアナログ式)で考え方も変わります.

測定機器がデジタル表示の場合

表示されている最小桁を有効数字とみなします

例えば,私が今日測定したチューブの風袋重量は1.096 gでした.

有効数字は「1.096」の4桁で,最小桁の「6」は誤差を含むことになります.

測定機器がアナログ表示の場合

最小目盛の1/10を有効数字とします

例えば,最小目盛が10 cmの巻尺(メジャー)では,有効数字は1 cmとなります.

円盤投げとかハンマー投げとかの飛距離が67.51 m*2だった場合,有効数字は4桁ですが,「1」は誤差を含むことになります.

*2実際の測定値は67 m 51 cmと表記するでしょう.また正式な競技では最小目盛が1 cmのメジャーを採用していると思います.

スポンサーリンク

有効数字はべき数で表記する

0.00987とか1009.0000のような書き方は,読みにくい,書きにくい,扱いにくいです.

実験データの測定値の表記では「べき数」を使うのが一般的です.

・0.00987 = 9.87×10-3
・1009.0000 = 1.009×103

べき数で表記することで有効数字が明確になるというメリットがあります.

例えば,98700を9.870×104とすれば有効数字は 4 桁ですが,9.87×104とすれば有効数字は 3 桁です.

もっと勉強したい方へ

・統計解析の理解に必要な基本を学びたい方へオススメです!

最後までお付き合いいただきありがとうございました.

次回もよろしくお願いいたします.

2019年11月22日 フール