実験で測定した数値の丸め方【超まとめ】

測定値の有効数字
この記事は約8分で読めます。

実験で測定した数値の丸め方【超まとめ】

 

測定値の平均値を計算

測定値の平均値を計算機で出したら怒られた…

何がダメだったのかな?

本記事は,このような「なぜ?どうして?」にお答えします.

 

こんにちは.

博士号を取得後,派遣社員として基礎研究に従事しているフールです.

前回,「測定値の有効数字の最小桁は誤差を含む」とお話しました.

測定値の有効数字と誤差の考え方【超まとめ】
実験で得られた測定値の有効数字と誤差についてまとめました.測定対象を定量する実験系では,得られた数値の扱い方や受け取り方に注意が必要です.

本記事もこれに関連した内容です.

それでは,学生と教員のやりとりを見ていきましょう.

 

これから付属農場に行きましょう!

牛の体重を測定します.

 

全頭ですか?

何頭いるんですか?

 

さすがに全頭は測りません(笑).

無作為に抽出した70頭にしましょう!

 

それでも70頭か...

 

(1時間後)

 

測定が終わりました.

居室に戻ったら,体重の平均値と標準偏差を計算してください.

 

はーい!

 

(数十分後)

 

先生,体重の平均は209.7671 kgで,標準偏差は19.43436909です.

 

体重計の有効数字以上の桁数まで求める必要はありますか?

 

でも,計算機で計算した結果なので正しいですよね?

 

計算が正しいかどうかではありません.その数値に意味があるかどうかです.

 

皆さんは,測定値の丸め方をどのように行っていますか?

平均値や標準偏差を計算すると,有効数字の桁数よりも下の桁まで数字が出てくることがあります.

この時,どのように数値を丸めるのが良いと思いますか?

また,計算で得られた数値を,さらに別の計算で使う場合はどうでしょうか?

計算の途中で有効数字の桁数まで四捨五入したりしていませんか?

数値の丸め方を間違えると,実験データを過少または過大評価する原因となりますよ.

本記事では,その辺りを説明したいと思います.

スポンサーリンク

サマリー・「測定値の有効数字の最小桁は誤差を含む」は,計算結果にも引き継がれます.

・計算途中で測定値は丸めません.

・数値の丸め方にも規格が存在します.

計算結果は機器の有効数字の桁数に合わせる

牛70頭分の体重データは以下の通りです(単位:[kg]).

なお,今回使用した体重計はデジタル測定器で0.1 kgまで測定可能でした.

牛の体重の記録

改めて平均値と標準偏差を計算すると,確かに平均値は209.7671で,標準偏差は19.43436909でした.

さて,この数値に意味があるかどうかですが…

結論から言うと体重の平均値という観点からは,何の意味もありません

体重計の有効数字は?

使用した体重計では0.1 kgまでしか測定できない機器でした.

測定値の有効数字の最小桁は誤差を含む」は,計算結果にも引き継がれるので,209.7671の209まで(19.43436909の19まで)は信頼できます.

でも,小数第一位の7(小数第一位の4)には誤差が含まれると考えます.

そして,小数第二位以下には信頼性は無いと考えます.

よって,小数第二位を四捨五入して測定値を丸めます.

以上より,今回測定した牛の体重の平均値は209.8で,標準偏差は19.4となります.

計算結果をさらに別の計算で使うとき,その数値は丸めない

今回得られた牛の平均体重を基に,農場にいる全ての牛の平均値の区間推定をするとしましょう.

数式や計算方法の説明は割愛しますが,以下のどちらが適切だと思いますか?

計算結果をさらに別の計算で使うときは数値を丸めない

正解は①です.

測定値の有効数字が引き継がれますが,計算途中で測定値を丸めることはしません

最終的に得られた計算結果に対して 1 度だけ四捨五入して,測定値の有効数字に合わせます.

①の計算結果は205.1466 – 214.3896なので,記録の表記は205.1– 214.4とします.

スポンサーリンク

数値の丸め方にも規格が存在する

測定値を小数第 n 位に丸めるとき,小数第(n+1)位の数字を四捨五入するのが一般的ですよね.

ただ,機械的に四捨五入をするだけで良いのでしょうか?

例えば,小数第(n+1)位の数字の大半が5未満だったらどうでしょうか?

大半の測定値は切捨てられたことになります.

逆に,小数第(n+1)位の数字の大半が5以上だったらどうでしょうか?

大半の測定値は切上げられたことになります.

日本工業規格(JIS)は,切捨てと切上げの割合を均等にするための方法として,小数第(n+1)位以下の数値を見て判断する方法を定めています*1

それによると,数値の丸め方は3通り存在します.

以下は,数値を小数第一位に丸める例になります.

小数第(n+1)位の数字が 5 以外のとき

① 小数第(n+1)位の数字が 5 以外のときは,通常の四捨五入をします.

小数第1位の数字が 5 以外のときは通常の四捨五入をする

小数第(n+1)位の数字が 5 のとき

② 小数第(n+1)位の数字が 5 のとき,小数第(n+2)位の数値が0でなければ,切り上げます.

通常の四捨五入により切り上げる

③ 小数第(n+1)位の数字が 5 で,且つ,小数第(n+2)位以下の数値が不明(あるいは0)であるときは,ちょっと厄介です.小数第 n 位が偶数ならば切り捨て,小数第 n 位が奇数ならば切り上げます.

偶数ならば切り捨て,奇数ならば切り上げる

*1JIS Z 8401

もっと勉強したい方へ

以下の書籍は,オススメです!

 

いかがでしたでしょうか?

明日からは,計算結果をそのまま表記したり,数値を機械的に丸めたりしないでくださいね.

最後までお付き合いいただきありがとうございました.

2019年11月24日 フール