
測定値の平均値を計算機で出したら怒られた…
何がダメだったのかな?
本記事は,このような「なぜ?どうして?」にお答えします.

こんにちは.
博士号を取得後,派遣社員として基礎研究に従事しているフールです.
前回,「測定値の有効数字の最小桁は誤差を含む」とお話しました.

本記事もこれに関連した内容です.
それでは,学生と教員のやりとりを見ていきましょう.

これから付属農場に行きましょう!
牛の体重を測定します.

全頭ですか?
何頭いるんですか?

さすがに全頭は測りません(笑).
無作為に抽出した70頭にしましょう!

それでも70頭か...
(1時間後)

測定が終わりました.
居室に戻ったら,体重の平均値と標準偏差を計算してください.

はーい!
(数十分後)

先生,体重の平均は209.7671 kgで,標準偏差は19.43436909です.

体重計の有効数字以上の桁数まで求める必要はありますか?

でも,計算機で計算した結果なので正しいですよね?

計算が正しいかどうかではありません.その数値に意味があるかどうかです.
皆さんは,測定値の丸め方をどのように行っていますか?
平均値や標準偏差を計算すると,有効数字の桁数よりも下の桁まで数字が出てくることがあります.
この時,どのように数値を丸めるのが良いと思いますか?
また,計算で得られた数値を,さらに別の計算で使う場合はどうでしょうか?
計算の途中で有効数字の桁数まで四捨五入したりしていませんか?
数値の丸め方を間違えると,実験データを過少または過大評価する原因となりますよ.
本記事では,その辺りを説明したいと思います.
サマリー・「測定値の有効数字の最小桁は誤差を含む」は,計算結果にも引き継がれます.
・計算途中で測定値は丸めません.
・数値の丸め方にも規格が存在します.
計算結果は機器の有効数字の桁数に合わせる
牛70頭分の体重データは以下の通りです(単位:[kg]).
なお,今回使用した体重計はデジタル測定器で0.1 kgまで測定可能でした.
改めて平均値と標準偏差を計算すると,確かに平均値は209.7671で,標準偏差は19.43436909でした.
さて,この数値に意味があるかどうかですが…
結論から言うと体重の平均値という観点からは,何の意味もありません.
体重計の有効数字は?
使用した体重計では0.1 kgまでしか測定できない機器でした.
「測定値の有効数字の最小桁は誤差を含む」は,計算結果にも引き継がれるので,209.7671の209まで(19.43436909の19まで)は信頼できます.
でも,小数第一位の7(小数第一位の4)には誤差が含まれると考えます.
そして,小数第二位以下には信頼性は無いと考えます.
よって,小数第二位を四捨五入して測定値を丸めます.
以上より,今回測定した牛の体重の平均値は209.8で,標準偏差は19.4となります.
計算結果をさらに別の計算で使うとき,その数値は丸めない
今回得られた牛の平均体重を基に,農場にいる全ての牛の平均値の区間推定をするとしましょう.
数式や計算方法の説明は割愛しますが,以下のどちらが適切だと思いますか?
正解は①です.
測定値の有効数字が引き継がれますが,計算途中で測定値を丸めることはしません.
最終的に得られた計算結果に対して 1 度だけ四捨五入して,測定値の有効数字に合わせます.
①の計算結果は205.1466 – 214.3896なので,記録の表記は205.1– 214.4とします.
数値の丸め方にも規格が存在する
測定値を小数第 n 位に丸めるとき,小数第(n+1)位の数字を四捨五入するのが一般的ですよね.
ただ,機械的に四捨五入をするだけで良いのでしょうか?
例えば,小数第(n+1)位の数字の大半が5未満だったらどうでしょうか?
大半の測定値は切捨てられたことになります.
逆に,小数第(n+1)位の数字の大半が5以上だったらどうでしょうか?
大半の測定値は切上げられたことになります.
日本工業規格(JIS)は,切捨てと切上げの割合を均等にするための方法として,小数第(n+1)位以下の数値を見て判断する方法を定めています*1.
それによると,数値の丸め方は3通り存在します.
以下は,数値を小数第一位に丸める例になります.
小数第(n+1)位の数字が 5 以外のとき
① 小数第(n+1)位の数字が 5 以外のときは,通常の四捨五入をします.
小数第(n+1)位の数字が 5 のとき
② 小数第(n+1)位の数字が 5 のとき,小数第(n+2)位の数値が0でなければ,切り上げます.
③ 小数第(n+1)位の数字が 5 で,且つ,小数第(n+2)位以下の数値が不明(あるいは0)であるときは,ちょっと厄介です.小数第 n 位が偶数ならば切り捨て,小数第 n 位が奇数ならば切り上げます.
*1JIS Z 8401
もっと勉強したい方へ
以下の書籍は,オススメです!
いかがでしたでしょうか?
明日からは,計算結果をそのまま表記したり,数値を機械的に丸めたりしないでくださいね.
最後までお付き合いいただきありがとうございました.
2019年11月24日 フール