「測定値とその丸め方」については、新人研修の中でも説明しています。私の担当ではありませんでしたが、ポイントだけまとめておきます。今まで、腑に落ちていない手順がありました。資料の２ページ目にその手順を載せておきます。
資料はこちら → 有効数字
p.1 「有効数字」は２つの表現で示します。「最小桁数」あるいは「全桁数」です。「最小桁数」は、「小数点以下○位まで有効とか１の位まで有効」という言い方になり、「全桁数」は、「有効数字○桁 」という言い方になります。大きいあるいは小さい数値の場合、累乗で示す頃がありますね。アボガドロ数6.022×1023［mol-1］と書かれている場合は、全桁数で４桁となります。 小数点以下第２位まで有効なときは、0.60の第２位のゼロを省略していけません。全桁数表示の場合、先頭の０はカウントしません。 次に、測定値の丸めについて説明します。規格値5.2mmの部品について、小数点以下第３位まで測定可能な測定器を使用して、測定値5.146 mmが得られました。第３位を四捨五入して5.15mm、第２位を四捨五入して5.2mmのような２段階の丸めは禁じられています。第３位は無視し、第２位を四捨五入して、5.1mmとなります。通常、規格値の一つ下の桁の数値を四捨五入します。 次は、記録帳票の記載方法です。左の記載は正しくありません。先ず、生の測定値が書かれていません。また、どのように処理したかについても追うことができないからです。２段丸めにすると「合格」になってしまいます。 右のように生の測定値を記載し、第２位を四捨五入したことがわかるように斜線を書きます。今回は切り捨てになるので第１位は訂正していませんが、p.2で示すように切上げの場合は訂正して数値を記載します。 今回は赤字で斜線を書いていますが、手順書で指定した色で訂正ください。 規格値と測定値が近くにあった方が比較対照できるのでお勧めです。
p.2 数値の丸め方については、JIS Z 8401に記載があります。一般的な丸め方は、丸めの桁より一つ小さい桁を用いて四捨五入にします。「四捨五入をすると数値を大きく見積もる懸念がある場合」は、①〜③の手順で丸めます。私は、この手順③の偶数・奇数によって丸め方を変えるという点について腑に落ちていません。例えば、右のような場合、小数点以下第２位が５の場合、第３位の数値が不明な場合、手順③では第１位が偶数か奇数かで切捨てか切上げが変わります。 この手順によると、小数点以下第１位は常に偶数にしかならないのです。 脱線しますが、通常、最小目盛の10分の1まで読むと言われていますが、実際には４分の１くらいしか読めないことの方が多いですね。目盛を読み取り難い場合は、上述に倣って末尾が０、２、４、６、８と読むのが良いのかもしれません。 この①〜③の手順は、「四捨五入をすると数値を大きく見積もる懸念がある場合」と言っていますが、どうも「計算を何度も実施する場合」に、プラス方向に誤差が加算されるのを防止するために、バランスをとっているためのようです。 まだ、腑に落ち無いですね。また新たな知見が入ったら、報告します。 丸めでは、一般的には四捨五入とありますが、規格範囲外を非とする場合は、取決めにより、下限値は切り上げ、上限値は切り下げとしてもよいと考えます。ただし、自分達の考え方を明文化しておく必要があります。
因みに、四捨五入以外の方法の話 → 五捨六入、五捨五超入、二捨三入・七捨八入
データインテグリティが注目されていますので、数値の取り扱いには注意しましょう。
本日の相田みつを語録は、「体験してはじめて 身につくんだな」です。