誤差百分率ε(%)は
と定義される。計器の等級は誤差百分率を示し、1級の計器は誤差が定格値の1%以内であることを表している。
5・3・2 測定値の有効数字
測定値は数字で示される。測定値の中の誤差がある数字を沢山並べても意味がない。数字の中から必要な数字を有効数字と呼ぶ。有効数字は無効数字を四捨五入して表示する。円周率π＝3.141592…は無限に続く数であるので計算に必要な有効数字に四捨五入する。
3桁のπ＝3.14…4桁目の1以下は切り捨てる。
4桁のπ＝3.142…5桁目の5は繰り上がって4桁目の1が2となる。
測定値の有効数字に注意が必要である。3.140の測定値の意味は
5桁目が4以下で切り捨てた場合：3.1403→3.140
5桁目が5以上で繰り上げた場合：3.1395→3.140(4桁目も繰り上げられて3桁目が3から4に上がる)
3.140の4桁目の0には5桁目で四捨五入をしたことが意味されている。同様に3.1400の指示値は6桁目の測定値を四捨五入したことを示している。このように測定値の最後の桁に0がある場合に0を勝手に取り去ることはできない。
測定値の計算に有効数字を考慮する必要がある。2つの測定値を加える場合
A＝3.14、B＝0.00053
のときA＋B＝3.14＋0.00053＝3.14053
と書いてもAの小数点以下3桁目に誤差が含まれているので小数点以下4桁目に有効数字があるBの測定値はAの誤差の中に含まれてしまうのでA＋B＝3.14とする。
有効数字が指定されていない場合の測定値は通常3桁で表示する。
