測定値にはいろいろな原因による誤差が含まれる。誤差を分類すると

　

　

　系統的誤差は予測や補正が可能だが偶然誤差は突発的に起きるので対応ができない。

　理想として求める測定値を「真の値、T」とする。「測定値、M」が得られたときの誤差εは

ε=M-T　（5・12）

誤差百分率ε（％）は

と定義される。計器の等級は誤差百分率を示し、1級の計器は誤差が定格値の1%以内であることを表している。

　

　測定値は数字で示される。測定値の中の誤差がある数字を沢山並べても意味がない。数字の中から必要な数字を有効数字と呼ぶ。有効数字は無効数字を四捨五入して表示する。円周率π＝3.141592・・・は無限に続く数であるので計算に必要な有効数字に四捨五入する。

3桁のπ＝3.14・・・4桁目の1以下は切り捨てる。

4桁のπ＝3.142・・・5桁目の5は繰り上がって4桁目の1が2となる。

測定値の有効数字に注意が必要である。3.140の測定値の意味は

5桁目が4以下で切り捨てた場合：3.1403　→　3.140

　5桁目が5以上で繰り上げた場合：3.1395　→　3.140（4桁目も繰り上げられて3桁目が3から4に上がる）

　3.140の4桁目の0には5桁目で四捨五入をしたことが意味されている。同様に3.1400の指示値は6桁目の測定値を四捨五入したことを示している。このように測定値の最後の桁に0がある場合に0を勝手に取り去ることはできない。測定値の計算に有効数字を考慮する必要がある。2つの測定値を加える場合

A=3.14、B=0.00053

のときA+B=3.14+0.00053=3.14053

と書いてもAの小数点以下3桁目に誤差が含まれているので小数点以下4桁目に有効数字があるBの測定値はAの誤差の中に含まれてしまうのでA+B=3.14とする。

　有効数字が指定されていない場合の測定値は通常3桁で表示する。