そこで、前記誤差楕円における2本の位置の線X、Yの交差角を90°とし、それぞれX、Yの確率分布の標準偏差及び楕円の内部に船位のある確率が等しくσ(=σ1=σ2)、P(=P1=P2)とすると前記誤差楕円は誤差円となり、その半径R0はつぎの(3)式で表わせる。
ここで、前記誤差円の内部に船位のある確率が50%のときを基準と考え、P=0.5を(3)式に代入すると、その誤差円の半径R0は(4)式により得られる。
なお、簡単のため、以下係数は小数点以下4桁で表示する。
R0=1.774・σ …(4)
(4) 式によりその半径R0は標準偏差σと比例係数1.1774との積として得られる。また確率分布が正規分布の場合、分布面積の50%を占める位置の値として示される確率誤差rと標準偏差σとは一定の関係(r=0.6745・σ)にあるので(4)式は(5)式で表わすこともできる。
R0=1.7456・r(=1.1774・σ) …(5)
(4)式と(5)式の比例係数をA=1.1774、B=1.7456で表わすと(4)式と(5)式は(6)式の関係式になる。
R0=A・σ=B・r …(6)
(6)式の意味は、誤差円の内部に位置のある確率が50%の基準値のときに、この誤差円の半径R0は確率分布の標準偏差σまたは確率誤差rに比例し、この比例係数A、Bの値はそれぞれA=1.1774、B=1.7456となるということである。
つぎに、前記誤差円の内部に位置のある確率が50%以外の一般的な場合に拡張するため、前記比例係数Aの値をm乗したAmの場合を考える。(但し、Am>0、m>−∞とする)このAmは(7)式で表わすことができ、この場合の誤差円の半径をRmとすると、Rmはつぎの(8)式で表される。