となる。このとき、全ての観測量を同時に満足する位置を求めることはできず、一般に残差の自乗和が最も少なくなるような位置を求める。これが最小自乗解で、このとき、測位の結果と観測量の間には、観測量に誤差が存在しない場合を除いて、残差を残すことになる。衛星の観測量の誤差が少なければ、位置の精度が高いと同時に残差の自乗和は小さく、誤差が大きければ、位置の精度は悪く、残差の自乗和も大きいという性質を持つ。
故障検出は残差の量を評価して、衛星の故障を検出しようとするもので、残差の統計量(検出統計量)が一定のレベル(スレッショルド)を越えた場合、異常と判断するものである。
残差の統計的な性質はχ2分布に従い、各衛星の擬似距離の残差自乗和を自由度(衛星数-4)で除したものをRAIMの検出統計量としている。
故障検出における検出統計量のスレッショルドは、要求された誤警報率に依存し、故障検出の可否はHPL(Horizontal Protection Level)の値に依存する。
誤警報は、衛星が故障ではないにも拘わらず、検出統計量がスレッショルドを超え、故障と判断してしまう状態のことで、この率は10-5/Flight Hour以下とMOPSに規定されている。
HPLは測位結果が真値を中心に一定の率で入っていることが保証出来る範囲のことである(3.6.4項参照)。
正常時の衛星の擬似距離誤差(全ての誤差要因を擬似距離に換算して加えたもので、ここでは全衛星同一の大きさとする)がわかれば、χ2分布の自由度毎に、確率分布関数を求めることができる。この値が(1-誤警報の率)のときの検出統計量値がスレッショルドレベルとなり、この値より検出統計量が大きくなった場合は故障と判断する。(図2.2 a)
検出統計量の大きさと測位結果の誤差の大きさは比例関係にあり、その傾きは測位に使用した衛星配置によって異なり、衛星の方向余弦から計算で求めることが出来る。
ある衛星配置での測位を行った場合、故障と判断しない(検出統計量がスレッショルド以下)最も大きな誤差は、測位に使用した衛星1衛星毎の検出統計量と測位結果の誤差の関係を求め、この内最もその傾きが大きい(同一の検出統計量に対して最も測位誤差が大きい)ものの検出統計量がスレッショルドのときの測位結果の誤差である。これが当該衛星配置で測位結果の誤差を検出統計量で保証出来る範囲となる。この大きさをARP(Approximate Radial-error Protected)と称する。ARPに係数を乗じたものがHPLで、この値が定められた誤警報率のもとでRAIMによって保証できる位置の誤差となる。
図中、HAL(Horizontal Alert Limit)は飛行モード毎に定められた位置精度の要求値であり、HPLの値がHALを上回っておれば、その衛星配置に於いては、故障検出は行えない。(図2.2 b)