Combination of analytical methods to detect gross errors of levelling data

Wang Wei, Zhang Chuanyin, Ke Baogui, Jiang Tao

(Chinese Academy of Surveying and Mapping, Beijing 100830, China)

Abstract: For the situation of gross error detection of levelling data, for example, single detection method or the unclear detection level, etc., in order to improve the level of gross error detection, this paper proposes the joint use of loop closure network and Baarda detection method. In the simulation experiments, the choice of tolerances in Baarda detection method and different gross error were studied. We found that portfolio analysis method can effectively detect gross errors in levelling data, and improve the accuracy and reliability of the results, and provide a reference for gross error detection in actual projects.

Keywords: gross error detection, levelling network, misclosure, hypothesis testing, Baarda detection method

1 引言

水准观测数据中的粗差往往是不可避免的。受主观因素或观测条件突然变化影响，如仪器操作不当和计算错误等，水准观测数据与实际情况产生不符，造成粗差影响。当水准观测值存在粗差时，在采用最小二乘方法进行平差中，由于最小二乘估值不具有抗干扰性，造成平差精度降低[1]。如果不能有效的剔除或消除粗差影响，将不能得到准确的结果。

粗差探测将有助于找到含有较大误差的观测值，如果此观测值是多余观测，剔除后将提高平差成果的精度水平。目前粗差探测方法有假设检验、抗差估计和拟准检定等 [1-4]。无论是假设检验还是抗差估计，研究对象都是以最小二乘法的观测值残差为基础的，残差直接受到粗差干扰，当系统结构较差，粗差较大时不含粗差的观测值的残差可能受到影响[2]。抗差估计和拟准检定法分别在构造通用的权函数方面和拟准点的选择方面存在难点[2,5]。此外，还可采用GPS数据进行外部检测[6]。这些方法都有各自的优势和缺点，同时在具体应用中存在适用性问题，单一的采用某探测方法将对探测结果的可靠性和准确性产生影响。

本文针对目前水准粗差探测中限差选择标准、粗差探测水平不明确等问题，提出将环闭合差分析与Baarda探测法联合的组合分析方法，有效利用两者的方法优势，进行粗差探测，提高探测结果的准确性。

2 环闭合差分析与Baarda探测法组合分析

测量规范规定水准网环闭合差应满足一定的条件限值，例如国家一等网水准环闭合差不超过，二等水准网环闭合差不超过，其中S为环线长度。根据闭合差超限情况，可以评价水准观测数据的质量和粗差情况。独立闭合环的闭合差超限并不能确定其中的某边是否超限，但是利用多个联系在一起的闭合环，分别计算闭合差，如果闭合差超限的两个闭合环有公共边，此公共边存在粗差的可能性非常大，作为粗差处理，然后再次检核闭合差，直到符合规范要求。这种粗差探测方法简单有效，但是会随着构建闭合环的情况发生变化，对于粗差较多情况不适用，可作为粗差粗略探测。

除了环闭合差分析，可采用假设检验、抗差估计、拟准检定等方法进行更精细的粗差探测。Baarda探测法作为假设检验的一种，将标准化残差作为检验粗差的统计量[7]。标准化残差是观测值的最小二乘残差与残差中误差之比，即，式中是最小二乘残差，是残差的中误差。当观测值没有粗差时，服从标准正态分布，设是双尾概率为的标准正态分布的分位数，为显著水平值。当时，认为观测值存在粗差，须将其剔除后重新平差。

作者简介：王伟：男，博士，助理研究员，主要研究方向为物理大地测量和卫星重力学。Email:wangwei@casm.ac.cn 

中误差可根据进行解算，其中是给定的单位权中误差，需要预先设定。是的权倒数。设对应的观测值是k1、k2两点之间的观测高差，可得的权倒数为： ，

、、是法方程系数矩阵逆阵中的元素。

采用Baarda探测法进行粗差探测的步骤为：

（1）进行普通最小二乘平差计算；

（2）计算观测值的标准化残差，并从中挑出绝对值最大的标准化残差；

（3）对绝对值最大的标准化残差进行检验，若小于，则认为观测值不再有粗差，结束搜索，转到下一步；反之，将该残差剔除，转步骤（1）进行循环；

（4）输出剔除粗差之后的平差成果。

Baard探测法每次只能剔除一个粗差，当存在几个粗差时，需要逐个进行检验。由于显著水平的选择等问题，导致限差标准随之变化，单独采用Baarda探测法可能会产生探测偏差。因此，本文提出将环闭合差分析和Baarda探测法进行组合分析。首先根据闭合环情况，计算各独立闭合环的闭合差，根据闭合差是否超限确定大的明显的粗差，然后根据Baarda探测法进行探测，与环闭合差探测结果进行比较分析，提高探测准确性。为了测试这种组合分析方法的有效性和可靠性，通过以下模拟实验进行不同粗差水平的探测。

3 模拟计算

图1 水准网示意图

Fig.1 Schematic of levelling network

如图1所示，共有6个高程点，9段观测高差，观测值的每千米观测中误差为0.001m，已知点A高程为0.000m，高差和距离观测值如表1所示，假设数据不含粗差。

表1  水准观测高差和距离

Tab.1 Height and distance observation of levelling

为了试验环闭合差探测与Baarda探测法在不同粗差水平下的探测效果，以及组合分析方法的准确性，分别进行以下两组实验：（1）实验一观测数据中存在一个粗差；（2）实验二观测数据中存在两个粗差。

3.1 实验一：存在一个粗差

对观测值h5添加粗差值，分别计算各个环闭合差情况，闭合差限差采用。当观测值h5的值大于59.805时，误差为0.025m时，即误差超限率大于0.025/59.780=0.042%时，能够通过闭合差检测出。通过计算发现观测值h1-h2-h5构成的环一和观测值h4-h5-h6构成的环二闭合环超限，根据相邻闭合环超限情况，可认为两环的公共边存在粗差，探测出h5含粗差。

采用Baarda探测法进行水准粗差探测时，当设定一个较小的限差，计算结果显示观测值h5和h9存在粗差，粗差探测不准确。为获得Baarda探测法的探测水平，选择不同的显著水平值，进行粗差探测，对应的可探测粗差如图2所示。从图2中可得到，当存在2cm的粗差时，可以通过设置显著水平为0.120探测出。误差小于2cm时，此方法探测出现错误。根据统计情况，实际粗差探测中，设置显著水平以0.001左右值为宜。

图2 不同显著水平值对应的可探测粗差

Fig.2 Difference significant levels correspond to the detectable gross error

当探测出粗差后，如果多余观测数较多，可以舍弃含粗差的观测值后进行平差计算。表2是无粗差高程和去掉部分观测值后的平差高程。如果粗差探测不准确，没有剔除粗差或去掉了较好的观测值，都将导致平差结果精度降低。

表2 无粗差平差高程和去掉部分观测后的平差高程

Tab.2 Adjustment elevation without gross error and adjustment elevation after removing part of the observation

3.2实验二：存在两个粗差

将观测值h1和h6分别添加粗差0.15m和-0.05m，进行粗差探测。进行环闭合差检验，发现超限的有三个环，公共边有观测值h5和观测值h6，不能很好的确定粗差所在的情况。因此，利用环闭合差是否超限只能是在数据质量较好的的情况下进行粗差探测。

选择显著水平为0.001进行Baarda粗差探测，能够探测出粗差所在观测值为h1和h6。为保证粗差探测的准确性，进一步结合环闭合差进行分析。两种方法探测出共同粗差观测值h6，可推测观测值h6存在粗差。

当去掉观测h6后，对环闭合差超限情况进行计算，发现仍有两个环存在超限情况。闭合环一存在严重误差0.160m，限差0.015m;由环二和环四组成新环的闭合差为-0.018m，限差0.015m。闭合环一的偏差比新环的闭合差大得多，它们之间存在公共边h5, 但是如果是公共边问题，两个环应该都出现严重偏离，从而推测环一中观测值h1的问题更大。这与通过Baarda探测法得到的观测值h1存在粗差一致。表3是去掉粗差后的计算高程。通过表3可以发现，如果舍弃h1和h6后计算准确性比单独去掉h6后更接近真值，h1和h6都含有粗差。

表3 无粗差平差高程和去掉部分观测后的平差高程

Tab.3 Adjustment elevation without gross error and adjustment elevation after removing part of the observation

实验发现，通过环闭合差与Baarda探测法的组合分析方法，能够有效的探测水准数据粗差。两种方法进行有效组合分析，能够发挥两者优势，提高数据探测的准确性和可靠性。

在粗差探测后，如何处理粗差是一个需要进一步考虑的问题。在多余观测数较多的情况下，可以直接舍弃含粗差观测值；如果多余观测值较少，舍弃含粗差观测值后将有可能破坏水准网型，使计算结果产生大的偏差。

4 结语

利用环闭合差分析在数据质量较好的的情况下有较好的粗差探测效果，Baarda探测法可能随限差的选择不同产生偏差。针对水准粗差探测单一方法的不足，本文将环闭合差和Baarda探测法组合分析用于水准数据的粗差探测，通过实验发现此组合方法能够有效进行粗差探测，提高探测的准确性和可靠性，而且该方法简单易操作，可应用于具体工程。

参考文献：

[1] Cen M., Li Z. et.al, Gross error diagnostics before least squares adjustment of observations[J]. Journal of Geodesy, 2003,77(9): 503-513

[2] 欧吉坤. 再论拟准检定法的原理、实施和应用[J]. 测绘工程,2002,11(4):3-6

[3]陶本藻, 王泽文. 未标定的粗差检验问题[J]. 测绘学报, 1990,19(1):15-21

[4]归庆明,宫轶松,李国重,李保利. 粗差探测的Bayes方法[J]. 测绘学报,2006,35(4):303-307

[5] 刘根友,郝晓光,柳林涛. 粗差检定的两种途径[J]. 大地测量与地球动力学, 2005, 25(3):29-33

[6 ]Poutanen M. Use of GPS in unification of vertical datums and detection of levelling network errors[A]. Geodesy and surveying in the future—the importance of heights[C]. Proceedings of the seminar. 1999: 15-17.

[7]宋力杰. 测量平差程序设计[M]. 北京：国防工业出版社,2012.