GB 17378.2-1998 海洋监测规范 第2部分：数据处理与分析质量控制

GB17378.2-1998

前言

本标准是海《洋监测规范》的第2部分，是在HY003.2-91行业标准的基础上修订而成的。本标准

是海洋监测的数据处理与分析质量控制的技术规定。

海《洋监测规范》包括下列部分:

GB17378.1-1998海洋监测规范第1部分:总则

GB17378.2-1998海洋监测规范第2部分:数据处理与分析质量控制

GB17378.3-1998海洋监测规范第3部分:样品采集、贮存与运输

GB17378.4-1998海洋监测规范第4部分:海水分析

GB17378.5-1998海洋监测规范第5部分:沉积物分析

GB17378.6-1998海洋监测规范第6部分:生物体分析

GB17378.7-1998海洋监测规范第7部分:近海污染生态调查和生物监测

本标准附录A是提示的附录。

本标准由国家海洋局提出。

本标准由国家海洋标准计量中心归口。

本标准由国家海洋环境监测中心负责起草。

本标准主要起草人:张春明、陈邦龙、汪惠昌、李乃兰、徐维龙。

中华人民共和国国家标准

海洋监测规范

GB17378.2一1998

第2部分:数据处理与分析质量控制

Thespecificationformarinemonitoring

Part2:Dataprocessingandqualitycontrolofanalysis

1范围

本标准规定了海洋监测的术语及符号，离群数据的统计检验，两均数差异的显著性检验，分析方法

验证，内控样的配制与应用，分析质量控制图等。

本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测

的数据处理及实验室内部分析质量控制。海洋大气，污染物入海通量调查、海洋倾废和疏浚物调查等也

可参照使用。

2引用标准

下列标准所包含的条文，通过在本标准中引用而构成为本标准的条文，本标准出版时，所示版本均

为有效。所有标准都会被修订，使用本标准的各方应探讨使用下列标准最新版本的可能性。

GB8170-87数值修约规则

3定义

本标准采用下列定义。

3.1实验室样品laboratorysample

可送达实验室进行分析、测试的样品，分为原始样、分析样、测定样。

3.2原始样rawsample

现场采集的初始样品。

3.3分析样analyticalsample

需要经过预处理，才能进人测定的样品。

3.4测定样testsample

能够直接送交测定的待测物质的样品。

若分析样不需任何处理，分析样与测定样是一致的。

3.5平行样parallelsample

取自同一个样本互相独立的样品。

3.6标准空白standardblank

标准系列中零浓度的响应值。

3.7分析空白analysisblank

在与样品分析全程一致的条件下，空白样品的测定结果。

3.8校准曲线calibrationcurve

国家质f技术监督局1998一06一22批准1999一01一01实施

标准分享网免费下载

GB17378.2一1998

样品中待测项目的量值(X)与仪表给出的信号值(Y)之间的相关曲线。校准曲线分为标准曲线和工

作曲线。

3.9工作曲线workingcurve

标准系列的测定步骤与样品完全相同的校准曲线。

3.10标准曲线standardcurve

标准系列的测定步骤比样品有所简化的校准曲线。

3.11方法灵敏度methodsensibility

某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。

3.12检出限(Xrv)detectionlimit

分析方法的检出限是指95%概率，能定性区别于零的最低浓度或量。

3.13测定下限(Xa)limitofdetermination

是具有给定的概率(如9500)，在定量上可检出非零的最低浓度或量。

3.14第一类错误(a错误)typeIerror(aerror)

原假设为真而被拒绝，又称弃真。例如，被测物为零的假设原本是正确的，却被错误地拒绝，而误判

为检出，反之亦然。

3.15第二类错误(A错误)type1errorQ3error)

原假设不真，但被接受，又称存伪。例如，被测物为零的假设，本是错误的，却被错误地接受，而判成

未检出，反之亦然。

3.16未检出undetection

低于检出限XH的测定结果。

3.17精密度precision

在规定条件下，相互独立的测试结果之间的一致程度。

注:精密度仅依赖干随机误差，而与被测量的真值或其他约定值无关。

3.18极差(R)range

样本中最大值与最小值之差。

3.19偏差(D)deviation

各个单次测定值与平均值之差。

3.20相对偏差(RD)relativedeviation

样本分量与样本均值之差再与样本均值之比。

3.21标准偏差standarddeviation

样本分量与样本均值之差的平方和除以样本量减1的平方根

S=一X)z

n-11}}-,X(

式中:S—标准偏差;

X一一各次测定值;

X—平均值;

n重复测定次数;

当n妻20时:S=n1},_-,X(,-Xye

3.22相对标准偏差(RSD)relativestandarddeviation

样本标准偏差与样本均值之比。

3.23重复性repeatability

GB17378.2一1998

在重复性条件下，相互独立的测试结果之间的一致程度。

3.24重复性条件repeatabilitycondition

在同一实验室，由同一操作者使用相同的设备，按相同的测试程序在短时间内，对同一被测对象相

互独立进行的测试条件。

3.25再现性reproducibility

在再现性条件下，测试结果之间的一致程度

3.26再现性条件reproducibilityconditions

在进行测试的实验室，操作者，测试设备，测试程序(方法)，测试时间有本质变化的情况下，对同一

被测对象相互独立进行的测试条件。

3.27准确度accaracy

测试结果与被测量真值或约定真值间的一致程度。

3.28R」试误差errorofatest

测试结果与被测量的真值(或约定真值)之差。

测试误差包括系统误差和随机误差。

3.29系统误差systematioerror

在对同一被测量的多次测量中，它保持不变或按某种规律而变化

注:系统误差及其引起的原因可以是已知的，也可以是未知的

3.30随机误差randomerror

在对同一被测量的多次测试中，它受偶然因素影响而以不可预知的方式变化。

注:偶然误差是不可能被修正的。

3.31统计量statistic

样本的函数，它不依赖于未知参数。

4有关规定

4.1现场原始工作记录在指定的表格上用硬质铅笔书写、字迹端正，不得涂抹。需要改正错记时，在错

的数字上划一横线，将正确数字补写在其上方。

4.2正确地记录与修约有效数字的位数，按5.1给出的方法记取，不得任意增减数字的位数，以保证数

据的精确度。

4.3原始工作记录是重要的技术档案资料，应按其保存价值，分类规定出归档要求。

4.4表示测试结果的量纲及其有效数字位数，应参照该分析方法中具体规定填报。若无此规定时，一般

J性原则是:一个数据中只准许末尾一个数字是估计(可疑)值，其他各数字都是有效(可信)的，依此决定

整数及小数的有效位数。因量纲的变化不作小数取位的硬性规定，有关计算方法的细节，见第5章。

4.5低于检出限x、的测试结果，应报“未检出”，但在区域性监测检出率占样品频数的1/2以上(包括

1/2)或不足1/2时，未检出部分可分别取x、的1/2和1/4量参加统计运算。

4.6未执行业务主管部门规定的质量控制程序所产生的数据，视为可疑数据，可疑数据不得用于海洋

环境质量及海洋环境影响评价

4.了测试平行样品也是分析质量控制的方法之一。原则规定，不与内控样同步测定的项目，一律测试双

平行分析样，只有个别测项如溶解氧、水中油类等须测原始样双平行(此类不必测分析样双平行)。海水

双样的相对偏差允许值，若原方法无此规定，则按表1执行。

沉积物和生物体双样相对偏差表见GB17378.5和GB17378-6}

标准分享网免费下载

GB17378.2一1998

表1海水平行双样相对偏差表

分析结果所在数量级10-0

相对偏差容许限，%t1olo-`一汁t3o-0'to5击A+B一X100%

4.8天然样品加标回收率，不得越出方法给出范围值。若无此规定，参照表2,

表2回收率容许值表

浓度或含量范围"F'H/I.回收率，%

<10060-110

>10080-110

>100090--110

容量及重量法95-105

4.9在海洋监测中，若采用本规范以外的分析方法，必须按规定做方法对比验证工作，报请业务主管部

门批准备案。

5数据处理

5.1有效数字和数值修约

5.1.1有效数字

0,1,2,3,4,5,6,7,8,9这些数码叫数字，一个以上的数字组合构成一个数值。在一个数值中每个数

字所占位置叫数位，小数点后的第一位叫十分位，以下依次为百分位、干分位……;小数点前的第一位叫

个位，其前位依次为十位、百位、千位…。

一个数值中每个数位上的数字都应是有效的，只有末位数字允许是估计数字，但其波动辐度不得大

于士1。例如末位数字为5时可能是4或6，而其余的各个数字都是可信的数字(定位。例外)。

表达一个数值中由几个数字组成的，叫有效数字位数。位数的多少，除了反映量值的大小之外，在分

析领域中还反映该数值的准确程度。例如。.67058草酸钠，这一数值在量值上为。.6-0.78之间，在

准确程度上，可信数字截取在千分位上的。，在万分位的数字5是可疑的，但其波动范围小于。.0002g.

数码“。”的作用变化较多，一个数值中“0"是否为有效数字，要根据“0"的位置及其前后的数字状况

而定。常见的有以下四种情况:

位于非“0""数字之间的“o"，如2.005,1.025两个数值中的三个“。”都是有效数字。

位于非“o;数字后面的一切“0^都是有效数字(全整数尾部“。”例外)。如2.2500,1.025。。

5门.1.3前面不具非零数字的“o^，如。0025中的三个“0”都不是有效数字，只起定位作用。

5.，.1.4整数中最后的o“^，可以是有效数字，也可以不是。例如用普通天平称取1.58试剂，若必须用

mg表示，则要写成1500mg，此数值中最后两个“o'^从表观上是有效数字，但实际上不是，因为粗天平

不能达到如此高的准确程度。为了避免误解，可用指数形式表示，上例可记为1.5X10'mg，或记为

1500mg士100mg这便明白地表示出只有两位有效数字。

5.1.2数据的原始记录

数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度，从正确地记录

原始数据开始，对任何一个有计算意义的数据都要审慎地估量，正确地记载有效数值的位数。例如

50ml滴定管的最小分度值为。1mL，又因为允许增加一位估计数字，可以记录到两位小数，如

12.34ml。记下这一数值表明十分位上的3是刻度指示值，确切可信;百分位上的4则是估计判读的，

是可疑数字，并知其波动范围为0.02mL，其相对误差为((0.02/12.34)X100%=0.1600。若在原始记录

中仅记为12.3ml，则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一

个数量级。但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真，因为不可能估计出

GB17378.2一1998

两位数字。原始记录的有效数字位数，既不可少，也不可多。记取的原则是根据仪器、

仪表指示的最小分

度值如实记录并允许增记一位估计数字。

实验室通用的计量仪表可记取的位数如下:

万分之一天平小数点后第四位即万分位。

上皿天平小数点后第二位即百分位。

分光光度计吸光值记到小数点后第三位即千分位

玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定。

常见的一等量器准确容量的记录按表3和表40

表3一等无分度移液管准确容量的表示MI

容量示值允许差准确容量

2士0.0062.00

3士0.0063.00

5士0.015.00

10士0.0210.00

15士0.0315.00

20士0.0320.00

25士0.0425.00

50士0.0550.00

100士0.08100.0

表4一等量入式量瓶准确容量的表示MI.

容量示值允许差准确容量

10士0.0210.00

25士0.0325.00

50士0.0550.00

100士0.10100.0

200士0.10200.0

250士0.10250.0

500士0.1s500.0

1000士0.301000.0

2000士0.502000.0

5门3近似计算规则

为了确保最终结果的数值中只包含有效数字(定位“。”例外)，在运算中要遵守下列规则:

5门.3门加减运算最终计算结果中保留的小数有效位数，应与参加运算的数值中小数位数最少者相

同例:

11.14+5.91225=17.05225~17.05

11.14一5.91225=5.22775~5.23

上例最终结果只能保留两位小数，因为11.14的末位数字4本身就不可信，其后的数字则更不可

门一1书

乘除运算得数经修约后，保留的有效数字位数应与参加运算的几个数值中有效数字位数最

标准分享网免费下载

GB17378.2一1998

少者下‘臼日同

乐不八j3对数运算对数的有效数字位数应和原数(真数)的相同。

乐卞砚Jl4平方、立方、开方运算计算结果的有效数字位数应和原数的相同

5tJ，5!、·和万、厅、告等的有效位数，须参照与之相关的数据决定保留的位数。

乐lCJJ6来自一个正态总体的一组数据，多于4个时，其平均值的有效数字位数可比原数的增加一位。

乐下qJ7用于表示方法或分析结果精密度的标准差，其有效数字的位数一般只取一位;当测定次数很

多时可取两位，且最多只能取两位。

报告分析结果有效数字位数.应根据分析方法的精密度即标准差的大小决定。通常可取四分

之一个标准差的首数所在数位，定为分析结果的尾数。例如某一测定结果为25.352，标准差为1.4，四分

之一标准差为。.35，其首位数字所在数位是十分位，即定为该结果的末位，可报为25.4

5.1.4数值修约

数值修约详见GB8170-87有关规定。

5.1.车在拟舍弃的数字中，若左边第一个数字小于5(不包括5)时则舍去，即拟保留的末位数字不

变。

例如将14.2432修约到保留一位小数

修约前修约后

14.243214.2

在拟舍弃的数字中，若左边第一个数字大于5(不包括5)时，则进一，即所拟保留的末位数字

加一“

例如将26.4843修约到只保留一位小数:

修约前修约后

26.484326.5

5.14.3在拟舍弃的数字中，若左边第一个数字等于5，其右边的数字并非全部为“。”时则·进一;若5

的右边皆为“0，拟保留的末位数字若为奇数则进一，若为偶数(包括“。)，’则不进。

例如将下列数值修约到只保留一位小数

修约前修约后

0.35000.4

0.45000.4

1.05001.0

5.1.44所拟舍弃的数字，若为两位以上数字时，不得连续进行多次修约，应根据所拟舍弃数字中左边

第一个数字的大小.按上述规定一次修约出结果。

例如将15.4546修约成整数。

正确的做法是:

修约前修约后(结果)

15.4546

不正确的做法

GB17378.2一1998

修约前一次修约二次修约

15.454615.45515.46

三次修约四次修约(结果)

15.516

在修约计算过程中对中间结果不必修约将最终结果修约到预期位数。

5.2异常值的统计检验

一组(群)正常的测定数据，应是来自具有一定分布的同一总体;若分析条件发生显著变化，或在实

验操作中出现过失，将产生与正常数据有显著性差别的数据，此类数据称为离群数据或异常值

仅怀疑某一数据可能会歪曲测定结果，但尚未经过检验判定为异常值时，称此数据为可疑数据〔

5.2门可疑数据的检验

剔除离群数据.会使测定结果更客观;若仅从良好愿望出发，任意删去一些表观差异较大并非离群

数据，虽由此得到认为满意的数据，但并不符合客观实际。因此，对可疑数据的取舍，必须参照下述原则

处理

5.2.1门仔细回顾和复查产生可疑值的试验过程，如果是过失误差，则舍弃

5.2.12如果未发现过失，则要按统计程序检验，决定是否舍弃。

5.2.2异常值的判别准则

5.2.2.1计算的统计量不大于显著性水平a=0.05的临界值，则可疑数据为正常数据，应保留。

5.2.2.2计算的统计量大于-0.05的临界值但又不大于a=0.01的临界值，此可疑数据为偏离数

据，可以保留，取中位数代替平均数值。

5.2-2.3计算的统计量大于。=0.01的临界值，此可疑值为异常值，应予剔除，并对剩余数据继续检

验，直到数据中无异常值为止。

5.2.3异常值的检验方法

常用的检验方法如下。

5.2.3.1Dixon检验法

用于一组测定数据的一致性检验和剔除异常值检验。

步骤:

:.将重复，次的测定值从小到大排列为X,.Xx.X,X.;

n.按表5列公式，求算Q值;

c.根据选定的显著水平a和重复测定次数。，查表6得临界值Q;

d按5.2.2条的判别准则，决定取舍。若Q>Qa.of，则可疑值为异常值，舍弃。

若Qo.o,<Q-<Q.m,则可疑值为偏离值，可以保留，取中位数代替平均数值

若Q毛Qa.o,，则可疑值为正常值，保留。

例:一组测定值按从小到大的顺序排列为14.56,14.90,14.90,14.92,14.95,14.96,15.00,15.00,

15.01,15-02

检验最小值14.56是否为异常值。

可疑值为最小值X时，按下式计算统计量Q:

X,一X,14.90一14.56

=0.755

X-,一X15.01一14.56

当n=1}，显著性水平a=0.01,查表6临界值为。.597,

0.755>0.597

Q>Q.。

标准分享网免费下载

GB17378.2一1998

判定最小值X,为异常值，应予剔除。

表5Dixon检验统计量(Q)计算公式

，值范围可疑数值为最小值X:时可疑数值为最大值X时

3-7Qo纂:聋Q,一XX--,,1X_X,

_X--X_-

8-10Q一萦井头6hi=-花;，--下夕-

J、旅一碑、2

11^-13Q,一X禹,Qzl一冬毅兰

14^-25Qzc一XX.-,-z-XX},Qn一XX.-.-XX.-,,

表6Dixon检验临界值(Q.)表

显著性水平(a)显著性水平(a)

刀

0.100.050.010.100.050.01

一

30.8860.9410.988150.4720.5250.616

40.6790.7650.899160.4540.5070.595

50.5570.6420.780170.4380.4900.577

60.4820.5600.698180.4240.4750.561

70.4340.5070.637190.4120.4620.547

80.4790.5540.683200.4010.4500.535

90.4410.5120.635210.3910.4400.524

100.4090.4770.597220.3820.4300.514

110.5170.5760.679230.3740.4210.505

120.4900.5460.642240.3670.4130.497

130.4670.5210.615250.3600.4060.489

140.4920.5460.641

Grubbs检验法

用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一

致性检验。

步骤:

设有L组数据，各组平均值分别为XX,,XL

1)将L个均值按大小顺序排列，最大均值记为X,，最小均值记为7-m;

2)由L个均值(又)‘计算总均值灭和标准偏差::

X=艺.X一、_{X(三;

1.

式中:X;—代表各组均值

3)根据可疑值又~或虱分别按下式计算统计量t，或:2;

t,=X一三t，一X立Xm,

4)根据给定的显著性水平a和组数L查表7得临界值;

5)按5.2.2条的判别准则，决定取舍;

6)若本法用于实验室内一组数据检验时，将组数L改为测定次数n，将各组平均值又，改为单次测

定值X。

342

Gs17378.2一1998

例有10个实验室分析同一样品，其平均值分别为4.41,4.49,4.30,4.51,4.64,4.75,4.81

4.95,5.01,5.39，检验最大值5.39是否为离群值。

乙。X-

X一瑞=4.746=4.75

NJ|||||艺(X一X)}

万月今1

一-

一0.3051=0.31

10一1

X5.39一4.75

t,=2.11

0.31

当L=10,a=0.05，查表7临界值(T,)为2.18,

判定:2.11G2.18,t,GT最大值5.39为正常值。

表7Grubbs检验临界值(Te)表

显著性水平(a)}”著性水平((a)

L0.050.0250.010.005}L。·05。025。·010.005

31.1531.1551.1551.155

41.4631.4811.4921.496

51.6721.7151.7491.764

61.8221.8871.9441.973

71.9382.0202.0972.139

82.0322.1262.2212.274

92.1102.2152.3232.387

102.1762.2902.4102.482

112.2342.3552.4852.564

122.2852.4122.5502.636

132.3312.4622.6072.699

142.3712.5072.6592.755

152.4092.5492.7052.806

162.4432.5852.7472.852

172.4752.6202.7852.895

182.5042.6512.8212.932

192.5322.6812.8542.968

202.5572.7092.8813.001

212.5802.7332.9123.031

222.6032.7582.9393.060

232.6242.7812.9633.087

242.6442.8022.9873.112

252.6632.8223.0093.135

262.6812.8413.0293.157

272.6982.8593.0493.178

282.7142.8763.0683.199

292.7302.8933.0853.218

5.2-3.3Cochran最大方差检验法

用于多组测定值的方差一致性检验和剔除离群方差检验。

步骤:

设有L组数据，每组测定，次，标准差分别为SIIS2'S7fSL;

343

标准分享网免费下载

GB17378.2一1998

1)将L个标准差((s,)按大小顺序排列，最大者记为5。，;

2)计算统计量C;

c一二势乙

艺S,'

之钾1

若n=2，即每组只有两次测定时，各组内差值分别为RR2,R,RL，则要按下式计算统计量C;

R

xa

一

L-

C=

-

、R

-

3)根据选定的显著性水平a、组数L,测定次数n查表8得临界值Co;

4)按5.2.2条异常值的判别准则，决定取舍。

例16个实验室分析同一样品，各实验室5次测定的标准差分别为。.84,1.30,1.48,1.67,1.79

2.17。检验6个实验室是否为等精度。

其中:Sm..=2.17

c一LSm'一而0.84王2布+1.302'.+17'^"""份7V一。3·08

艺S}

根据选定水平a=0.05,L=6,，一5，查表8得临界C。为。.480;

判定:0.308<0.480,C<Co.a6个实验室的测定数据为等精度，2.17`为正常方差，应予保留

例27个实验室分析同一样品，各实验室两次测定的差值分别为。.0,0.1,0.1,0.2,0.2,.0.2

。9。检验极差。.9的实验室与其他实验室的测定是否为等精度。

C一R2._-0.91=0.850

0.01+0.1z+0.V+……+0.91

艺R?

官‘1

选定显著性水平a=0.01,L=7,n=2,查表8得临界值C。为0.838.

判定;0.850>0.838,C>Co.o,,0.9}属于离群方差，。.9与其他实验室的测定精度不等，应予剔除。

表8Cochran最大方差检验临界值(Ca)表

砚=2”二3月=4n=5刀=6

L

-0.01a=0.05a=0.01-0.05a=0.01a=0.05-0.01a=0.05-0.01-0.05

20.9950.9750.9790.9390.9590.9060.9370.877

30.9930.9670.9420.8710.8830.7980.8340.7460.7930.707

40.9680.9060.8640.7680.7810.6840.7210.6290.6760.590

50.9280.8410.7880.6840.6960.5980.6330.5440.5880.506

60.8830.7810.7220.6160.6260.5320.5640.4800.5200.445

70.8380.7270.6640.5610.5680.4800.5080.4310.4660.397

80.7940.6800.6150.5160.5210.4380.4630.3910.4230.360

90.7540.6380.5730.4780.4810.4030.4250.3580.3870.329

100.7180.6020.5360.4450.4470.3730.3930.3310.3570.303

110.6840.5700.5040.4170.4180.3480.3660.3080.3320.281

120.6530.5410.4750.3920.3920.3260.3430.2880.3100.262

130.6240.5150.4500.3710.3690.3070.3220.2710.2910.246

140.5990.4920.4270.3520.3490.2910.3040.2550.2740.232

150.5750.4710.4070.3350.3320.2760.2880.2420.2590.220

160.5530.4520.3880.3190.3160.2620.2740.2300.2460.208

170.5320.4340.3720.3050.3010.2500.2610.2190.2340.198

180.5140.4180.3560.2930.2880.2400.2490.2090.2230.189

344

GB17378.2一1998

表8(完)

刀=2刀=3n=4n=5n=6

l.

a--0.01-0.05-0.01-0.05a=0.01-0.05a=0.01a=0.05-0.01a=0.05

190.4960.4030.3430.2810.2760.230