内容发布更新时间 : 2024/12/25 9:24:57星期一 下面是文章的全部内容请认真阅读。
如果对你有帮助,请下载使用!
有效数字和数值的修约及其运算 编制部门:质量管理部 起草人 年月日 分发部门 年月日 审核人 年月日 编号:HYJT/SMP01-08-2011 批准人 页数: 1/5 起草原因:新订□修订□ 说明: 颁发部门 质量管理部 执行日期 年月日 目的:规范标准溶液(滴定液)管理规程 范围:适用于公司检验用标准溶液 职责:质量管理部对本规程实施负责 内容:
本规程系根据国家标准GB8170—87《数值修约规程》制订,适用于检验工作中除生物检定统计法以外的各种测量或计算而得的数值。1.有效数字的基本概念1.1. 有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。1.2.有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何位数,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位);n也可以是负数,如n=-1、10-l=0.1(十分位),n=-2、10-2=0.01(百分位)。1.3. 有效位数 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效数,应写作35×103或3.5×104。
在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,0.320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。
非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位。例如分子式“H2S04”中的“2”和“4”是个数;常数π、e和系数2等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml”、“25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定。 有效数字和数值的修约及其运算 编制部门:质量管理部 编号:HYJT/SMP01-08-2011 页数:1/5 pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真
1
如果对你有帮助,请下载使用!
数的乘方次数。如pH=11.26([H+]=5.5×10-12mol/L),其有效位数只有两位。
有效数字的首位数字为8或9时,其有效位数可以多计一位。例如:85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。
2. 数值修约及其进舍规则
2.1. 数值修约 是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
2.2. 修约间隔 是确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。 2.3. 确定修约位数的表达方式 指定数位
指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。 指定修约间隔为1,或指明将数值修约到个数位。
指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”数位。
指定将数值修约成n位有效位数(n为正整数)。
在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常为百分位或千分位。 2.4. 进舍规则
拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1将12.1498修约到一位小数(十分位),得12.1。 例2将12.1498修约成两位有效位数,得12。
拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。
例1将1268修约到百数位,得13×102。 例2将1268修约到三位有效位数,得127×10。 例3 将10.502修约到个数位,得11。
拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1修约间隔为0.1(10-1) 有效数字和数值的修约及其运算 编制部门:质量管理部 拟修约数值修约值 1.0501.0
2
编号:HYJT/SMP01-08-2011 页数:3/5 如果对你有帮助,请下载使用!
0.3500.4
例2 修约间隔为1000(或103) 拟修约数值修约值
25002×10335004×103例3 将下列数字修约成两位有效位数拟修约数值修约值 0.03250.032
3250032×103 在相对标准偏差(RSD)中,采用“只进不舍”的原则,如0.163%、0.52%宜修约为0.17%、0.6%。
不许连续修约拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则(
例 修约15.4546,修约间隔为1
正确的做法为:15.4546→15;不正确的做法为:15.4546→15.455→15.46→15.5→16。 为便于记忆,上述进舍规则可归纳成下列口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。但在按英、美、日药典方法修约时,按四舍五入进舍即可。
3. 运算规则 在进行数学运算时,对加减法和乘除法中有效数字的处理是不同
的。3.1. 许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准,以确定其它数值在运算中保留的位数和决定计算结果的有效位数。
3.2. 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。
3.3. 在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。 有效数字和数值的修约及其运算 编制部门:质量管理部 编号:HYJT/SMP01-08-2011 页数:4/5 例113.65+0.00823+1.633=?
本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其它各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进行运算:
13.65+0.008+1.633=15.291
最后对计算结果进行修约,15.291应只保留至百分位,而修约成15.29。 例214.131×0.07654÷0.78=?
本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。
3