内容发布更新时间 : 2024/12/22 2:06:16星期一 下面是文章的全部内容请认真阅读。
单击画面开始播放
中间运算结果的有效位数
加减运算的结果末位以参与运算的末位最高的数为准。
如11.4+2.56=14.075-10.356=65
乘除运算结果的有效位数多少以参与运算的有效位数
最少的数为准,可比其多取一位。
如4000×9=3.6×1042.000÷0.99=2.00
用计算器进行计算时中间结果可不作修约或适当多取
几位(不能任意减少)。
测量结果表达式中的有效位数
u的有效位数,取首位大于3时,取1位
首位小于或等于3时,一般取例:估算结果u=0.548mm时,取为时,取为1 ~2位
2位
u=0.5mm
总不确定度
被测量值有效位数的确定
X=x±u(x)中,被测量值x的末位要与不确定度u(x)的末
位对齐(求出x后先多保留几位,求出的末位)
例:环的体积
2
4
2436.9)( 1
不确定度分析结果
V=9.44±0.04cm
3
即:不确定度末位在小数点后第二位,测量结果的最后一位也取到小数点后第二位。
u(x)决定x
32
3
u(x),由
最终结果为:
数据的修约
测量结果的正确表达:测量结果的有效位数应与不确定度的最后一位对齐。
例如:某测量结果为
它的不确定度为
最终结果表达为
(单位)
修约的原则大于5 进位,小于5 舍去,等于
5 凑偶。(50,51)