数字1怎么自动变成1.00 1.0x10的三次幂精确到哪一位?有效数字是什么?

[更新]
·
·
分类:行业
2358 阅读

数字1怎么自动变成1.00

1.0x10的三次幂精确到哪一位?有效数字是什么?

1.0x10的三次幂精确到哪一位?有效数字是什么?

1.000×10的三次方有效数字是1,0,0,0,精确到个位。1.00×10的三次方有效数字是1,0,0,精确到十位。用科学记数法表示的数是a×10的n次方,有效数字是看前面的a这个部分,从左边第一个不是0的数开始,数到最后一个数位为止,而精确的数位要用结果来观察。

有效数字的运算规则是什么?

1. 确定有效数字的规则(非有效数字变成红色)

1.1 非零数字都是有效数字,例如123 mL为3位有效数字;
1.2 不是0的数字之间的“0”为有效数字,例如101 mL为3位有效数字;
1.3 非零数字前的“0”都不是有效数字,例如0.000101 mL为3位有效数字;
1.4 整数数字以“0”结尾时,无法确定其有效数字位数,可将这种整数转换成指数表示法。例如10000,无法确定有效位数。1.0×104(两位有效数字);1.00×104(三位有效数字,如此类推);
1.5 PH、PKa这类数值中小数位数才是有效数字。例如PH为11.20,有效数字是两位。
2. 有效数字的运算规则:
2.1 乘除运算,有效位数较多的近似数,比有效位数较少的多保留一位,计算结果应保留与有效位数少的那个数相同的位数。
例子:3.142×2.4≈3.14×2.47.536≈7.5
由于3.142(4位有效数字)、2.4(2位有效数字)、先将3.142约为3.14,再计算结果,结果为7.536,结果保留与2.4一致的两位有效数字,即为7.5。
2.2 加减运算,小数点之后的位数,取运算数字中小数位数最少的小数位数。也可比最少位小数多保留一位小数再运算。
例子,求以下3个数之和:15.01,1283.9,3.168。
结果:15.01 1283.9 3.168≈15.01 1283.9 3.171302.08≈1302.1。
当小数和为整数,“0”不可省略。
12.43 5.761 132.811≈12.43 5.76 132.81151.00。
2.3 乘方和开方,可看作是乘除运算,其规则与乘除运算一致。
2.4 如运算所得的数据还要进行再运算,则该数据的有效位数可比应截取的位数暂时多保留一位。
例如某实验要求结果保留3位有效数字,进行平行实验。2个结果可先保留4位有效数字,取平均值后再修约成3位有效数字。
2.5 表示误差范围的参数,如测量不确定度、标准差等,其有效位数一般为一位,最多为两位。
3.数字的修约规则:
3.1 四舍六入五成双。
简单来说就是数字最后一位是4,则舍去,6则进1。大于5,进1;小于5,不进;为5时,前一位数是奇数,舍5进1,为偶数,舍5不进。例子,以下数字保留3位有效数字:1.114,1.116,1.1149,1.1151,1.115,1.125。
结果分别为:1.11,1.12,1.11,1.12,1.12,1.12。
3.2 不可连续修约。
若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根据以上各条作一次处理。如2.154546,只取3位有效数字时,应为2.15,二不得按下法连续修约为2.16:(2.154546→2.15455→2.1546→2.155→2.16)
4.其他规则:
4.1量纲及给定数字为精确数字。
例如某人身高67.50 in,折合多少厘米?(1 in2.54 cm)
67.50(4位有效数字)×2.54(量纲,精确数字,这里不能把2.54当成3位有效数字,应该为无限位有效数字,根据乘除运算规则,取精度最小的有效数字位数为4)
67.50 in×(2.54 cm/1 in)171.5 cm
例如某人身高171.5 cm,其腿长为身高的0.58倍,折合腿长多少厘米。171.5(4位有效数字)×0.58(精确数字,这里不能把0.58当成2位有效数字,应该为无限位有效数字,根据乘除运算规则,取精度最小的有效数字位数为4)
171.5×0.5899.47 cm