有效数字及数值修约

有效数字定义:

通常把只保留最后一位不准确数字,而其余数字均为准确数字的这种数字称为有效数字。也就是说,有效数字是实际上能测出的数字。

例如,我们用毫米尺测量一个物体的长度,读出物体的长度为32.31 cm,这个读数的前三位32.3 cm是直接从尺上读出,称为可靠数字,而最末一位0.0l cm则是从尺上最小刻度之间估计来的,称为存疑数字。可靠数字和存疑数字合起来,称为有效数字, 所以,32.31cm 一共有四位有效数字。但是,如果用其他精确度高一些的仪器(如大型千分尺),还能够更准确地进行测量。 例如,测得的数值为32.3142 cm ,这时有效数字增加到六位。 可见,有效数字的多少,表示了测量所能达到的准确程度,与一定的测量工具有关。

2. 有效数字位

对于一个有效数字,从左边的第一个非零数字算起,到最末一位数字为止,有几位数即为几位有效数字。

例如:

7.4000 54609 5位有效数字

33.15 0.07020 4位有效数字

0.0276 2.56×10-4 3位有效数字

49 0.00040 2位有效数字

0.003 4×105 1位有效数字

63000 200 有效数字位数不定

“0”在有效数字中的作用

(1)“0”在数字前,仅起定位作用,“0”本身不是有效数字,如0.0275中,数字2前面的两个0都不是有效数字,这个数的有效数字只有3位。

(2)“0”在数字中,是有效数字。如2.0065中的两个0都是有效数字,2.0065有5位有效数字。

(3)“0”在小数的数字后,也是有效数字如6.5000中的3个0都是有效数字。0.0030中数字3前面的3个0不是有效数字,3后面的0是有效数字。所以,6.5000是5位有效数字。0.0030是2位有效数字

(4)以“0”结尾的正整数,有效数字的位数不定。如54000,可能是2位,3位或4位甚至5位有效数字。这种数应根据有效数字的情况改写为指数形式。如为2位,则写成5.4×104;如为3位,则写成

5.40×104,等等。

有效数字的计算规则

(1) 进行数值加减时, 结果保留小数点后位数应与小数点位数最少者相同。

例如, 0.0121+12.56+7.8432

可先修约后计算, 即

0.01+12.56+7.84=20.41

(2) 进行数值乘除时, 结果保留位数应与有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67

可先修约后计算,

(0.0142×24.4×306)/28.7=3.69。

(3) 进行数值乘方或开方时, 结果有效数字位数不变。

例如, 6.542=42.8

数值修约:

现在被广泛使用的修约规则主要有四舍五入规则和四舍六入五留双规则。

1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。

2. 拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。

3. 拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。

4. 负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。 不允许连续修约

数值修约简明记忆口诀:

「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。

四舍六入五留双规则的具体方法是:

(一)当尾数小于或等于4时,直接将尾数舍去。

例如将下列数字全部修约为四位有效数字,结果为:

0.53664——0.5366 10.2731——10.27 18.5049——18.50 0.58344——0.5834 16.4005——16.40

(二)当尾数大于或等于6时,将尾数舍去并向前一位进位。 例如将下列数字全部修约为四位有效数字,结果为:

0.53666——0.5367 8.3176——8.318 16.7777——16.78 0.58387——0.5839 10.29501——10.30

(三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。 例如将下列数字全部修约为四位有效数字,结果为:

0.153050——0.1530 12.6450——12.64 18.2750——18.28 0.153750——0.1538 12.7350——12.74

(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。

例如将下列数字全部修约为四位有效数字,结果为:

0.326552——0.3266 12.73507——12.74 21.84502——21.85 12.64501——12.65 18.27509——18.28

按照四舍六入五留双规则进行数字修约时,一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。 例如:

将数字10.2749945001修约为四位有效数字时,应一步到位:10.2749945001——10.27(正确)。

10.2749945001——10.274995——10.275——10.28(错误)。

有效数字定义:

通常把只保留最后一位不准确数字,而其余数字均为准确数字的这种数字称为有效数字。也就是说,有效数字是实际上能测出的数字。

例如,我们用毫米尺测量一个物体的长度,读出物体的长度为32.31 cm,这个读数的前三位32.3 cm是直接从尺上读出,称为可靠数字,而最末一位0.0l cm则是从尺上最小刻度之间估计来的,称为存疑数字。可靠数字和存疑数字合起来,称为有效数字, 所以,32.31cm 一共有四位有效数字。但是,如果用其他精确度高一些的仪器(如大型千分尺),还能够更准确地进行测量。 例如,测得的数值为32.3142 cm ,这时有效数字增加到六位。 可见,有效数字的多少,表示了测量所能达到的准确程度,与一定的测量工具有关。

2. 有效数字位

对于一个有效数字,从左边的第一个非零数字算起,到最末一位数字为止,有几位数即为几位有效数字。

例如:

7.4000 54609 5位有效数字

33.15 0.07020 4位有效数字

0.0276 2.56×10-4 3位有效数字

49 0.00040 2位有效数字

0.003 4×105 1位有效数字

63000 200 有效数字位数不定

“0”在有效数字中的作用

(1)“0”在数字前,仅起定位作用,“0”本身不是有效数字,如0.0275中,数字2前面的两个0都不是有效数字,这个数的有效数字只有3位。

(2)“0”在数字中,是有效数字。如2.0065中的两个0都是有效数字,2.0065有5位有效数字。

(3)“0”在小数的数字后,也是有效数字如6.5000中的3个0都是有效数字。0.0030中数字3前面的3个0不是有效数字,3后面的0是有效数字。所以,6.5000是5位有效数字。0.0030是2位有效数字

(4)以“0”结尾的正整数,有效数字的位数不定。如54000,可能是2位,3位或4位甚至5位有效数字。这种数应根据有效数字的情况改写为指数形式。如为2位,则写成5.4×104;如为3位,则写成

5.40×104,等等。

有效数字的计算规则

(1) 进行数值加减时, 结果保留小数点后位数应与小数点位数最少者相同。

例如, 0.0121+12.56+7.8432

可先修约后计算, 即

0.01+12.56+7.84=20.41

(2) 进行数值乘除时, 结果保留位数应与有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67

可先修约后计算,

(0.0142×24.4×306)/28.7=3.69。

(3) 进行数值乘方或开方时, 结果有效数字位数不变。

例如, 6.542=42.8

数值修约:

现在被广泛使用的修约规则主要有四舍五入规则和四舍六入五留双规则。

1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。

2. 拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。

3. 拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。

4. 负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。 不允许连续修约

数值修约简明记忆口诀:

「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。

四舍六入五留双规则的具体方法是:

(一)当尾数小于或等于4时,直接将尾数舍去。

例如将下列数字全部修约为四位有效数字,结果为:

0.53664——0.5366 10.2731——10.27 18.5049——18.50 0.58344——0.5834 16.4005——16.40

(二)当尾数大于或等于6时,将尾数舍去并向前一位进位。 例如将下列数字全部修约为四位有效数字,结果为:

0.53666——0.5367 8.3176——8.318 16.7777——16.78 0.58387——0.5839 10.29501——10.30

(三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。 例如将下列数字全部修约为四位有效数字,结果为:

0.153050——0.1530 12.6450——12.64 18.2750——18.28 0.153750——0.1538 12.7350——12.74

(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。

例如将下列数字全部修约为四位有效数字,结果为:

0.326552——0.3266 12.73507——12.74 21.84502——21.85 12.64501——12.65 18.27509——18.28

按照四舍六入五留双规则进行数字修约时,一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。 例如:

将数字10.2749945001修约为四位有效数字时,应一步到位:10.2749945001——10.27(正确)。

10.2749945001——10.274995——10.275——10.28(错误)。


相关内容

  • 数值的修约和有效数字的计算
  • 中国卫生检验杂志2003年8月第13卷第4期∀Chines e Journal of Heal th Laboratory Technology 2003 Augus t 13 No 4∀∀∀∀∀∀∀∀∀∀∀∀∀∀519 商讨园地 文章编号! 1004 8685(2003) 04 519 02 数值 ...

  • 有效数字及其运算规则
  • §1.4 有效数字及其运算规则 一.有效数字的一般概念 1. 有效数字 任何一个物理量,其测量结果必然存在误差.因此,表示一个物理量测量结果的数字取值是有限的. 我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字.例如,2.78的有效数字是三位,2.7是可靠数字,尾位&qu ...

  • 电磁场数值分析基础
  • 教材与参考书 电磁场数值分析基础 邵 维 办公室:科研楼704 [email protected]  教材: <电磁场数值分析基础>讲义  参考书: (1)<数值分析>,钟尔杰等,高等教育出版社, 2004. (2) <数值分析> (第四版),李庆扬等, ...

  • 数值修约规则试题
  • 数值修约规则试题 部门: 姓名: 一. 判断题(20分=2.5*8) 1. 如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值 修约到一位小数. ( ) 2. 如指定修约间隔为10,修约值即应在10的整数倍中选取,相当于将数值修 约到"十"数位.( ) 23. ...

  • 化验员基础知识
  • 化验员.质监员培训讲义 第一部分 基本常识 第一章 允许差 一.准确度和误差 1. 准确度 系指测得结果与真实值接近的程度. 2. 误差 系指测得结果与真实值之差. 二.精密度和偏差 1. 精密度 系指在同一实验中,每次测得的结果与它们的平均值接近的程度. 2. 偏差 系指测得的结果与平均值之差. ...

  • 实验室的误差分析与有效数字理论(2015.03.11)
  • 实验室误差分析的理论基础 [导读] 误差是客观存在的,用它可以衡量检测结果的准确度,误差越小,检测结果的准确度越高. 第一部分 误差理论简介 在日常检测工作中,我们虽然有最好的检验方法.有检定合格的仪器设备.有满足检验要求的环境条件和熟悉检验工作的操作人员,但是,得到的检验结果却往往不可能是绝对准确 ...

  • 数学实验___数值积分的Simpson法
  • 黔南民族师范学院 数学实验报告 题目 1来求π,我们知道要将[0,1]区间等分01+x 2 成n=2m份.看一看要取得π的10位有效数字,n 至少应取多少?若希望取得π的15试用数值积分的Simpson 法计算4⎰1位有效数字,n 至少取多少? 2013年5月1日 数学实验报告题目 一. 实验目的 ...

  • 测量与有效数字及误差
  • 绪 论 测量与有效数字及误差 一.测量 所谓测量,就是被测量的物理量和选为标准的同类量(即,单位)进行比较,确定出它是标准量的多少倍.如:测量一本书的长度,将书与米尺进行比较,书的长度是米尺的18.85%,则书的长度为0.1885m. 测量结果的数值大小和选择的单位密切相关.同样一个量,测量时选择的 ...

  • excel表格计算公式大全
  • 1 AND "与"运算,返回逻辑值,仅当有参数的结果均为逻辑"真(TRUE )"时返回逻辑"真(TRUE )",反之返回逻辑"假(FALSE )". 条件判断 AVERAGE 求出所有参数的算术平均值. 数据计算 COL ...