Free考研资料

标题: 化学计算中的有效数字问题 [打印本页]

作者: mengling95 时间: 08-6-7 10:13
标题: 化学计算中的有效数字问题
一、有效数字的修约规则　　
规定：当尾数≤4时则舍，尾数≥6时则入；尾数等于5而后面的数都为0时，5前面为偶数则舍，5前面为奇数则入；尾数等于5而后面还有不为0的任何数字，无论5前面是奇或是偶都入。
　　例：将下列数字修约为4位有效数字。
　　修约前　　　　　修约后
　　0.526647--------0.5266
　　0.36266112------0.3627
　　10.23500--------10.24
　　250.65000-------250.6
　　18.085002--------18.09
　　3517．46--------3517
二、有效数字运算规则
　　由于与误差传递有关，计算时加减法和乘除法的运算规则不太相同。
1. 加减法
　　先按小数点后位数最少的数据保留其它各数的位数，再进行加减计算，计算结果也使小数点后保留相同的位数。
　　例：计算50.1+1.45+0.5812=?
　　先
　　修约为：50.1+1.4+0.6=52.1
　　先修约，结果相同而计算简捷。
　　例：计算 12.43+5.765+132.812=?
　　修约为：12.43+5.76+132.81=151.00
　　注意：用计数器计算后，屏幕上显示的是151，但不能直接记录，否则会影响以后的修约；应在数值后添两个0，使小数点后有两位有效数字。
2. 乘除法
　　先按有效数字最少的数据保留其它各数，再进行乘除运算，计算结果仍保留相同有效数字。
　　例：计算0.0121×25.64×1.05782=?
　　修约为：0.0121×25.6×1.06=?
　　计算后结果为：0.3283456，结果仍保留为三位有效数字。
　　记录为：0.0121×25.6×1.06=0.328
　　注意：用计算器计算结果后，要按照运算规则对结果进行修约
　　例：计算2.5046×2.005×1.52=?
　　修约为：2.50×2.00×1.52=?
　　计算器计算结果显示为7.6，只有两位有效数字，但我们抄写时应在数字后加一个0，保留三位有效数字。
　　2.50×2.00×1.52=7.60

作者: lc88ms 时间: 08-6-7 10:40
分析化学有学到的，当时感觉很迷惑，规定这么多繁琐的东西干什么[s:10]

作者: princewang 时间: 08-6-7 11:14
看的头大。。。还好不搞分析

作者: lyl19871127 时间: 08-6-7 12:15
提示: 作者被禁止或删除内容自动屏蔽

作者: mengling95 时间: 08-6-7 19:58
这不仅是分析要用的，物化的计算也要用的

作者: 丝侬 时间: 08-6-8 20:26
四舍六入五成双

作者: TOPGUN86 时间: 08-6-11 13:58

原帖由丝侬于 2008-6-8 20:26 发表
四舍六入五成双

一语中的呵

作者: lykwinner 时间: 08-6-12 01:53
所谓差之毫厘，谬以千里，定性研究，定量分析。误差做到最小是我们的任务。
呵呵，我是学数学的，逛逛化学版。

作者: 幽幽雨 时间: 09-4-15 00:47
提示: 作者被禁止或删除内容自动屏蔽

作者: yuxiaopeng 时间: 09-9-30 17:26
谢谢楼主了

作者: vivifish 时间: 09-10-31 11:50
提示: 作者被禁止或删除内容自动屏蔽

作者: fangy649 时间: 12-2-21 13:13
提示: 作者被禁止或删除内容自动屏蔽

欢迎光临 Free考研资料 (http://tool.freekaoyan.com/)