今天在网上浏览关于EXcel中RSD进位的问题,总所周知,RSD不等同于一般的数据修约:
四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成而RSD是 一般只要后面有数字都要进位 问题1:比如0.032% 修约成2位为:0.04% 1位为0.1% 不知道是否正确?而且本人一直使用这个公式求值:STDEV()/AVERAGE()*100但今天却看到色谱网中的分版主却说这个函数引用错误,用Excel计算RSD时候要注意。 早就发现自己编辑计算RSD的软件和我用EXCEL计算的结果有些差别。原因找到了,是自己在EXCEL中引用的计算标准偏差的函数有错误。以前引用的是STDEV,正确的函数应该是STDEVP.上一个stdev是有限样本对于整体的标准偏差的估算,下一个stdevp是总体样本标准偏差。对于检测来讲可能要用的是第二个公式。两者差别就在自由度上.问题2:究竟用哪个?这两个函数计算结果可真的差好多啊,6515340 | 6503292 | 6513570 | 6510641 | 6507451 | |
0.066300778
|
6515340 | 6503292 | 6513570 | 6510641 | 6507451 | |
0.074126523
|
第一个结果用stdevp(总体标准差) 第二个结果用的stdev(样本标准差),
本人是做色谱系统适应性5针需要用到RSD。由于以前领导的疏忽,一直用EXCEL计算RSD,但却没有考虑到进位问题,所以处理RSD数据时,直接用了EXCEL中的保留2位,四舍五入了。。。打比方上面两个数据,给直接修约成0.07% 0.07%了,应该是0.07% 0.08%才对吧?
后来QA发现了这个问题,本部门领导也在想解决办法,但数据都已经出去了,所以他让我做个EXCLE关于RSD的验证,
问题3:怎么做???明显数据肯定有很多不对啊。。求各位大大给想个思路。。。。。。。