所有提问
色谱 | 光谱 | 质谱 | 波谱 | 显微镜 | 物性测试 | 样品前处理 | 常用设备 | 食品检测 | 药物分析 | 环境监测 | 实验室建设/管理 | 认证认可 | 基础知识    更多>>
未解决的问题:146809
所有仪器问答:170771
 您现在的位置:首页 > 仪器问答 > 色谱 > 液相色谱液相色谱论坛
共有 16 人回复了该问答excel中关于RSD的计算进位的经典问题,请各位大大讨论
 回复hejyiyao发表于:2020/8/29 11:33:45悬赏金额:18积分 状态:未解决
今天在网上浏览关于EXcel中RSD进位的问题,总所周知,RSD不等同于一般的数据修约:

四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成

而RSD是 一般只要后面有数字都要进位

问题1:比如0.032% 修约成2位为:0.04% 1位为0.1% 不知道是否正确?

而且本人一直使用这个公式求值:STDEV()/AVERAGE()*100

但今天却看到色谱网中的分版主却说这个函数引用错误,用Excel计算RSD时候要注意。  早就发现自己编辑计算RSD的软件和我用EXCEL计算的结果有些差别。原因找到了,是自己在EXCEL中引用的计算标准偏差的函数有错误。以前引用的是STDEV,正确的函数应该是STDEVP.上一个stdev是有限样本对于整体的标准偏差的估算,下一个stdevp是总体样本标准偏差。对于检测来讲可能要用的是第二个公式。两者差别就在自由度上.

问题2:究竟用哪个?这两个函数计算结果可真的差好多啊,

65153406503292651357065106416507451

0.066300778

               
65153406503292651357065106416507451

0.074126523



第一个结果用stdevp(总体标准差) 第二个结果用的stdev(样本标准差),本人是做色谱系统适应性5针需要用到RSD。
由于以前领导的疏忽,一直用EXCEL计算RSD,但却没有考虑到进位问题,所以处理RSD数据时,直接用了EXCEL中的保留2位,四舍五入了。。。打比方上面两个数据,给直接修约成0.07% 0.07%了,应该是0.07% 0.08%才对吧?

后来QA发现了这个问题,本部门领导也在想解决办法,但数据都已经出去了,所以他让我做个EXCLE关于RSD的验证,

问题3:怎么做???明显数据肯定有很多不对啊。。求各位大大给想个思路。。。。。。。

 回复  1# tangtang  回复于:2020-08-29 20:16:45
请看一下EXCEL的帮助:


扫一扫查看全部16条回复
高级回复快速回复【花三五分钟,帮别人解决一个问题,快乐自己一天!】