excel计算精度(困扰了很多人)

首页教程更新时间:2023-05-30 23:53:01

小伙伴们好啊。

今天和大家来分享一些困扰了很多人的公式错误原因。

1,EDATE和EOMONTH到底能不能返回数组?

excel计算精度,困扰了很多人(1)

有些时候需要引用数据源返回相关的数组结果,但很多小盆友引用了区域后发现EOMONTH这些函数结果是报错的。

因此得出一个结论,这批函数在引用区域后是不能返回数组的。

但是,这只是因为这批函数性质特殊而已,稍微加点料就可以返回数组了。

excel计算精度,困扰了很多人(2)

数据源区域只要*1,- -等把直接引用转化为内存数组,就可以使这批函数在引用区域后成功返回数组结果。

这是个很偏门的性质,具有这种性质的函数有EDATE,EOMONTH,WEEKNUM,QUOTIENT/DELTA等等。

2)高精度浮点

这个性质也是坑过无数老司机的:

excel计算精度,困扰了很多人(3)

excel计算精度,困扰了很多人(4)

这个性质在于,这种浮点数在目前函数阶段,F9,公式求值,格式小数位数,等号比较等等多种方法都无法检测出来,但就是会造成MATCH,VLOOKUP,RANK,MODE,FREQUENCY等函数的结果异常。

因为这种浮点超过了Excel的15位精度,所以无法显示,但部分函数还是会识别这种差异,重点是影响上面几个函数的结果(这种精度差异可以使用DELTA函数检查)。

解决方法是使用ROUND等修正这类数值的实际精度,或者换成不识别这种精度的函数或判断式(等号比较不识别这种差异)。

excel计算精度,困扰了很多人(5)

3)真伪内存数组和365动态数组性质差异

365前的版本VLOOKUP和INDEX等函数有一类性质。如果VLOOKUP的第1参数和INDEX的第2/3参数,直接使用数组,并不能使整个VLOOKUP或INDEX返回内存数组。

虽然可以以区域数组方式录入多个单元格返回对应的多个结果,但并不能作为真内存数组用于后续计算,因此这个性质被称为伪内存数组。

excel计算精度,困扰了很多人(6)

如果要把INDEX的结果变成真内存数组,必须加N/T IF结构来进行转化。

excel计算精度,困扰了很多人(7)

而office 365下部分公式使用三键和不使用三键,结果是会有区别的,通常在不使用三键环境下,365版本会把早期版本的伪内存结构直接形成真内存数组,但如果使用三键,还是早期版本的伪内存数组性质,这个性质主要在早期版本的伪内存数组和多维引用两种公式结构下存在。

4) 1和{1}的区别

这类性质,通常出现在涉及INDIRECT或OFFSET的动态引用问题内,INDIRECT或OFFSET函数配合ROW或COLUMN函数时容易出现。

很多人会被这个错误困扰不知道如何解决,其实这个公式之所以错误,根源在于ROW函数,因为ROW(A1)的结果为{1},注意这是1个单元素的数组。

而INDIRECT和OFFSET都是容易构造多维引用的,所以目前的观点上面公式错误和这两个函数的多维引用下的降维理论有关。

解决方法也很简单,1是在ROW外面套个聚合函数,SUM/MAX/MIN等等均可,目的是把{1}变成常量1,就不会出现类似错误了。

5)时间精度

Excel里的时间精度到千分之一毫秒,即YYYY/MM/DDHH:MM:SS.000

到了时间阶段,Excel里的日期函数会出现两大阵营。部分日期函数对日期的识别仅到日期部分,不考虑时间范围。

但还有部分日期函数,对日期的识别精度达到了这个毫秒级,时间不大于23:59:59.499的日期识别为当天,但23:59:59.500-23:59:59.999的范围会被识别为第2天。

excel计算精度,困扰了很多人(8)

测试表明DAY、WEEKDAY、YEAR、MONTH、HOUR、MINUTE、SECOND、DAYS360与TEXT的日期时间格式处理,对日期时间的识别不完全按照日期部分,

这几个函数对日期的识别范围至少到毫秒的精度,23:59:59.499(含)前识别为当日日期,23:59:59.500开始识别为第2天。

而DAYS、EDATE、EOMONTH、WEEKNUM、ISOWEEKNUM、WORKDAY(.INTL)、NETWORKDAYS(.INTL)、YEARFRAC这10个函数对日期时间的识别仅识别日期部分,严格取整,与时间范畴无关。

因此如果你们的软件导出数据时间精度达到毫秒级,请注意这个精度差异对结果的影响。

6)参数上限

有些函数具有内置上限,这个上限会限制这些函数的使用,其中大部分函数在超过上限后是会报错的,例如MOD函数:

excel计算精度,困扰了很多人(9)

但是,少数函数在超过上限后不会报错而是返回特殊结果,这类性质比较隐蔽,会影响函数运算结果,例如DATE函数:

excel计算精度,困扰了很多人(10)

这个函数的优势是例如第3参数大于本月天数时,会自动把函数结果转化为对应的有效日期。但这个函数有内置参数,第3参数有效的最大值只有32767,超过32767的数值都会缩减到32767进行日期换算,故需要注意这个性质避免转化的日期结果异常。

7)你不知道的性质

Excel有大量简写模式和特殊识别的字符串规则:

excel计算精度,困扰了很多人(11)

0-12的整数 空格 A / P 为整点时间的缩写表达式,可以被Excel直接识别为时间的(12 A 为12:00 AM实际为0:00故结果为0)。

这些特殊规则很多,都可能影响你的计算结果:

excel计算精度,困扰了很多人(12)

(小编测试过很多最特殊的,大概是下面这个从2013版本开始出现的以空格 冒号开头的特殊表达式)

excel计算精度,困扰了很多人(13)

很多时候,你自认为公式是正确的,但结果异常,很多时候就是因为你并没有了解Excel的这些特殊规则和机制造成的。

因此,学习函数不是一朝一夕的事情,只有多练习,多看别人的文章和公式,才能随心所欲,否则就可能出现各式各样的问题。

好了,今天的内容就是这些吧,我是流浪铁匠,点个赞,咱们一起走天涯。

图文制作:流浪铁匠

,
图文教程
相关文章
热门专题
推荐软件
奇热小说
奇热小说
下载
QQ2019手机版
QQ2019手机版
下载
王者荣耀
王者荣耀
下载
百度浏览器迷你版
百度浏览器迷你版
下载
2345浏览器手机版
2345浏览器手机版
下载
网易邮箱
网易邮箱
下载
爱奇艺
爱奇艺
下载
网易云音乐
网易云音乐
下载
WPSOffice
WPSOffice
下载
优酷
优酷
下载
谷歌浏览器(Chrome)
谷歌浏览器(Chrome)
下载
迅雷看看播放器
迅雷看看播放器
下载
UC浏览器
UC浏览器
下载
QQ音乐
QQ音乐
下载
阿里旺旺买家版v9.12.10C官方版
阿里旺旺买家版v9.12.10C官方版
下载
360安全卫士v12.1官方版
360安全卫士v12.1官方版
下载
猜你喜欢
项目酷ios
项目酷ios
下载
全面战争三国城内港口不占格子MOD
全面战争三国城内港口不占格子MOD
下载
就有车
就有车
下载
汤米兔学生版电脑版
汤米兔学生版电脑版
下载
奔跑吧王牌
奔跑吧王牌
下载
学校地下城
学校地下城
下载
FlashScreensaversMaker(Flash转屏保)V3.389
FlashScreensaversMaker(Flash转屏保)V3.389
下载
优派急送app
优派急送app
下载
波利尼塔
波利尼塔
下载
Phoneviewmac版V2.14.1
Phoneviewmac版V2.14.1
下载
圣域传奇至尊圣域
圣域传奇至尊圣域
下载
寒冰皇座ios版
寒冰皇座ios版
下载
呆萌消消乐苹果版
呆萌消消乐苹果版
下载
腾达W54U驱动程序
腾达W54U驱动程序
下载
便携式警察对讲机
便携式警察对讲机
下载
sct安全管家
sct安全管家
下载