明辉站/网站教程/内容

VB与Excel在乘幂运算时的结果差异及其不合理性

网站教程2024-02-14 阅读
[摘要]东北林业大学环境科学系 隋祥引言表达式解析是编程工具与电子表格等软件最基本的功能之一,不同的软件在解析表达式时都遵循一定的运算规则,在不同软件中,这些运算规则略有差异,导致计算结果也不同。笔者在实践中发现,VB与Excel在处理“连续乘幂”这一常见运算时,所遵循的法则有着较大的出入,而且都存在着不...
东北林业大学环境科学系 隋祥
引言
表达式解析是编程工具与电子表格等软件最基本的功能之一,不同的软件在解析表达式时都遵循一定的运算规则,在不同软件中,这些运算规则略有差异,导致计算结果也不同。笔者在实践中发现,VB与Excel在处理“连续乘幂”这一常见运算时,所遵循的法则有着较大的出入,而且都存在着不合理的因素。本文试图通过论述得到一种更为合理的运算模式,并为编写表达式解析类过程提供指导。

问题分析
下表列出了VB6.0与Excel2003在处理同一个关于乘方运算的表达式时所得到的结果。

表1 VB6.0与Excel2003执行乘方运算的结果差异

表达式
VB计算结果
Excel计算结果

2^-2^-2
.840896415253715
16

-2 ^ 2
-4
4

-2^-2^-2
-.840896415253715
16

2 ^ -3 ^ 4 ^ 7
0
5.16988E-26


本人经过分析,认为引起结果差异的主要因素是单目运算符“-”的运算级和连续乘幂的运算顺序。详细分析如下:

1.对于表达式2^-2^-2,VB的计算步骤是2^(-2^-2)= .840896415253715,这时它的计算顺序是从右到左,而Excel则严格按照从左到右的结合顺序。如果我们把2^-2^-2理解为,那么,显然VB的计算结果是合理的,但是不是VB在处理连续乘方运算时都是从右到左的呢?答案是否定的。在计算2^3^4时,VB得到的结果是4096而不是2.41785163922926E+24,这说明此时VB并没有把2^3^4理解为而是理解为,是从左到右的结合顺序。显然,VB在处理乘方运算时,其结合顺序没有一个令人信服的依据,并存在不合理性。

2.对于表达式-2^2,VB的计算过程相当于-(2^2)=-4,按照Microsoft MSDN 6.0 简体中文版VB帮助系统中的《运算符优先顺序》一文中的描述,指数运算符(^)高于负数运算符(-)。这样看来VB按照这样的法则得到这样的结果是合理的。对于Excel,它的计算过程相当于(-2)^2,按照Excel 2003版帮助文档的叙述,符号(-)要高于乘幂(^)(注:两款软件运算符的中文名称略有差异),那么这样看来Excel的运算也是合理的。但是Excel将“-(负号)”的优先级放在“^”运算符之前的做法存在着一定问题。例如对于表达式4-2^2、4--2^2、4---2^2、4-……-(n个-)2^2的结果都是0,这是按照上述法则令人无法顺利解释的。

3.由于上述两条原因才导致了对于表达式-2^-2^-2的计算结果的不同。

4. 对于表达式2 ^ -3 ^ 4 ^ 7,VB计算结果为0,这是无论如何也无法顺利解释的。关于此结果的来历还有待于进一步研究。

表达式解析法则建议
鉴于VB与Excel在解析表达式时对乘幂运算的结果差异及所存在的不合理性,建议在编写表达式解析过程时应当遵循如下原则:

1.建议将乘幂运算符“^”的优先级至于单目负数运算符“-”之前。

2.在连乘幂运算的结合顺序上应当统一,建议采用从左到右的结合方式。

……

相关阅读