当前位置:优学网  >  在线题库

SQL Server:发生无效的浮点操作

发表时间:2022-07-07 00:12:58 阅读:54

数学很简单:

Set @difLog = log(@value1))-log(@value2)
Set @power = exp(@difLog)
Set @adjustedCurve = @power  * @valueToAdjust 

错误不在@diflog@power(我单独测试了,它们工作正常). 问题是最后的乘法. 所有值均为浮点.但我用decimal(15,5)进行了测试,问题仍然存在.

有什么想法吗?

🎖️ 优质答案
相关问题