PowerShell控制台可以非常方便的进行数学计算,方便归方便,偶尔也会引入一些陷阱。比如63.9-63。答案应当是63.9-63=0.9吧。但是对不起,你要失望了。请看:
PS> 63.9-63 0.899999999999999
用阳仔的话问:“这是为什么呢?”,请看:
PS> (63.9).gettype() IsPublic IsSerial Name -------- -------- ---- True True Double
Double类型和float都属于浮点类型,精度不高。而Decimal属于高精度,用于金融计算。所以:
PS> 63.9d-63 0.9 PS> [decimal](63.9d)-63 0.9 PS> (63.9d).GetType() IsPublic IsSerial Name -------- -------- ---- True True Decimal
本文链接: https://www.pstips.net/match-snare.html
请尊重原作者和编辑的辛勤劳动,欢迎转载,并注明出处!
请尊重原作者和编辑的辛勤劳动,欢迎转载,并注明出处!
第一次遇到这种问题,在前面加[decimal]或后面加d随便一个就可以了吧?另外还有个问题,为什么后台每次点击插入语言那里要等好久?