阅读 96

powershell 小数计算

js的小数加减乘除的结果

console.log(1.0 - 0.9);
// 0.09999999999999998

console.log(0.3 / 0.1);
// 2.9999999999999996

console.log(9.7 * 100);
// 969.9999999999999

console.log(2.22 + 0.1);
// 2.3200000000000003

python小数计算 结果

0.1 + 0.2
# 0.30000000000000004

powershell小数计算

1.0-0.9
# 0.1
0.3/0.1
# 3
9.7 * 100
# 970
2.22 + 0.1
# 2.32
40-39.2
# 0.799999999999997
# 差点就被骗了...
40 - 39.2d
# 0.8
40d - 39.2
# 0.8
# 添加类型作个弊,相当于
40 - [decimal]39.2
# 0.8
39.2d.getType().name
# Decimal
$a=40; $b=39.2; [decimal]$a - [decimal]$b
# 0.8

原文:https://www.cnblogs.com/whiter001/p/15226149.html

文章分类
代码人生
版权声明:本站是系统测试站点,无实际运营。本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 XXXXXXo@163.com 举报,一经查实,本站将立刻删除。
相关推荐