当前位置: 首页 > news >正文

为啥有时会出现 4.0 - 3.6 = 0.40000001 这种现象?

这种现象是由于浮点数在计算机中表示的方式导致的,主要是因为计算机使用二进制系统来存储浮点数,而某些十进制的小数无法被精确地表示为二进制数。这种不精确性会在执行算术运算时导致微小的误差。

浮点数在计算机中通常使用 IEEE 754 标准来表示。一个浮点数由三个部分组成:

  • 符号位:表示正数或负数。
  • 指数部分:表示浮点数的数量级。
  • 尾数(或称为有效数):表示浮点数的具体数值。

当你执行 4.0 - 3.6 这样的操作时,计算机实际上是在操作两个近似值:

  • 4.0 在二进制中可以精确表示。
  • 3.6 在二进制中是一个无限循环的小数,计算机只能使用一个近似值来表示它。

由于 3.6 只能近似表示,减法操作的结果也会产生近似值,而这个近似值可能不是你期望的精确结果,导致出现像 0.40000001 这样的结果。

解决方案

1. 四舍五入:对计算结果进行四舍五入操作,以得到期望的精度。例如,如果你只关心小数点后两位,可以使用四舍五入来避免显示微小的误差。

double result = 4.0 - 3.6;
System.out.printf("%.2f", result);  // 输出 0.40

2. 使用 BigDecimal:在需要高精度计算时,可以使用 BigDecimal 类来进行浮点数运算,它允许指定精度,并且能避免大部分的二进制浮点数误差。

BigDecimal a = new BigDecimal("4.0");
BigDecimal b = new BigDecimal("3.6");
BigDecimal result = a.subtract(b);
System.out.println(result);  // 输出 0.4

 浮点数在计算机中的表示和运算有固有的近似性,这是由于二进制系统无法精确表示某些十进制小数。理解这种近似性并采取适当的措施(如使用四舍五入、BigDecimal 或容差比较)可以帮助你处理浮点数计算中的误差问题。

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • 多机多卡分布式训练的一种简易实现
  • 栈OJ题——栈的压入、弹出序列
  • Linux服务器不能使用su切换到其他用户
  • 使用C++封装顺序表
  • C++ TinyWebServer项目总结(14. 多线程编程)
  • P2P 文件共享:现代网络中的高效文件传输
  • MySQL主从复制之GTID模式
  • TypeSript11 tsconfig.json配置文件
  • 在容器 (podman) 中运行虚拟机 (QEMU/KVM, libvirt)
  • 从0-1建一个webpack/vue项目,熟悉一下webpack知识点
  • consul 运维中遇到的问题
  • 【jvm】局部变量表与GCRoots之间的关系
  • 仓颉编程语言亮相全国大学生计算机系统能力大赛
  • 摄影曝光:曝光模式认知
  • Jenkins服务安装配置
  • 10个最佳ES6特性 ES7与ES8的特性
  • 5分钟即可掌握的前端高效利器:JavaScript 策略模式
  • CSS盒模型深入
  • Docker入门(二) - Dockerfile
  • HTTP中GET与POST的区别 99%的错误认识
  • javascript 总结(常用工具类的封装)
  • JS函数式编程 数组部分风格 ES6版
  • Netty 框架总结「ChannelHandler 及 EventLoop」
  • Redash本地开发环境搭建
  • redis学习笔记(三):列表、集合、有序集合
  • vue自定义指令实现v-tap插件
  • 闭包--闭包之tab栏切换(四)
  • 创建一种深思熟虑的文化
  • 得到一个数组中任意X个元素的所有组合 即C(n,m)
  • 翻译 | 老司机带你秒懂内存管理 - 第一部(共三部)
  • 解析带emoji和链接的聊天系统消息
  • 近期前端发展计划
  • 如何使用 OAuth 2.0 将 LinkedIn 集成入 iOS 应用
  • 如何优雅的使用vue+Dcloud(Hbuild)开发混合app
  • 入职第二天:使用koa搭建node server是种怎样的体验
  • 吴恩达Deep Learning课程练习题参考答案——R语言版
  • 限制Java线程池运行线程以及等待线程数量的策略
  • 原创:新手布局福音!微信小程序使用flex的一些基础样式属性(一)
  • 你对linux中grep命令知道多少?
  • const的用法,特别是用在函数前面与后面的区别
  • 移动端高清、多屏适配方案
  • ​Base64转换成图片,android studio build乱码,找不到okio.ByteString接腾讯人脸识别
  • # 数据结构
  • #android不同版本废弃api,新api。
  • #define MODIFY_REG(REG, CLEARMASK, SETMASK)
  • #HarmonyOS:基础语法
  • #include到底该写在哪
  • (1)Map集合 (2)异常机制 (3)File类 (4)I/O流
  • (4)事件处理——(7)简单事件(Simple events)
  • (C语言)输入自定义个数的整数,打印出最大值和最小值
  • (ISPRS,2023)深度语义-视觉对齐用于zero-shot遥感图像场景分类
  • (JSP)EL——优化登录界面,获取对象,获取数据
  • (超简单)使用vuepress搭建自己的博客并部署到github pages上
  • (二)原生js案例之数码时钟计时
  • (简单) HDU 2612 Find a way,BFS。