当前位置: 首页 > news >正文

java中的float和double的精度问题

此文解释了为何float的范围比int大(同样4字节),但有些int是float无法正确表达的(精度丢失)


java中的float和double的精度问题

 

1、背景知识 
在java中没有细讲,只是讲了float占32位(bit),double占 64位。 
对于计算机来说,用位数表示是合适的。但有人喜欢用字节(byte)表示。一个字节占8位。 
1 byte = 8 bit. 
所以float占4个字节,double占8个字节。 
不过我还是喜欢用位数表示。这样更直接,也更容易理解计算机是怎么存储这些类型的。 

对于精度和范围,还是参考一下c++吧。 


2、存储知识 
计算器存储浮点数的方法:(用科学计数法存储) 
将要存的数先转换为小数(0.xxxxxx)x10的n次幂的形式进行存储。 
例如: 
3.1415 将被转换为:0.31415 x 10^1 
100000 将被转换为:0.1 x 10^6 

首先申明一点,先范围(有效数字位,包括整数位和小数位),再精度。 


3、下面切入正题 
===================== 
在c++中单精度float类型与双精度double类型的问题 

【"单精度用float表示,在计算机中使用4位字节(32位bit)来表示,具有7位有效数字"】 

float类型存储的时候1个bit是符号位,8个bit是指数位,剩下的23个bit是有效数字位。 
2的23次方是8388608,即7位有效数字,精度(10进制)。 

一个单精度的浮点数在内存当中占用了32个bit位,按照浮点数的表示标准,最高位表示符号,这32位一部分用来表示阶码,一部分用来表示小数部分。 
按照这个表示方法转化成10进制之后,它能表示的最高精度是7位有效数字。 

比如 
float a=3.14159;a在内存中实际上表示为0.314159乘以10的1次方(0是符号位),而分配给a的存储单元就分为两部分,一部分存0.314159,一部分存指数1,而且也都是转化为2进制来存。 

================== 
float ,1位符号位, 8位指数位,23位尾数位 
double,1位符号位,11位指数位,52位尾数位 

float尾数位23位,2^23=8.3E6,7位,所以不同的编译器规定不同,有些是7位,有些8位 
double尾数52位,2^52=4.5E15,15位,所以double的有效位数是15位 


后记: 
数一下有效数字位数(整数位+小数位),7位以内的用float,15位以内的用double 
但是还有一点小小的区别: 
float f =  (float) 62345678.912345;  // => 6.234568E7  共 7 位 
float f2 =  (float) 12345678.912345; // => 1.2345679E7 共 8 位 

(精度问题,float精度为7--8位,8位的情况是第一位是1,当是2时进位后面的精度丢失?)

转载于:https://www.cnblogs.com/vineleven/p/8267005.html

相关文章:

  • 大数据舆情监测分析工作如何有效做好的解决方案
  • 网络舆情数据挖掘分析的三点方法和建议
  • python3----冒泡排序
  • 网上新的热点舆情信息数据监测搜集系统方法
  • 总结一下各种居中(内联元素、块级元素、浮动元素、绝对定位元素)*(水平、垂直)...
  • 大数据舆情监测平台怎么选的方法
  • 集中式vs分布式
  • 网上历史信息数据和历史舆情查询的方法
  • npm 通过package.json来安装第三方包
  • 舆情监测系统平台对网络舆情监测的作用
  • 023re模块(正则)
  • 网络舆情分析系统具体使用功能及作用详解
  • 新兴媒体舆情传播动态实时监测的技术解决方案
  • bzoj1717
  • 网络新闻媒体舆情信息收集统计的三点解决方法
  • 时间复杂度分析经典问题——最大子序列和
  • 《剑指offer》分解让复杂问题更简单
  • 11111111
  • angular2 简述
  • Create React App 使用
  • CSS 三角实现
  • C语言笔记(第一章:C语言编程)
  • Idea+maven+scala构建包并在spark on yarn 运行
  • Linux编程学习笔记 | Linux多线程学习[2] - 线程的同步
  • React Native移动开发实战-3-实现页面间的数据传递
  • SAP云平台里Global Account和Sub Account的关系
  • Service Worker
  • 测试如何在敏捷团队中工作?
  • 前端之Sass/Scss实战笔记
  • 因为阿里,他们成了“杭漂”
  • 这几个编码小技巧将令你 PHP 代码更加简洁
  • 如何用纯 CSS 创作一个菱形 loader 动画
  • ​人工智能之父图灵诞辰纪念日,一起来看最受读者欢迎的AI技术好书
  • #我与Java虚拟机的故事#连载09:面试大厂逃不过的JVM
  • (1)Map集合 (2)异常机制 (3)File类 (4)I/O流
  • (11)MSP430F5529 定时器B
  • (13)[Xamarin.Android] 不同分辨率下的图片使用概论
  • (2022版)一套教程搞定k8s安装到实战 | RBAC
  • (附源码)php投票系统 毕业设计 121500
  • (附源码)springboot宠物医疗服务网站 毕业设计688413
  • (附源码)springboot建达集团公司平台 毕业设计 141538
  • (官网安装) 基于CentOS 7安装MangoDB和MangoDB Shell
  • (力扣题库)跳跃游戏II(c++)
  • (算法)N皇后问题
  • (转载)在C#用WM_COPYDATA消息来实现两个进程之间传递数据
  • **Java有哪些悲观锁的实现_乐观锁、悲观锁、Redis分布式锁和Zookeeper分布式锁的实现以及流程原理...
  • .net 提取注释生成API文档 帮助文档
  • ::
  • [Android Pro] Notification的使用
  • [BetterExplained]书写是为了更好的思考(转载)
  • [c++] 自写 MyString 类
  • [codevs 1296] 营业额统计
  • [COI2007] Sabor
  • [C语言][PTA基础C基础题目集] strtok 函数的理解与应用
  • [DevEpxress]GridControl 显示Gif动画