当前位置: 首页 > news >正文

float,double和decimal类型

float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)

double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)

decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算。(28个有效位)

 

float f = 345.98756f;//结果显示为345.9876,只显示7个有效位,对最后一位数四舍五入。

double d=345.975423578631442d;//结果显示为345.975423578631,只显示15个有效位,对最后一位四舍五入。

注:float和double的相乘操作,数字溢出不会报错,会有精度的损失。

decimal dd=345.545454879.....//可以支持28位,对最后一位四舍五入。

注:当对decimal类型进行操作时,数值会因溢出而报错。

转载于:https://www.cnblogs.com/ShaYeBlog/p/3581076.html

相关文章:

  • iOS:高仿闲鱼、京东等列表底部分页视图
  • 使用MDI 和 XtraTabbedMdiManager 后 选项卡切换后Ribbon 合并后不选中MDI子窗...
  • java~springboot~ibatis Invalid bound statement (not found)原因
  • c#正则表达式
  • 解码 | 25 分钟开发分布式架构的转账小程序
  • 删除2018年以前的文件
  • UTF-8编码规则
  • Java 实现阿里云短信
  • Slog80_打包ArthurSlogMarkdownEditor编辑器至mac平台dmg安装包GET!
  • 一个网站同时监听两个端口
  • DataSet数据转换string字符串
  • Android 各种路径详细说明
  • 【SQL Server DBA】日常巡检1:数据库空间、状态、使用的监控
  • Java并发编程之Java CAS操作
  • jvm对类的加载顺序测试
  • [PHP内核探索]PHP中的哈希表
  • [NodeJS] 关于Buffer
  • [笔记] php常见简单功能及函数
  • 「前端」从UglifyJSPlugin强制开启css压缩探究webpack插件运行机制
  • 【comparator, comparable】小总结
  • 【跃迁之路】【519天】程序员高效学习方法论探索系列(实验阶段276-2018.07.09)...
  • C# 免费离线人脸识别 2.0 Demo
  • el-input获取焦点 input输入框为空时高亮 el-input值非法时
  • gops —— Go 程序诊断分析工具
  • IE报vuex requires a Promise polyfill in this browser问题解决
  • js继承的实现方法
  • PhantomJS 安装
  • Webpack 4 学习01(基础配置)
  • 表单中readonly的input等标签,禁止光标进入(focus)的几种方式
  • 对JS继承的一点思考
  • 解析带emoji和链接的聊天系统消息
  • 快速构建spring-cloud+sleuth+rabbit+ zipkin+es+kibana+grafana日志跟踪平台
  • 浅析微信支付:申请退款、退款回调接口、查询退款
  • - 语言经验 - 《c++的高性能内存管理库tcmalloc和jemalloc》
  • Oracle Portal 11g Diagnostics using Remote Diagnostic Agent (RDA) [ID 1059805.
  • 曾刷新两项世界纪录,腾讯优图人脸检测算法 DSFD 正式开源 ...
  • #我与Java虚拟机的故事#连载12:一本书带我深入Java领域
  • $NOIp2018$劝退记
  • (173)FPGA约束:单周期时序分析或默认时序分析
  • (day 12)JavaScript学习笔记(数组3)
  • (板子)A* astar算法,AcWing第k短路+八数码 带注释
  • (学习日记)2024.01.09
  • (原創) 如何解决make kernel时『clock skew detected』的warning? (OS) (Linux)
  • (转) ns2/nam与nam实现相关的文件
  • (转)如何上传第三方jar包至Maven私服让maven项目可以使用第三方jar包
  • .Net Core与存储过程(一)
  • .NET/C# 获取一个正在运行的进程的命令行参数
  • .NET6实现破解Modbus poll点表配置文件
  • .NET业务框架的构建
  • .考试倒计时43天!来提分啦!
  • @html.ActionLink的几种参数格式
  • @JSONField或@JsonProperty注解使用
  • [.net 面向对象程序设计进阶] (19) 异步(Asynchronous) 使用异步创建快速响应和可伸缩性的应用程序...
  • [2018-01-08] Python强化周的第一天
  • [2019/05/17]解决springboot测试List接口时JSON传参异常