100/3.0 的结果

问题描述

为什么是 33.333333333333336

解决方案

1、双精度浮点数在计算机表示1位符号位,52位小数位,11位指数位2、3.0他表示成1.1(2进制)*2(指数为1),整数位1可以舍去(按照IEEE标准)3、你可以查看下计算机组成原理相关知识(浮点数的运算),计算出来的不是精确的,跟位数有关系。
解决方案二:
你用的是double吧 你试试int就不一样啦
解决方案三:
试试自己转换为二进制算一下,计算机是用二进制计算的。
解决方案四:
如果你需要精确,可以采用:BigDecimal a = new BigDecimal(100);BigDecimal b = new BigDecimal(3);BigDecimal c = a.divide(b, 240, BigDecimal.ROUND_FLOOR);System.out.println(c.toString());240表示你要的精度值,也就是小数点的多少位。
解决方案五:
以有限的二进制去表示一个数就是这样子的.
解决方案六:
double只有15位有效数字(十进制)。最后两位36都不可靠。

时间: 2024-07-28 13:57:50

100/3.0 的结果的相关文章

=iif(sum(Fields!a15.value)>0,round(sum(Fields!a16.value)/sum(Fields!a15.value)*100,2),0)

问题描述 =iif(sum(Fields!a15.value)>0,round(sum(Fields!a16.value)/sum(Fields!a15.value)*100,2),0)这个表达式是否有问题,在发布到服务器上进行查看时候出现有一项的数据显示为"错误号"求救!!!急!在线等

平板流量对比:iPad vs Surface为100比0.22

腾讯科技讯(小贝)http://www.aliyun.com/zixun/aggregation/17197.html">北京时间12月29日消息,据国外媒体报道,虽然非iPad平板电脑的网络流量不断增加,但这些产品带来的流量仍然只相当于iPad流量的九牛一毛. 互联网广告与分析公司Chitika日前发布的2012年12月平板电脑市场报告显示,除了iPad之外,其他平板电脑的数据都不够出色.Chitika数据解决方案工程师加贝·唐尼尼(Gabe Donnini)表示:"iPad每

100:0!Deepmind Nature论文揭示最强AlphaGo Zero,无需人类知识

本文讲的是100:0!Deepmind Nature论文揭示最强AlphaGo Zero,无需人类知识, AlphaGo"退役"了,但Deepmind在围棋上的探索并没有停止. 今年5月的乌镇大会的"人机对局"中,中国棋手.世界冠军柯洁9段以0:3不敌AlphaGo.随后Deepmind创始人Hassabis宣布,AlphaGo将永久退出竞技舞台,不再进行比赛.同时Hassbis表示:"我们计划在今年稍晚时候发布最后一篇学术论文,详细介绍我们在算法效率上所

基于容器引擎的Titan1.0入门指南

分布式图数据库Titan是基于大数据的关系分析可选的底层引擎. 本文主要介绍如何借助Docker快速实现Titan的入门.Titan支持多种存储引擎和搜索引擎,本文选用Cassandra和Elasticsearch.最新版本(1.0)的Titan使用的Elasticsearch是1.5.Cassandra是2.1,由于引擎选用的版本有些老,所以不定制Dockerfile,而是直接使用hub上的镜像. 1 启动引擎容器 Elasticsearch 1.1 搜索引擎Elasticsearch doc

Tomcat5.0+MySql配置JDBC,DBCP,SSL

mysql 准备环境: 1.j2sdk-1_4_2-windows-i586.exe //jdk 2.mysql-4.0.20d-win.zip //mysql数据库 3.mysqlcc-0.9.4-win32.zip //mysqlGUI控制 4.jakarta-tomcat-5.0.27.exe //tomcat服务器 5.mysql-connector-java-3.0.14-production.zip //内含mysql驱动 安装步骤: 1.安装jdk 2.安装tomcat 3.安装m

VB.net与Media Player9.0嵌入式开发

Windows Media Player 9.0是微软推出的最新数字媒体播放器,它除了继承了media player 8.0的优秀之处外,还添加了许多的实用功能.不过这些功能并不是本文讲述的重点,本文要讲的是如何利用media player来编写一个自己的嵌入式软件,并让它拥有播放cd,vcd,avi,mp3等的功能. 要编写这个程序你首先要熟悉vb.net,因为本程序是使用vb.net编写.在你的计算机上要安装windows media player 9.0.最后最关键的是要安装windows

运动的螺旋效果 as3.0

从内至外效果: 效果代码如下: var speed:Number = 0.3; var radius:Number = 0; var angle:Number = 0; var xpos:Number; var ypos:Number; var centerX:Number = stage.stageWidth / 2; var centerY:Number = stage.stageHeight / 2; //生成容器 var container:Sprite = new Sprite();

PHP-CGI 进程 CPU 100% 与 file

有时候,运行 Nginx.PHP-CGI(php-fpm) Web服务的 Linux 服务器,突然系统负载上升,使用 top 命令查看,很多 php-cgi 进程 CPU 使用率接近100%.后来,我通过跟踪发现,这类情况的出现,跟 PHP 的 file_get_contents() 函数有着密切的关系. 大.中型网站中,基于 HTTP 协议的 API 接口调用,是家常便饭.PHP 程序员们喜欢使用简单便捷的 file_get_contents("http://example.com/"

ASP.NET 2.0 中的创建母版页

asp.net|创建 虽然母版页和内容页功能强大,但是其创建和应用过程并不复杂.本节和下一节将以创建如图1所示示例为例,向读者详细介绍,使用Visual Stuido 2005创建母版页和内容页的方法以及相关知识.本节的重点是创建母版页的方法. 母版页中包含的是页面公共部分,即网页模板.因此,在创建示例之前,必须判断哪些内容是页面公共部分,这就需要从分析页面结构开始.图1所示显示的是一个页面截图.在下文中,暂称该页面名为Index.aspx,并且假设其为某网站中的一页.通过分析可知,该页面的结构