Float round bug in ruby?

最新推荐文章于 2023-12-29 09:35:04 发布

zimo1231

最新推荐文章于 2023-12-29 09:35:04 发布

阅读量134

点赞数

CC 4.0 BY-SA版权

分类专栏： ruby 文章标签： ruby round

本文链接：https://blog.youkuaiyun.com/zimo1231/article/details/84174262

ruby 专栏收录该内容

24 篇文章

订阅专栏

本文探讨了在不同版本的Ruby中使用round方法进行数值四舍五入时遇到的问题，并提供了通过BigDecimal转换来解决精度问题的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

ruby-1.8.7 > 1.55.round(1)
 => 1.6 
ruby-1.8.7 > 1.555.round(2)
 => 1.56 
ruby-1.8.7 > 1.155.round(2)
 => 1.16 
ruby-1.8.7 > 10.156.round(2)
 => 10.16
ruby-1.8.7 > 10.155.round(2)
 => 10.15 
ruby-1.8.7 > 10.165.round(2)
 => 10.16

ruby-1.9.2 > 10.155.round(2)
 => 10.15 
ruby-1.9.2 > 10.165.round(2)
 => 10.16

解决方法：

1.讲数据类型转变为decimal

BigDecimal.new(10.155.to_s).round(2).to_f

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

zimo1231

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

java除法运算有小数_Java 整数间的除法运算如何保留所有小数位？

weixin_35925259的博客

02-17

4363

1.情景展示 double d = 1/10; System.out.println(d); 返回的结果居然是0.0!这是怎么回事儿? 2.原因分析第一步:你会发现用运算结果也可以用int类型接收! 没有报错,也就是说: 在Java语言中,整数之间的除法运算,不管你的小数位有多少位,小数是几,统统舍弃,只返回整数位数字! 第二步:用double类型接收为什么也可以? 因为double类型的取值返...

Sqlite3

雪雪

03-17

772

SQLite库包含一个名字叫做sqlite3的命令行,它可以让用户手工输入并执行面向SQLite数据库的SQL命令。本文档提供一个样使用sqlite3的简要说明. 一.Sqlite3一些常用Sql语句操作创建表: create table 表名(元素名类型,…); 删除表: drop table 表名; 插入数据...

参与评论您还未登录，请先登录后发表或查看评论

ruby 四舍五入的函数

Q天空

04-21

1095

[code="java"] #i 原始数 n 要保留的小数位数，flag=1 四舍五入 flag=0 不四舍五入 def f(i,n,flag) y = 1 n.times do |x| y = y*10 end if flag==1 (i*y).round/(y*1.0) else (i*y).floor/(y*1.0) end ...

ruby按精度保留小数

素年小事

06-18

1391

有一个round函数，用起来非常方便： >> 2.3465.round => 2 >> 2.3465.round(2) => 2.35 >> 2.3465.round(3) => 2.347

ruby调用python_将ruby转换为python

weixin_39906906的博客

11-30

425

将ruby转换为python

一文深入理解 Java 虚拟机

天行健，君子以自强不息；地势坤，君子以厚德载物。

06-26

970

类文件结构class类文件的结构任何一个Class文件都对应着唯一的一个类或接口的定义信息[插图]，但是反过来说，类或接口并不一定都得定义在文件里（譬如类或接口也可以动态生成，直接送入类加...

sqlite3使用简介

Kaitiren的专栏

03-29

2818

sqlite3使用简介下载地址:http://www.sqlite.org/download.html 一．使用流程要使用sqlite，需要从sqlite官网下载到三个文件，分别为sqlite3.lib，sqlite3.dll，sqlite3.h，然后再在自己的工程中配置好头文件和库文件，同时将dll文件放到当前目录下，就完成配置可以使用sqlite了。使用的过程根据使用的函数大

python django面试题_软件工程师的试炼之地：53道Python面试问答题

weixin_39630140的博客

11-26

305

全文共7439字，预计学习时长32分钟图源：unsplash不久前我才通过面试，入职成为了“数据科学家”，但我实际上做的却是“Python工程师”的工作。如果能提前复习Python线程生命周期的知识，而不是推荐系统，我可以准备得更好。出于这种想法，我整理了python面试或准备求职用的问题和答案。大多数数据科学家会编写大量代码，因此这均适用于数据科学家和软件工程师。无论你是准备面试抑或是复习Pyt...

dmol3给定关键字不在字典中_53个Python面试问题

weixin_33430573的博客

12-23

213

经典面试题与答案1. 列表(list)和元组(tuple)有什么区别？在我每一次应聘Python数据科学家的面试中，这个问题都会被问到。所以对这个问题的答案，我可以说是了如指掌。列表是可变的。创建后可以对其进行修改。元组是不可变的。元组一旦创建，就不能对其进行更改。列表表示的是顺序。它们是有序序列，通常是同一类型的对象。比如说按创建日期排序的所有用户名，如["Seth", "Ema", "Eli"...

Python面试必看！53个经典面试题详解

最新发布

weixin_44798353的博客

12-29

1659

python基礎面試題

[转]高负载并发网站架构分析

bluehire的专栏

12-23

2万+

由于自己正在做一个高性能大用户量的论坛程序，对高性能高并发服务器架构比较感兴趣，于是在网上收集了不少这方面的资料和大家分享。希望能和大家交流 msn: defender_ios@hotmail.com ——————————————————————————————————————— ? 初创网站与开源软件 6 ? 谈谈大型高负载网站服务器的优化心得! 8 ? Lighttpd+Squid+Apach

利用网络爬虫从猎聘网抓取IT类招聘信息及其数据可视化分析（python+mysql未使用爬虫框架)

进阶笔记

01-29

7169

目录一、前言 1.1 关于我的水平以及该爬虫实现难度和代码中的小bug 1.2 关于用到的参考文档和参考书籍 1.3 关于数据采集量过小以及可能存在的数据冗余和数据丢失问题的说明二、python爬虫抓取IT类招聘信息的实现 2.1 代码 2.2 代码的部分补充说明 2.2.1 getEntry(html) 2.2.2 getCountryEntry(entry) ...

拿捏大厂offer教程之接口自动化测试pytest用例管理框架

分享测试知识

11-07

848

文档：https://docs.pytest.org/en/latest/contents.html#toc第三方库：https://pypi.org/search/?q=pytestpytest默认规则：1、py文件必须以test_开头或者_test结尾2、类名必须以Test开头3、测试用例必须以test_开头pytest用例管理框架的作用：1、发现测试用例，从多个py文件中通过默认的规则去找测试用例2、执行测试用例，顺序和条件3、判断测试结果，断言。

Rubygem 常用命令整理

zimo1231的专栏

12-23

574

gem install gem-name # 安装gem，默认会安装最新版本 gem uninstall gem-name #卸载gem，如果安装了多个版本会提示要卸载哪个版本 gem cleanup #清理无用的gem，这个很有用。当你安装了很多版本的gem，想把旧版本的删除，一个个又太麻烦，就用这个命令 gem list #列出所有安装的gem g...

ruby中的逻辑运算符

zimo1231的专栏

06-11

547

def current_user @current_user ||= session[:user_id] && User.find(session[:user_id]) end 短短一行代码，却含有很多逻辑，以前老是搞混，这里总结一下。这句代码相当于 def current_user if @current_user return @current...

ruby case表达式

zimo1231的专栏

12-07

319

Ruby 中的 case 语句非常强大，首先我们来看一个基本用法： grade = case when point >= 85: 'A' when point >= 70 && point < 80: 'B' when point >= 60 && p...

发送ip地址和指定文件到某邮箱

zimo1231的专栏

12-03

287

#!/usr/bin/env ruby # # ARGV[0] - msg # ARGV[1] - mailto # ARGV[2] - filename require 'open-uri' require 'rubygems' require 'action_mailer' ActionMailer::Base.smtp_settings = { :address...

Ruby 中获取目录大小

zimo1231的专栏

01-07

285

当前 Chito 中统计目录大小完全是偷懒的方式： class Dir def self.size(dir) `du -s #{dir} | awk '{print $1}'`.to_i end end 直接调用 du 这个程序然后把结果转换成数值就可以了，非常方便～不过要是运行在 ...

float round

05-31

float round(float x); // 对float类型的参数进行四舍五入 ``` `round()`函数将参数四舍五入为最接近的整数，并返回结果。如果参数值与两个整数相同，则将其舍入到最接近的偶数。下面是一个例子，展示如何使用`...