【C#学习笔记】单精度和双精度浮点型操作留意。

最新推荐文章于 2023-12-06 19:26:19 发布

转载最新推荐文章于 2023-12-06 19:26:19 发布 · 425 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/huanghai/archive/2010/11/19/1881375.html

文章标签：

#c# #游戏

本文介绍了在进行float和double类型运算时的一些注意事项及技巧。为了减少精度损失，建议将float类型转换为double后再进行运算。文章还提供了一种通过字符串转换来避免精度丢失的方法，并提醒开发者尽量避免从double直接转换到float。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

float 和 double 互相运算的时候，建议将float转换为double后统一类型运算。

float转换double时会造成精度丢失，我的一个解决办法是，将float转换为string，再转换为double

如：

float f = 3.141592F
double d = Convert.ToDouble(f.ToString());

个人感觉，尽量避免double转float，虽然强制转换不会报错，但是小数位数会丢失，而且超过float长度会四舍五入，这样运算下来的结果就会有误差。

自己总结的一点小经验，希望把你们的经验也分享给我用。

转载于:https://www.cnblogs.com/huanghai/archive/2010/11/19/1881375.html

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

weixin_30920597

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

C#的String转换成float防止精度丢失问题

谁为拨动染血的时空苍穹

09-19

3323

1、精度问题： float x = float.Parse(s); 在提交小数的时候会出现精度丢失问题, 如果是0.5则没有问题数据库中也是0.5,但是提交其他小数像 0.2 0.6 就会出现问题,数据库中是0.20000000298023224 0.60000002384185791 之类的数据,后来在网上查了一些资料 f loat:浮点型，含字节数为4，32bit，数值范围为-3.4E38~3.4E38（7个有效位） double:双精度实型，含字节数为8，64bit数值范围-

单精度变双精度不是原来值原因之所在

最新发布

不积跬步，无以至千里

12-06

1万+

单精度浮点float：可以精确到小数点后6位双精度浮点double：可以精确到小数点后12位C可以通过f或F后缀是编译器把浮点常量当做float类型，比如2.3f和9.11E9F。l或L后缀使一个数字成为long double类型，比如54.3l和4.32e4L。建议使用L后缀，因为字母l和数字1容易混淆没有后缀的浮点常量为double类型。（重点）。例：sizeof(1.9) = 8;

精度丢失

xiao_chainiao的博客

07-30

323

查看BigDecimal(double val)构造器时可以发现，使用该类构造器时有一定的不可预知性。当程序使用new BigDecimal构造器来创建一个对象，它的值并不是0.01，他实际上等于一个近似0.1数。这是因为0.1无法精确表示为double浮点数，所以传入BigDecimal构造器的值不会正好等于0.1（虽然表面上等于该值）。如果使用BigDecimal(String val)构

C#中float向double转换时会发生精度丢失

栩风

11-16

4068

C#中float向double转换时会发生精度丢失问题，测试代码如下：using System;using System.Collections.Generic;using System.Text;namespace Folat隐式转换为Double精度测试{ class Program { static void Main(string[] args) {

C#学习笔记

11-07

- `double`: 双精度浮点型，占用64位内存，有效数字大约为15-20位。 - `decimal`: 128位高精度浮点型，有效数字可达28-29位。 - `byte`: 8位整型，取值范围0-255。 - `sbyte`: 8位带符号整型，取值范围-128到127...

2023 C# 学习笔记（全部的基础知识点记录）适合初学者学习使用

06-20

- `double` 和 `float` 分别代表双精度和单精度浮点数，精度不同，且使用 `f` 或 `d` 后缀指定类型。 - `decimal` 类型提供更高的精度，适合财务计算。 7. **变量赋值和访问**： - 可以直接在声明时对变量进行...

C#学习笔记整理_变量等基础语法(必看篇)

09-01

整型数据类型按位宽和符号性来区分，而浮点型数据类型则有单精度（float）和双精度（double）之分，128位的高精度十进制数用decimal表示。字符串类型（string）是一种特殊的引用类型，虽然它表示不可变的字符序列...

C#学习笔记：字符串操作、数据类型转换与Windows窗体

- `Convert.ToDouble()`：转换为双精度浮点型。 - `Convert.ToString()`：将对象转换为字符串。在Windows窗体应用程序开发中，我们通常会接触到以下概念： 1. 窗体属性，如 `Name`（窗体对象的标识名）、`...

单精度、双精度浮点存储表示及精度丢失问题

wyb041011的专栏

09-28

1343

单精度，双精度浮点存储表示剖析float型的精度丢失问题

String与Float类型的相互转换/number数据前面丢失零

Miss_kun的专栏

11-11

2444

String转float：float dd=Float.parseFloat(aa);//aa位String数据 float转String：String aa

C# 将2进制转化为单精度的方法

LYBWWP

10-13

1179

using System; using System.Text; class Program { static void Main() { float ff = 52.368F; byte[] bb = BitConverter.GetBytes(ff); string s = ToString(bb); Console.WriteL

double 转成 float 时，数据会丢失

Kevin的专栏

03-14

7324

例如以下语句： float floatVal = 3.15884534;这个 3.15884534 会变成 3.15885 保存在 floatVal 中。即float 约精确到小数点后第四位

Unity,C# float转String如何保留实际小数位数，即防止精度丢失截取字符串报错

qq_38411133的博客

09-14

6598

比如一个float a = 329.0; 转成String，要让a显示成329.0；如果a = 329.000，转成String 显示成329.000 可是实际却不是这样的 a.ToString()直接变成329 所以碰到这种情况怎么办呢一. string Data = a.ToString(); if (Data.Split('.').Length == 1) Data +=".0...

关于float和double丢失精度问题及解决方案

Wanted_Tao的博客

10-21

1万+

double result = 1.0 - 0.9; System.out.println(result);//0.09999999999999998 出现这种结果的原因：float和double类型尤其不适合用于货币运算，因为要让一个float或double精确的表示0.1或者任何其他负数次方值是不可能的（十进制系统中不能准确的表示出1/3，同样二进制系统也不能准确的表示1/10）。

使用浮点型数据（float/double）会出现精度丢失问题的解决

lcb9354的博客

09-02

3533

一、使用BigDecimal解决精度丢失问题第一步：把float/double类型的转为BigDecimal类型 //把float/double类型的转为BigDecimal类型 BigDecimal bigDecimal = BigDecimal.valueOf(db); //方式二：Double.toString(db) 把Double变为String //BigDecimal bigDecimal1 = new BigDecimal(Double.toString(db)); 第二

c# 单精度与字节类型相互转换

灰太狼的小秘密

10-12

3408

一、单精度转字节类型 //获取数据 float tem_coef =0； tem_coef = Convert.ToSingle(Tem_trans_coeffic_set1.Text); //单精度转字节 byte[] tem_data = new byte[4];//存放单精度转换为四字节的数组 tem_data = BitConverter.GetBytes(tem_coe...