关于python小数点精度控制的问题

最新推荐文章于 2025-02-06 22:53:28 发布
转载 最新推荐文章于 2025-02-06 22:53:28 发布 · 1.1k 阅读 · 3
文章标签：

#python #精度控制 #round

本文探讨了Python中浮点数的精度问题，包括单精度和双精度的区别，以及如何使用round()函数和decimal模块来控制小数点后的位数。提供了实现不同精度需求的方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

关于python小数点精度控制的问题

基础

浮点数是用机器上浮点数的本机双精度(64 bit)表示的。提供大约17位的精度和范围从-308到308的指数。和C语言里面的double类型相同。Python不支持32bit的单精度浮点数。如果程序需要精确控制区间和数字精度，可以考虑使用numpy扩展库。

Python 3.X对于浮点数默认的是提供17位数字的精度。

关于单精度和双精度的通俗解释：

单精度型和双精度型，其类型说明符为float 单精度说明符，double 双精度说明符。在Turbo C中单精度型占4个字节（32位）内存空间，其数值范围为3.4E-38～3.4E+38，只能提供七位有效数字。双精度型占8 个字节（64位）内存空间，其数值范围为1.7E-308～1.7E+308，可提供16位有效数字。

要求较小的精度

将精度高的浮点数转换成精度低的浮点数

1，round()内置方法

在这里插入图片描述
round()如果只有一个数作为参数，不指定位数的时候，返回的是一个整数，而且是最靠近的整数（这点上类似四舍五入）。但是当出现.5的时候，两边的距离都一样，round()取靠近的偶数，这就是为什么round(2.5) = 2。当指定取舍的小数点位数的时候，一般情况也是使用四舍五入的规则，但是碰到.5的这样情况，如果要取舍的位数前的小树是奇数，则直接舍弃，如果偶数这向上取舍。看下面的示例：
在这里插入图片描述

2，使用格式化

效果和round()是一样的。
在这里插入图片描述

要求超过17位的精度分析

python默认的是17位小数的精度，但是这里有一个问题，就是当我们的计算需要使用更高的精度（超过17位小数）的时候该怎么做呢？

1，使用格式化（不推荐）

在这里插入图片描述
可以显示，但是不准确，后面的数字往往没有意义。
2，高精度使用decimal模块，配合getcontext
在这里插入图片描述
默认的context的精度是28位，可以设置为50位甚至更高，都可以。这样在分析复杂的浮点数的时候，可以有更高的自己可以控制的精度。其实可以留意下context里面的这rounding=ROUND_HALF_EVEN 参数。ROUND_HALF_EVEN， 当half的时候，靠近even.

关于小数和取整

既然说到小数，就必然要说到整数。一般取整会用到这些函数：

1，round()

这个不说了，前面已经讲过了。一定要注意它不是简单的四舍五入，而是ROUND_HALF_EVEN的策略

2,math模块的ceil(x)

取大于或者等于x的最小整数。

3,math模块的floor(x)

取小于或者等于x的最大整数。
在这里插入图片描述
撤销：Ctrl/Command + Z
重做：Ctrl/Command + Y
加粗：Ctrl/Command + B
斜体：Ctrl/Command + I
标题：Ctrl/Command + Shift + H
无序列表：Ctrl/Command + Shift + U
有序列表：Ctrl/Command + Shift + O
检查列表：Ctrl/Command + Shift + C
插入代码：Ctrl/Command + Shift + K
插入链接：Ctrl/Command + Shift + L
插入图片：Ctrl/Command + Shift + G

合理的创建标题，有助于目录的生成

直接输入1次#，并按下space后，将生成1级标题。
输入2次#，并按下space后，将生成2级标题。
以此类推，我们支持6级标题。有助于使用TOC语法后生成一个完美的目录。

如何改变文本的样式

强调文本 强调文本

加粗文本 加粗文本

标记文本

删除文本

引用文本

H2O is是液体。

210 运算结果是 1024.

插入链接与图片

链接: link.

图片: Alt

带尺寸的图片: Alt

居中的图片: Alt

居中并且带尺寸的图片: Alt

当然，我们为了让用户更加便捷，我们增加了图片拖拽功能。

如何插入一段漂亮的代码片

去博客设置页面，选择一款你喜欢的代码片高亮样式，下面展示同样高亮的 代码片.

// An highlighted block
var foo = 'bar';

生成一个适合你的列表

  • 项目
    • 项目
      • 项目
  1. 项目1
  2. 项目2
  3. 项目3
  • 计划任务
  • 完成任务

创建一个表格

一个简单的表格是这么创建的：

项目Value
电脑$1600
手机$12
导管$1

设定内容居中、居左、居右

使用:---------:居中
使用:----------居左
使用----------:居右

第一列第二列第三列
第一列文本居中第二列文本居右第三列文本居左

SmartyPants

SmartyPants将ASCII标点字符转换为“智能”印刷标点HTML实体。例如：

TYPEASCIIHTML
Single backticks'Isn't this fun?'‘Isn’t this fun?’
Quotes"Isn't this fun?"“Isn’t this fun?”
Dashes-- is en-dash, --- is em-dash– is en-dash, — is em-dash

创建一个自定义列表

Markdown
Text-to- HTML conversion tool
Authors
John
Luke

如何创建一个注脚

一个具有注脚的文本。1

注释也是必不可少的

Markdown将文本转换为 HTML。

KaTeX数学公式

您可以使用渲染LaTeX数学表达式 KaTeX:

Gamma公式展示 Γ ( n ) = ( n − 1 ) ! ∀ n ∈ N \Gamma(n) = (n-1)!\quad\forall n\in\mathbb N Γ(n)=(n−1)!∀n∈N 是通过欧拉积分

Γ ( z ) = ∫ 0 ∞ t z − 1 e − t d t   . \Gamma(z) = \int_0^\infty t^{z-1}e^{-t}dt\,. Γ(z)=∫0∞​tz−1e−tdt.

你可以找到更多关于的信息 LaTeX 数学表达式here.

新的甘特图功能，丰富你的文章

Mon 06 Mon 13 Mon 20 已完成 进行中 计划一 计划二 现有任务 Adding GANTT diagram functionality to mermaid
  • 关于 甘特图 语法，参考 这儿,

UML 图表

可以使用UML图表进行渲染。 Mermaid. 例如下面产生的一个序列图：:

张三 李四 王五 你好！李四, 最近怎么样? 你最近怎么样，王五？ 我很好，谢谢! 我很好，谢谢! 李四想了很长时间, 文字太长了 不适合放在一行. 打量着王五... 很好... 王五, 你怎么样? 张三 李四 王五

这将产生一个流程图。:

链接
长方形
圆
圆角长方形
菱形
  • 关于 Mermaid 语法，参考 这儿,

FLowchart流程图

我们依旧会支持flowchart的流程图：

Created with Raphaël 2.2.0 开始 我的操作 确认？ 结束 yes no
  • 关于 Flowchart流程图 语法，参考 这儿.

导出与导入

导出

如果你想尝试使用此编辑器, 你可以在此篇文章任意编辑。当你完成了一篇文章的写作, 在上方工具栏找到 文章导出 ，生成一个.md文件或者.html文件进行本地保存。

导入

如果你想加载一篇你写过的.md文件或者.html文件，在上方工具栏可以选择导入功能进行对应扩展名的文件导入，
继续你的创作。

  1. 注脚的解释 ↩︎

python 小数点位数_python小数位数
weixin_39959236的博客
11-29 2720
广告关闭腾讯云11.11云上盛惠 ，精选热门产品助力上云，云服务器首年88元起，买的越多返的越多，最高返5000元！我想格式化浮点数的列表，最多只能输入2位小数。 我也不想跟踪零，也不想跟踪小数点。 所以，像这样：4.001=> 4，4.797=> 4.8，8.992=> 8.99，13.577=> 13.58...python保留两位小数：in : a = 5.026 i...
python 小数点精度控制_浅谈Python里面小数点精度的控制
weixin_39683769的博客
01-13 963
摘要：这篇Python开发技术栏目下的“浅谈Python里面小数点精度的控制”，介绍的技术点是“Python、小数点、小数、精度、控制”，希望对大家开发技术学习和问题解决有帮助。今天小编就为大家分享一篇浅谈Python里面小数点精度的控制，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧要求较小的精度round()内置方法这个是使用最多的，刚看了round()的使用解释，也不是很容易...
处理小数点位数，整数的处理
chenchenMonkey
01-02 536
from decimal import Decimal Decimal(self.jieEe[0]['JE']).quantize(Decimal('0.0')) 采用 self.assertEqual判断时候可以使左右值得精确度保持一致  
python 小数
焦糖花粥
08-31 8648
一、小数与浮点数 在python中小数是通过导入一个模块调用函数后创建的，而不是通过运行常量表达式创建的（运行常量表达式创建的是浮点型）。从功能上来说小数对象就是浮点数，只不过它们有固定的位数和小数点，因此小数是有固定精度的浮点值。 浮点数缺乏精确性，因为用来存储数值的空间有限。例如：下面的计算应该得到0，但是却没有，结果接近零，但是却没有足够的位数去实现这样的精度。因为与硬件相关的浮点数运算...
python执行精确的小数计算
杨佳佳的博客
05-13 2万+
在进行浮点数计算时它们无法精确表达出所有的十进制小数位。a = 4.1 b = 5.329 print(a+b) 9.428999999999998这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。我们可以使用decimal模块避免这种操作(如果不介意牺牲下性...
Python 中如何控制小数点精度与对齐方式
02-06 994
在 Python 编程中，数据输出格式化是一个常见的需求，尤其是在涉及到小数点精度和对齐方式时。无论是在科学计算中，还是在财务报表、数据分析等领域，确保数字输出符合特定的格式规范都非常重要。Python 提供了几种方法来控制小数点的精度和对齐方式，其中最常用的包括字符串格式化、`round()` 函数和 `format()` 方法。本文将详细介绍如何在 Python 中实现这些功能。
浅谈Python里面小数点精度的控制
09-20
在Python编程语言中，小数点精度的控制是一个非常重要的话题，尤其是在涉及金融计算、科学计算和其他对精度要求极高的领域。这篇文章将深入探讨Python中控制小数点精度的方法，包括使用内置的round()函数、格式化...
python设置变量精度_python中小数点精度控制问题
weixin_39994665的博客
12-09 1609
本篇文章转载自https://www.cnblogs.com/herbert/p/3402245.html浮点数是用机器上浮点数的本机双精度(64 bit)表示的。提供大约17位的精度和范围从-308到308的指数。和C语言里面的double类型相同。Python不支持32bit的单精度浮点数。如果程序需要精确控制区间和数字精度，可以考虑使用numpy扩展库。Python 3.X对于浮点数默认的...
32位浮点数 表示范围
03-27 4642
32位浮点数 表示范围 计算机组成原理 enter description here 转载于:https://www.cnblogs.com/Howbin/p/10610603.html
Python之list每个元素小数点精度控制
小勇博客
01-02 2894
代码： 运行：
python 数据精度控制
qq_38059635的博客
09-11 1万+
浮点数是机器上浮点数的本机双精度（64bit）表示。提供大约17位的精度和范围从-308到308的指数。 Python不支持32bit的单精度浮点数。更加精确的精度控制可以使用numpy扩展库 关于单精度和双精度的通俗解释： 单精度型和双精度型，其类型说明符为float 单精度说明符，double 双精度说明符。在Turbo C中单精度型占4个字节（32位）内存空间，其数值范围为3.4E-3...
python数据精度问题
m0_56069948的博客
08-30 4656
在Python中（其他语言中也存在这个问题，这是计算机采用二进制导致的），有时候由于二进制和十进制之间对应问题会导致数值的精度问题，比如无法用有限个二进制位完整地表示0.1，因为0.1转化为二进制之后位一个无限循环小数。需要将float转换为Decimal，该类可以通过接受字符串（务必是字符串）形式的浮点数实现相对精确的小数计算（减缓了精度误差，但没有消灭）需要将整数部分与小数部分单独做处理可以解决。归根结底是计算机存储浮点数的问题。...
Python中小数的处理
I_Surrender的博客
09-12 4547
Python中小数的处理包括四舍五入、取整（向上取整、向下取整），向0取整，获取一个数的小数部分。 四舍五入 需要用到round(value, 保留的小数位数)函数，如下49.698按照四舍五入保留两位小数。 print(round(49.698, 2)) # 输出结果是：49.7 print(round(-49.698, 2)) # 输出结果是：-49.7 向上取整 获取比value大，且最接近value的整数，需要用到math.cail(value)。 import math print(
有关Python里面小数点精度的控制
热门推荐
piaocoder
07-22 3万+
要求较小的精度 round()内置方法 这个是使用最多的，刚看了round()的使用解释，也不是很容易懂。round()不是简单的四舍五入的处理方式。 For the built-in types supporting round(), values are rounded to the closest multiple of 10 to the power minus ndigit
python的精度
dididisailor的博客
10-28 1440
python可以算到998的阶乘 2562位
Python的浮点数损失精度问题（为什么说双精度浮点数有15位十进制精度）
fyfcauc的专栏
07-21 1万+
本篇讨论的现象可以从下面这段脚本体现出来： >>> x = 0.0 >>> for i in range(10): x += 0.1 print(x) 0.1 0.2 0.30000000000000004 0.4 0.5 0.6 0.7 0.7999999999999999 0.8999999999999999 0.9999999999999999 >>> 即：为什么有几行的输
【Java / python】高精度数运算（大数类）训练
360°顺滑
10-11 1618
文章目录【HDU 1002】 A + B Problem IIB1. Social Network (easy version)（模拟）B2. Social Network (hard version)（加强版） 【HDU 1002】 A + B Problem II 原题链接： A + B Problem II 题意： 思路： Code1（C++）： Code2（C++）： 用...
Python浮点数（小数）运算误差的原因和解决方法
qq_43587953的博客
04-20 4632
原因解释： 浮点数（小数）在计算机中实际是以二进制存储的，并不精确。 比如0.1是十进制，转换为二进制后就是一个无限循环的数： 0.00011001100110011001100110011001100110011001100110011001100 python默认的浮点类型只能保证小数点后8位的精确度。 python是以双精度（64bit）来保存浮点数的，后面多余的会被砍掉，所以在电脑上实际保存的已经小于0.1的值了，后面拿来参与运算就产生了误差。 解决办法： 使用decimal库 from decim
python pandas 解析excel 存数据库记录坐标时小数点精度问题
最新发布
07-22
<think>我们面对的问题是：使用Python的pandas库解析Excel文件并将数据存储到数据库时，坐标值的小数点精度丢失。 原因分析：坐标通常是浮点数，而浮点数在计算机中存储和计算时可能存在精度问题。另外，在数据读取和写入过程中，可能由于数据类型转换或数据库字段类型设置导致精度丢失。 解决方案： 1. 确保在读取Excel文件时，pandas能够正确识别浮点数列，并保持足够的精度。 2. 在将数据写入数据库时，确保数据库表的字段类型能够存储高精度的浮点数（例如，使用DECIMAL或DOUBLE类型，具体取决于数据库）。 3. 在pandas和数据库交互的过程中，注意数据类型转换可能带来的精度损失。 具体步骤： 步骤1：使用pandas读取Excel文件时指定数据类型 在读取Excel文件时，可以通过`dtype`参数指定列的数据类型，或者使用`converters`参数来确保精度。但是，对于浮点数，pandas默认使用float64，其精度已经相当高（大约15-17位小数），通常能够满足坐标精度的要求。因此，问题可能不是出在读取阶段，而是写入阶段。 步骤2：检查pandas中DataFrame的数据类型 在读取数据后，打印DataFrame的数据类型，确保坐标列是float64类型。 步骤3：在写入数据库时处理精度 当我们使用to_sql方法写入数据库时，需要确保数据库表的字段类型能够存储高精度的浮点数。例如，在MySQL中，我们可以使用DOUBLE或DECIMAL类型，并指定精度。在SQLite中，REAL类型可以存储浮点数。 步骤4：使用SQLAlchemy进行数据类型映射 如果我们使用SQLAlchemy作为ORM工具，可以在定义表结构时指定列的数据类型和精度。例如，使用`DOUBLE(precision=15)`或`DECIMAL(precision=15, scale=10)`（根据需求调整精度和小数位数）。 步骤5：在写入时使用chunksize参数（可选，大数据量时） 如果数据量很大，可以考虑分块写入，但这与精度问题无关。 步骤6：在写入数据库之前，确保DataFrame中的浮点数没有被意外转换为低精度类型。 示例代码： 假设我们有一个Excel文件，其中包含两列坐标：'longitude'和'latitude'。 1. 读取Excel文件： ```python import pandas as pd df = pd.read_excel('data.xlsx') # 查看数据类型 print(df.dtypes) # 如果发现坐标列不是float64，可以转换 # df['longitude'] = df['longitude'].astype(float) # df['latitude'] = df['latitude'].astype(float) ``` 2. 创建数据库表时指定精度（以MySQL为例，使用SQLAlchemy）： ```python from sqlalchemy import create_engine, Column, Float, String from sqlalchemy.ext.declarative import declarative_base Base = declarative_base() class Location(Base): __tablename__ = 'locations' id = Column(String, primary_key=True) longitude = Column(Float(precision=15)) # 或者使用DECIMAL类型 latitude = Column(Float(precision=15)) # 创建表 engine = create_engine('mysql+pymysql://user:password@localhost/db_name') Base.metadata.create_all(engine) ``` 3. 使用pandas的to_sql方法写入数据： ```python # 如果使用SQLAlchemy，可以这样写 from sqlalchemy import create_engine engine = create_engine('mysql+pymysql://user:password@localhost/db_name') # 写入数据，注意如果表已存在，可以使用if_exists参数 df.to_sql('locations', engine, if_exists='append', index=False) ``` 但是，如果我们在写入时没有使用SQLAlchemy的Table结构，而是直接使用to_sql，那么pandas会尝试根据数据类型推断数据库字段类型。对于浮点数，pandas会映射为FLOAT类型，而FLOAT类型在某些数据库中可能精度不够（例如MySQL的FLOAT只有4字节，而DOUBLE有8字节）。因此，我们需要在to_sql中指定数据类型。 4. 在to_sql中指定数据类型（使用dtype参数）： ```python from sqlalchemy.types import FLOAT # 定义每列的数据类型 dtype = { 'longitude': FLOAT(precision=15), 'latitude': FLOAT(precision=15) } df.to_sql('locations', engine, if_exists='append', index=False, dtype=dtype) ``` 注意：如果数据库表已经存在，那么to_sql的dtype参数会被忽略。因此，我们需要确保在创建表时就指定好精度。 5. 使用DECIMAL类型（如果要求更高精度）： 在数据库中，DECIMAL类型可以精确存储数字。在SQLAlchemy中，我们可以使用`DECIMAL`类型，并指定精度和小数位数。 ```python from sqlalchemy import DECIMAL dtype = { 'longitude': DECIMAL(precision=20, scale=15), 'latitude': DECIMAL(precision=20, scale=15) } ``` 然后，在创建表或者使用to_sql时指定这个dtype。 总结：精度丢失问题通常可以通过在数据库中使用更高精度的数据类型（如DOUBLE或DECIMAL）并在pandas写入时明确指定列的数据类型来解决。 另外，如果问题仍然存在，可以在写入数据库前将DataFrame中的浮点数转换为字符串，保留足够的位数，然后再写入数据库，但这可能会增加存储和查询的复杂性。 因此，推荐的做法是： - 在数据库表中使用DECIMAL类型，并指定足够的精度（例如，经度纬度可能需要小数点后10位以上）。 - 在pandas的to_sql方法中，通过dtype参数指定列的数据类型为DECIMAL（或DOUBLE）并设置精度。 这样就能确保坐标值在存储到数据库时不会丢失精度。 相关问题： 1. 如何在使用pandas读取Excel文件时指定列的数据类型？ 2. 在SQLAlchemy中如何定义DECIMAL类型的字段？ 3. 除了数据库存储，还有哪些方法可以避免浮点数精度丢失？ 4. 在Python中如何高精度地处理浮点数运算？</think>### Python pandas 读取Excel存入数据库时坐标精度丢失的解决方法 当使用 pandas 读取 Excel 文件并将坐标数据存入数据库时出现精度丢失问题，通常由以下原因导致： 1. **Excel浮点数存储限制**：Excel 默认精度为15位小数 2. **pandas数据类型转换**：读取时自动推断类型可能降低精度 3. **数据库字段类型限制**：如使用`FLOAT`类型会丢失精度 #### 解决方案（分步实施）： --- ### 步骤1：读取Excel时指定高精度数据类型 在读取Excel时显式指定坐标列为高精度类型： ```python import pandas as pd # 指定坐标列为decimal.Decimal类型 df = pd.read_excel('data.xlsx', dtype={'longitude': 'float64', 'latitude': 'float64'}) # 或使用decimal提高精度 from decimal import Decimal converters = { 'longitude': lambda x: Decimal(str(x)), 'latitude': lambda x: Decimal(str(x)) } df = pd.read_excel('data.xlsx', converters=converters) ``` --- ### 步骤2：数据库表结构优化 创建数据库表时使用高精度字段类型： ```sql -- MySQL示例 CREATE TABLE locations ( id INT PRIMARY KEY AUTO_INCREMENT, longitude DECIMAL(18, 15), -- 18位总长度，15位小数 latitude DECIMAL(18, 15) ); -- PostgreSQL示例 CREATE TABLE locations ( id SERIAL PRIMARY KEY, longitude NUMERIC(18, 15), latitude NUMERIC(18, 15) ); ``` --- ### 步骤3：使用SQLAlchemy精确写入 通过SQLAlchemy控制数据类型映射： ```python from sqlalchemy import create_engine, DECIMAL from sqlalchemy.types import TypeDecorator # 自定义高精度类型 class HighPrecision(TypeDecorator): impl = DECIMAL(18, 15) # 创建数据库连接 engine = create_engine('mysql+pymysql://user:password@localhost/db_name') # 指定数据类型映射 dtype = { 'longitude': HighPrecision, 'latitude': HighPrecision } # 写入数据库 df.to_sql('locations', engine, if_exists='append', index=False, dtype=dtype) ``` --- ### 步骤4：验证精度（关键步骤） 写入前后进行数据验证： ```python # 读取后立即检查精度 print(df['longitude'].iloc[0]) # 查看原始值 # 从数据库回读验证 query = "SELECT longitude FROM locations LIMIT 1" db_value = pd.read_sql(query, engine).iloc[0,0] print(f"数据库存储值: {db_value}") ``` --- ### 补充说明 1. **避免使用`FLOAT`类型**：在数据库中始终使用`DECIMAL`/`NUMERIC`代替`FLOAT` 2. **Excel预处理**：在Excel中将坐标列设置为"数字"格式，小数位数设至最大 3. **中间格式转换**：可先导出为CSV保留精度，再导入数据库[^1] ```python # 临时保存为高精度CSV df.to_csv('temp_coords.csv', index=False, float_format='%.15f') ``` > **关键点**：精度丢失常发生在数据类型转换环节，需在pandas读取阶段、内存处理阶段和数据库写入阶段均保持高精度数据类型一致[^4]。 --- ### 相关问题 1. 如何在pandas中处理超过15位有效数字的坐标数据？ 2. MySQL的DECIMAL和FLOAT类型在存储地理坐标时有何区别？ 3. 使用SQLAlchemy时如何自定义字段类型映射？ 4. 除了数据库存储，还有哪些方法可以保持地理坐标的原始精度？ 5. 如何批量验证数据库中大量坐标数据的精度完整性？ [^1]: 引用自CSV保存数据库方法 [^4]: 引用自pandas读取文件参数说明
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值