特殊字符^M引起的数据导入问题

问题:特殊字符^M引起的数据导入问题:
问题描述:
在完成需求时需要通过系统门户网站上传原始数据,在到生产环境登录ftp下载数据.一次在从ftp下载下来数据,使用load导入数据库的过程后,发现导入的数据与文件中的数据不一致,
字段被截取了.
使用命令:cat -v source.txt 查看文件发现每行记录后有一个特殊字符^M(经查该字符可通过ctrl+v+m输入),
使用命令:sed 's/^M//g' source.txt 替换掉^M字符,再次导入,成功.

问题分析:
关于使用ftp传输文件的两种方式:binary ascii
binary:以二进制比特流传输文件,保留了原文件中的所有所以字符信息
ascii:以ascii码传输的时候,会在原系统还目标系统做相应的字符转换
将回车换行转换为本机的回车换行->
unix:n
windows:rn
mac:r
而上面的^M对应的是windows下dos格式的r,即十六进制的0D,因为门户的ftp上传功能使用的是binary传输模式,所以系统没有对windows下的回车换行进行替换,
到unix平台就会在每行记录后多出一个^M字符.

[@more@]

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/23937368/viewspace-1044947/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/23937368/viewspace-1044947/

### InfluxDB 和其他工具支持的 CSV 数据导入 #### InfluxDB 的 CSV 数据导入支持 InfluxDB 支持通过特定格式的 CSV 文件导入数据。为了成功导入,CSV 文件需满足以下条件: - **字段名称**:第一行必须包含字段名称[^1]。 - **数据一致性**:每一列的数据类型在整个文件中必须保持一致。 - **时间戳要求**:时间字段应位于第一列,并采用标准的时间戳格式(如 ISO 8601 或 Unix 时间戳)。 可以通过 `import` 命令完成 CSV 文件的导入操作。 #### MySQL 中的 CSV 数据导入支持 对于 MySQL 数据库,通常借助 Navicat 工具实现 CSV 文件的高效导入。以下是具体注意事项: - 需预先创建目标表结构以便匹配 CSV 文件的内容[^2]。 - 如果选择以第一行为字段名,则该行内容应当与数据库中的列名严格对应。 - 处理过程中可能遇到因为空值而导致的部分记录失败情况;对此可提前清理源数据或调整导入选项。 #### MATLAB 对于 CSV 文件的支持 MATLAB 提供了便捷的方法用于读写 CSV 文件,主要涉及两个核心函数: - 使用 `csvread` 函数可以从指定路径加载数值型矩阵形式的 CSV 数据[^3]。 - 调用 `csvwrite` 则能保存数组至外部存储介质上形成新的 CSV 文档。 例如下面展示了一个简单的例子说明如何利用这些功能: ```matlab % 将矩阵 M 存储为名为 'data.csv' 的 csv 文件 M = magic(4); csvwrite('data.csv', M); % 加载刚才生成的 csv 文件回到内存变量 N 中 N = csvread('data.csv'); disp(N); ``` #### HTML 环境下的 CSV 解析能力概述 尽管HTML本身并不直接提供内置机制去解析本地磁盘上的纯文本资源比如CSV文档,但是现代浏览器配合JavaScript脚本语言能够轻松达成这一目的.一般做法是从用户界面获取上传控件选定的目标文件对象实例之后调用FileReader API逐行扫描其内部字符串表达式进而转换成易于操控的形式. 另外值得注意的一点在于某些特殊场景下可能会碰到像"02345"这样的前导零保留需求未能得到妥善处理的情况;这通常是由于不当的应用程序设定所引起——举例来说当Microsoft Excel尝试解释这类条目时不加区分地将其视为常规整数从而去掉开头多余的‘0’字符.[^4] 最后提及一下 Oracle SQL Developer 平台也具备相当完善的批量录入手段针对来自不同源头包括但不限于Comma Separated Values (即我们常说的“.csv”)类型的资料集均提供了图形化向导辅助简化整个流程体验:[^5] ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值