Linux下相同内容-文本和文件计算的摘要不一致

linux之找出两个文件里面相同的数据 1 问题 找出2个文件里面重复的数据(这个问题是csdn排名第一的大神stpeace的专栏在微信里面和我的交流,我当时一脸懵逼) 文件a.txt文件内容如下 cat a.txt 123 123 234 345 456 文件b.txt文件内容如下 cat b.txt 234 345 456 789 789 两个文件重复的数据如下 234 345 456 ... 阅读详情

大部分java开发是在Windows上开发,而生产环境下在Linux中运行.
Windows/Dos 换行符 CRLF \r\n
Linux/Unix 换行符 LF \n
MacOS 换行符 CR \r
造成问题,在win下编辑的文本,上传Linux后文件内容每行内容会多出来^M$,在计算文本摘要和文件摘要就不一样了。

参考

Shell中去掉文件中的换行符简单方法
linux 如何删除文件中的空格和换行符号并保存到新文件中
linux删除文件中换行符的三种方法
linux统计文件每行长度,wc命令 – 统计文件的字节数、字数、行数
Windows和Linux的文件分隔符、换行符问题

问题

测试 文本test.txt,在win下编辑内容hello word,计算crc和md5不一致,只有截取后计算一致

[root@localhost ~]# wc -c test.txt 
12 test.txt
[root@localhost ~]# cat test.txt | md5sum
c95c2e9369b537420c0d35ef7ba4f110  -
[root@localhost ~]# echo 'hello word'|md5sum
4d2220fcf2abf3a9baac712bb93bd29c  -
[root@localhost ~]# cat test.txt |cksum
1699679688 12
[root@localhost ~]# echo 'hello word'|cksum
1125081862 11
[root@localhost ~]# cat test.txt | cut -b 1-10| cksum
1125081862 11
[root@localhost ~]# cat test.txt | cut -b 1-10| md5sum
4d2220fcf2abf3a9baac712bb93bd29c  -
[root@localhost ~]# cat -A test.txt 
hello word^M$
[root@localhost ~]# cat test.txt 
hello word

在这里插入图片描述

在Linux上创建文件是没问题的

[root@localhost ~]# echo 'hello word'|md5sum
4d2220fcf2abf3a9baac712bb93bd29c  -
[root@localhost ~]# echo 'hello word'|cksum
1125081862 11
[root@localhost ~]# echo 'hello word' > 2test.txt
[root@localhost ~]# cksum 2test.txt 
1125081862 11 2test.txt
[root@localhost ~]# md5sum 2test.txt 
4d2220fcf2abf3a9baac712bb93bd29c  2test.txt
[root@localhost ~]# wc -c 2test.txt 
11 2test.txt
[root@localhost ~]# cat 2test.txt 
hello word
[root@localhost ~]# cat -A 2test.txt 
hello word$

在这里插入图片描述

END

所以文件要么直接在Linux创建,要么计算的时候处理一下文件内容

MOOS-ivp 实验三 MOOS简介(3) MOOS-ivp 实验三 MOOS简介(3) 继上一篇文章继续对实验进行记录 提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录MOOS-ivp 实验三 MOOS简介(3)六、A Simple Example with pXRelay1.pXRelay基本使用2.pXRelay简单例子3.pXRelay实验七、First Experiments in Modifying MOOS App Code1.下载一个MOOS模板文件2.打开MOOS模板文件总结 六、A Simple E 阅读详情

相关推荐

若依框架(ruoyi vue版)集成jeecg积木报表整体完整实用教程(超长篇幅耐心阅读)

若依框架(ruoyi vue版)集成jeecg积木报表整体完整实用教程,主要说明jeecg积木报表的集成、jeecg积木报表嵌入若依菜单、token权限控制,以及iframe嵌入表格等内容。

weixin_53067723的博客 4639

CRC32命令和cksum命令输出结果为何不同?

首先追根究底问两个命令为何不一样,主要就是看他们的源代码算法是否一样?下面主要是我解决这个问题的思路 Linux中是可以去直接查看源代码的,这方面的问题我还没有解决: 首先 man cksum,看到cksum的手册,图片中画了红线的部分是源码网站: 根据这个网站进去: 接着在Linux中通过命令运行: 现在的问题是面临重设问题,将git改成http就好: 但是又出现了新的问题,至今未解决… 最后选择从网上找了现成的源代码: CRC32的源代码: /* Th.

Hedia Pan的博客 3161

5090D显卡安装LLaMA-Factory避坑指南:PyTorch与CUDA版本兼容性问题解决

本文是针对5090D显卡安装LLaMA-Factory时遇到的PyTorch与CUDA版本兼容性问题的详细解决指南。文章深入剖析了因GPU架构代际差异导致的“no kernel image”报错根源,并提供了从环境诊断、安装匹配的PyTorch Nightly版本,到最终集成验证的完整路径,帮助用户确保LLaMA-Factory在5090D上稳定运行。

Apple的专栏 868

Linux:摘要命令。

md5sum 该命令用于生成md5摘要,通常用于在文件上传和下载操作中操作内容的正确性,或者通过hmac做对称数据签名。 为文件生成md5摘要 sha256 md5摘要算法可以通过碰撞的方法被破解,虽然碰撞后数据符合业务规则的可能性比较小,但是安全无小事,我们倾向于更安全的sha256算法。 sha256通常也用于在文件上传和下载操作中校验正确性,或者通过校验的sha256-hmac...

孤芳不自赏 1169

人工智能在高中教育中的应用现状剖析与挑战应对

人工智能在高中教育中的应用现状剖析与挑战应对

燕鹏 1338

【深度学习】肺结节分割项目实战一:处理数据集

一、LIDC-IDRI数据集简介 官方网站 肺图像数据库协会的图像收集(LIDC-IDRI)包括诊断和带有病变注释标记的肺癌筛查胸部CT。这是一个网络公开的国际资源,用于肺癌检测和诊断的计算机辅助诊断(CAD)方法的开发、培训和评估。 数据集包含1018个病例,每个病例包括来自临床胸部CT扫描的图像和一个相关的XML文件,该文件记录了由四名经验丰富的胸部放射科医生进行的两阶段图像注释过程的结果。在最初的盲读阶段,每个放射科医生独立审查每个CT扫描,并标记出属于三种类型之一的病变(“结节>= 3mm”,

weixin_42182906的博客 1万+

linux grep命令Ff和wf从两个文件中提取相同内容的行

首先——grep -Fftext1:chr1    1304143chr1    1304787chr1    1305007chr1    1305066chr1    1305096chr1    1508459text2:chr1    1305066chr1    1305096chr1    1508459chr1    1304143chr1    1304787chr1    130...

haixian_wu的博客 1万+

实例讲解Simulink应用层开发CAN报文解包及CAN信号设置方法

本文通过讲解MCU CAN解包模块的模块设置、输入输出信号的设置及仿真测试验证,说明了CAN解包模块的设置方法、CAN解包模块输入输出信号的设置方法以及CAN解包模块的仿真测试及修正方法。在模型搭建过程中,建议养成一种搭建完成仿真测试验证的习惯,在模块阶段发现错误,解决错误,避免在后期模块集成之后报出大量错误,增加解决错误的工作量和难度。希望通过本文的介绍能给相关技术人员带来一些参考和帮助。

qq_43011586的博客 5678

Linux下使用grep完成文件部分相同内容的匹配

利用grep命令,我们可以对两个txt文件中部分相同的内容进行匹配,假如我有两个文件分别是a.txt和b.txt,内容如下: a.txt: G2554  10   A   45 G3479   7    B   78 G2356   9    C   66 G1884   6    D   90 b.txt: G2554 G2356 假如我想筛选出a.txt中与b.txt的第一列...

qq_36480087的博客 3315

快手did did_gt edid的注册过程

接口 https://gdfp.ksapisrv.com/rest/infra/gdfp/report/kuaishou/android did 是本地生成的16进制 或者 获取的 android_id did_gt 是did生成时间戳 1595073601970 public static final Random f16237a = new Random(System.currentTimeMillis()); public static long m19668a() {  &n

HURUWO的技术博客 1万+

Halcon阈值算子 -- 局部阈值之dyn_threshold

Halcon阈值算子 – dyn_threshold HALCON有很多阈值算子,接下来将一一介绍。本文先介绍dyn_threshold。 以下介绍主要参考HALCON帮助文档,并加上自己的体会。如有纰漏,欢迎留言指出 理论介绍 dyn_threshold算子的函数签名如下: dyn_threshold(OrigImage, ThresholdImage : RegionDynThresh : Offset, LightDark : ) 输入参数有: OrigImage:待处理图像 ThresholdIm

m0_47015717的博客 5382

linux对文件内容比较,linux 找出两个文件内容的相同与不同

一、comm命令在我们的开发和运营中,特别是对业务进行监控的时候,我们常常需要写一些监控shell脚本,而这些脚本需要求两个文件的共同的记录列表或者只出现在第一个文件但不出现在第二个文件的记录列表的场景,此时,comm命令则是您解决此类问题的利器和助手。随意man comm下,可以在Linux下看到该命令的使用方法:NAMEcomm - compare two sorted files line ...

weixin_39788382的博客 3487

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

linux 如何过滤出两个文本相同的内容

comm 是专门比较两个已排序文件的工具,能找出相同和不同的行。awk 强大、灵活 需要处理更复杂的匹配条件时(如字段匹配等)🎯 方法二:grep + F (适合不需要排序的场景)comm 简单、直观 文件已排序,内容较大时使用。grep 快速、无需排序 小文件或临时检查时使用。linux 如何过滤出两个文本相同的内容。🎯 方法三:awk 实现(更强大)🎯 方法一:comm 命令。方法 优势 适用场景。

xiaopeng_thriller的博客 496

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

linux中计算文本文件中某个字符的出现次数

文章目录linux中计算文本文件中某个字符的出现次数1. 概述2.使用 `grep` 命令2.1. 不区分大小写的搜索2.2. 使用多个输入文件3.使用 `tr`命令3.1. 不区分大小写的搜索4. 使用 `awk`命令5. 性能比较6:结论 linux中计算文本文件中某个字符的出现次数 1. 概述 在本教程中,我们将学习使用 Linux 命令查找文本文件中特定字符的计数。 假设你对常用的 Linux 命令有基本的了解,包括grep、awk、tr和wc。 rumenz.txt 中有一些虚拟数据:

猫头虎技术团队:授渔优于赠鱼,兴趣引领智慧,探索之乐尤显珍贵。商务合作+:Libin9iOak ,万粉变现+:优快云WF,猫头虎承诺每年免费为100名C站创作者做账号流量诊断服务!全网搜:猫头虎技术团队,点击文章底部名片或直接私信我一切皆可谈,快找虎哥! 8339

linux 给文件替换字符串/替换内容/替换某行 (shell,sed)

本文是要讲linux 不打开文档/文件的情况下,替换文本内容。 打开文档,在文档/文件内替换内容的,可以用vim,可参考这篇文章vim 替换文本 。 话题相关 #linux 文件替换字符串 #sed 字符串替换 #linux 替换指定行内容 #linux 替换某行 linux一般用sed来替换文本到指定行。 基本语法 s (substitute)为查找替换命令 # 在输出或打印中,替换字符串。并...

Yu's Notes 12万+

Linux比较两个文件并输出不同或相同之处

一、找相同 以从file1.txt和file2.txt中抽离出相同部分为例,注意:文件都是已经排好序的 sort -r 1.txt -o 1.txt sort -r 2.txt -o 2.txt vi same.txt//script difference.txt grep -wf 1.txt 2.txt > same.txt 二、找不同 1.对要比较的两个文件进行排序 sort -r...

qq_30242987的博客 7164

linux 替换文件夹内容,Linux批量替换文本,文件夹内所有文本内容

1.替换文件夹内所有文件匹配的字符串sed -i "s/旧内容/新内容/g" `grep 旧内容 -rl 文件夹路径`例如将/var/www/test文件夹下的所有文件内容中的abc字符串换成123sed -i "s/abc/123/g" `grep abc -rl /var/www/test`注:grep内容用的不是单引号',而是`,tab键上面的,请使用绝对路径2.替换文件内所有匹配的字符串s...

weixin_35864328的博客 8215

linux判断两个文件内容,shell怎么判断两个文件内容是否相同

#cat diff_two_file#/bin/sbinfile1=/mnt/mmc/test/aafile2=/mnt/mmc/test/bbdiff $file1 $file2 > /dev/nullif [ $0 == 0 ]; thenecho "Both file are same"elseecho "Both file are different"fi--------------...

weixin_29468871的博客 8664

Linux下比较两个文件是否一致-md5sum

md5值一致则说明是一模一样 diff返回空也说明两个文件是一致的 MD5算法常常被用来验证网络文件传输的完整性,防止文件被人篡改。MD5 全称是报文摘要算法(Message-Digest Algorithm 5),此算法对任意长度的信息逐位进行计算,产生一个二进制长度为128位(十六进制长度就是32位)的“指纹”(或称“报文摘要”),不同的文件产生相同的报文摘要的可能性是非常非常之小的。 md5sum命令采用MD5报文摘要算法(128位)计算和检查文件的校验和。一般来说,安装了Linux后.

胡迪_tester的博客 8393

linux编辑文本内容的命令,Linux的文本编辑和文本内容查看命令

Linux的文本编辑和文本内容查看命令1、文本编辑命令vi:用于编辑文本文件,基本上可以分为三种模式,分别是一般模式、编辑模式、命令行模式。一般模式:当编辑一个文件时,刚进入文件就是一般模式。编辑模式:在一般模式下,是不可以编辑文本内容的,需要按i、l、a、A、o、O中的任意一个键进入编辑模式(此时频幕最下方会出现“INSERT”或“REPLACE”),从编辑模式回到一般模式需要按键盘左上方的ES...

weixin_34036423的博客 3603

linux 查找一个txt文件的内容,根据内容输出到另外一个文件,Linux 文本文件及处理...

一、什么是文本信息提到文本文件大家可能想到windows下的txt文件,除此之外呢?在linux下有哪些文本信息呢?程序源文件标准输入输出普通文本文件配置文件文本型网络协议?因特网大部分传输层以上协议是文本型协议会话层协议: HTTP,POP3,SMTP,IMAP表示层协议:HTML,XML,MIME二、文本文件读取的命令(一)more显示文本信息,文本信息过滤器【一次只显示一个屏幕】只能往前看,...

weixin_31021649的博客 2631

linux两个不同文件inode相同,Linux系统中如何寻找相同的文件?

今天小编要跟大家分享的文章是关于Linux系统中如何寻找相同的文件?随着电脑的使用,系统里将产生很多垃圾,最典型的就是同一份文件被保存到了不同的位置,这样导致的结果就是磁盘空间被大量占用,系统运行越来越慢。下面就来和小编一起看一看怎么办吧!如果你的电脑空间告急的话,可以试着去删除这样的文件,释放一些空间。在 Linux 下,我们可以通过识别文件的 inode值来找出系统中的相同文件。inode 是...

weixin_39832829的博客 870

GITEE提交代码时出现“文本是相同的,但文件不匹配“问题解决方法

GITEE

许新天的博客 5321

Linux系统上的文本处理——查看文件内容、文本排序

文件查看命令: 文件查看命令:cat, tac,rev cat [OPTION]... [FILE]... -E: 显示行结束符$ -n: 对显示出的每一行进行编号 -A:显示所有控制符 -b:非空行编号 -s:压缩连续的空行成一行 分页查看文件内容: more: 分页查看文件 more [OPTIONS...] FILE... -d: 显示翻页及退出提示 le...

qq_44867764的博客 1477

linux查看文件md5值, 使用 md5值比对文件内容是否完全相同 diff

linux下查看文件md5值的命令为: md5sum 目标文件 linux 系统比对两个文件内容是否完全相同(如果文件内容完全相同,即使文件名不同,其md5值也是相同的。可用于扫黄检测): md5sum file1 file2 例如:比对当前目录下的percona-release.repo 和 /etc/yum.repos.d目录下percona-release.repo 内...

wudinaniya的博客 4万+

linux文件删除部分内容,Linux 下比较文件内容并删除相同部分

别人问我,我自己突然不知道怎么弄又懒得想,搜索了一下,找到一篇文章。然后稍微了解了一下。先做好准备工作,简单准备两个文本文件,如下[root@kinggoo.com test1]# cat file1abcde[root@kinggoo.com test1]# cat file2ce说明,是通过file2内容与file1做比较,最后列出file1与file2不同的部分方法一comm功能说明:比较两...

weixin_42099087的博客 1010
上一篇: java-处理文本文件-大量试题重排序
下一篇: mysql 之general_log日志
privateobject
博客等级 码龄9年 107粉丝 86原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值