linux命令对两个文件求差集、交集、并集

Linux 两个文件求交集、并集、差集 目录 一 交集 二 并集 三 差集 四 参考文档 如图所示,图左为 a.txt,图右为 b.txt。 一 交集 命令: sort a.txt b.txt | uniq -d > c.txt 结果: -d :显示重复出现的行列 二 并集 命令:... 阅读详情
AI摘要

本文介绍了如何使用Unix命令对user_2020.txt和user_2019.txt文件进行差集、交集和并集操作,包括sort、uniq和diff等工具的应用。通过实例演示了如何获取新域名、重复项去重和全量合并。这些技巧在数据处理和域分析中十分实用。

一、差集

有两个文件user_2020.txt、user_2019.txt

其中user_2020.txt中内容如下:

uuu
aaa
bbb
111

user_2019.txt中内容如下:

eeeee
aaa
bbb
ccc
aaa

示例一:求user_2020.txt -  user_2019.txt的差集命令

sort user_2020.txt user_2019.txt user_2019.txt| uniq -u

结果如下:

111
uuu

示例二:求user_2019.txt -  user_2020.txt的差集命令

sort user_2019.txt user_2020.txt user_2020.txt| uniq -u

结果如下:

ccc
eeeee

应用说明:如果有个大文件domain_total.txt,其中包含已知全部的域名数据,新来的域名domain_2020.txt,则获取新增的域名的操作如下:

 sort domain_2020.txt domain_total.txt domain_total.txt | uniq -u 

求的即使本次新增的域名。

二、交集

 sort user_2019.txt user_2020.txt| uniq -d

结果如下(注意:单行文本中不能包含特殊字符,否则上述命令会失效,例如 1.0.0.1类似的IP去重,可以使用sed等命令将 特殊字符替换掉后再求交集):

aaa
bbb

三、并集

sort user_2019.txt user_2020.txt| uniq
111
aaa
bbb
ccc
eeeee
uuu

求两个文件交集和差集的方法及编程实现 在Linux Shell环境下,我们可以使用一些命令和技巧来求解两个文件的交集和差集。下面将介绍两种常见的方法:使用sort和comm命令以及使用awk命令。 阅读详情

相关推荐

Raptor码(一):2007RFC5053标准编解码学习

RFC 5053 标准

a_beatiful_knife的博客 3493

Linux下求差集运算方法小结

在实际的工作中我们经常会遇到求数据的差集的问题。比如,原来数据库的某个表中有1000条数据,后来经过一些后续的变更,变成了1200条数据了。那么我们如何求得这多出来的200条数据究竟是哪一些呢?在此,我做了一个小小的总结,把求解此类问题的方法在此列出。为了后面叙述的方便,现把原来的1000条数据的文件命名为file1.txt,后来的1200条数据的文件命名为file2.txt。file1.txt和

xibeichengf的专栏 4228

Latex在VSCODE中编译报错`Recipe terminated with error. Retry building the project.

Latex在VSCODE中编译报错Recipe terminated with error. Retry building the project. 1 报错提示: Recipe terminated with error 2 报错原因 大概率的原因是因为latex没有添加到系统环境变量中,所有设置的编译工具没有办法找到才出现的这种情况 3 解决方案 请按照如下方式进行系统变量的添加 对windows,win+R 然后输入sysdm.cpl 在高级中选择环境变量 找到path环境变量,将txtlive中

呆呆象呆呆的博客 3万+

高级shell扩展---uniq命令

uniq uniq 命令用于检查及删除文本文件中重复出现的行列,一般与 sort 命令结合使用。 语法 uniq [-cdu][-f<栏位>][-s<字符位置>][-w<字符位置>][--help][--version][输入文件][输出文件] 参数: -c或--count 在每列旁边显示该行重复出现的次数。 -d或--repeated 仅显示重复出现的行列。 -f<栏位>或--skip-fields=<栏位> 忽略比较指定的栏位。 -s<

panbuhei 486

5分钟搞定!Unity中Matcap玻璃材质快速实现(含免费贴图资源)

本文详细介绍了在Unity中快速实现Matcap玻璃材质的方法,从技术原理到实战操作,包括Shader编写、参数调节和性能优化。通过Matcap技术,开发者可以高效创建逼真玻璃效果,特别适合移动端和快速迭代项目。文章还提供了免费贴图资源和进阶优化技巧,帮助提升视觉效果和运行效率。

a1b2c的博客 221

基于Spring Boot在线远程考试系统的设计与实现

结合先进的互联网技术,开发符合需求的软件,让数据内容管理不管是从录入的及时性,查看的及时性还是汇总分析的及时性,都能让正确率达到最高,管理更加的科学和便捷。目前的信息时代,对信息的管理趋于高效化,便捷化,这也是计算机大力普及所带来的便利,此程序软件在设备选用上,依靠的是比较大众的电脑设备,对电脑的配置没有过多要求,一般学校的计算机机房的电脑都可以满足程序开发需求,另外,开发出此款程序,让信息处理变得高效率,其所带来的高效益是远超程序开发的低成本的,因此程序开发的资金投入是可以忽略不计的。

ITbiyesheji的博客 1218

Linux中uniq去重以及对两个文件取交集,并集,差集

Linux中uniq去重以及对两个文件取交集,并集,差集

Lian_Ge_Blog的博客 3268

Vectorless dynamic动态功耗分析——Voltus

power 计算工具会根据设计信息和用户提供的activity和switching约束来生成虚拟的worst-case的power vector,难点在于哪些instances视为switching,在没有仿真的前提下如何确定开关的时间,使用timing文件(TWF)

qq_44347276的博客 2790

linux求两个列的交集并集差集

我们经常需要快速的知道两个列。一般这两个列是。我们想看看他们的逻辑情况(交集并集差集)

qq_34786604的博客 957

CentOS7 编译升级GCC至9.3.0

1)下载GCC9.2.0源码并解压 从GCC官方FTP下载地址可以看到GCC最新版本为9.3.0。由于官网下载速度慢,实际上用清华大学的镜像站进行下载,代码如下: wget -c /opt/tmp/ https://mirrors.tuna.tsinghua.edu.cn/gnu/gcc/gcc-9.3.0/gcc-9.3.0.tar.gz #考虑到安装失败的可能性,创建一个临时文件夹来安装GCC...

haha123486的博客 1万+

自定义载板RK3588HDMI输入配置完整解决方案

✅ HDMI输入信号检测✅ 自动时序识别(支持1080p@60Hz等标准格式)✅ V4L2视频设备接口✅ 实时视频流捕获✅ H.264编码录制✅ HDCP内容保护支持问题根因识别:发现了hdmim1模块资源冲突的本质问题硬件设计理解:明确了Orange Pi 5 Plus的真实硬件设计意图功能实现:成功启用HDMI输入功能,替代了无法使用的HDMI1输出完整验证:建立了从硬件检测到视频录制的完整测试流程。

梁俊星的博客 1271

Linux文件比较操作—文本文件的交集、差集与求差

最近公司业务调整,需要对属于百度某公司的域名进行剥离分开,属于本公司的域名更改掉。 域名非常之多之杂乱。各自分别整理手上的域名, 后面再整理无家可归的域名。 这就需要对文件进行操作,也就是把文件当作集合,求集合的交集差集等等集合论相关的数学理论。 下面介绍两个命令: 1. comm命令 comm命令可以用于两个文件之间的比较,它有一些选项可以用来调整输出,以便执行交集、求差、以及差集操作。...

weixin_30657541的博客 219

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

ZeroTermux 内置 Linux 命令手册详解:comm 命令两文件比较与交集、求差、差集实战

`comm` 是 Linux 中用于逐行比较两个**已排序**文件、并按三列格式输出差异结果的经典文本处理命令。本篇文章以 ZeroTermux 内置命令手册([comm.md](https://link.gitcode.com/i/bfde895e185c1210e4c0ebd4406060c7))为蓝本,结合项目源码讲解 `comm` 的语法、`-1/-2/-3` 三个核心选项的含义,并通过完

gitblog_00036的博客 380

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

利用shell求取两个文件的交集、差集、并集等

一、交集 sort a.txt b.txt | uniq -d 二、并集 sort a.txt b.txt | uniq 三、差集 a.txt-b.txt: sort a.txt b.txt b.txt | uniq -u b.txt - a.txt: sort b.txt a.txt a.txt | uniq -u 四、相关的解释 使用sort可以将文件进行排序(sort排序是为了管道交给uni...

sonia_liss的博客 7118

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

linux两个文件取交集、并集、差集

如何得到两个文件的交集、并集和差集? 交集:两个文件中都出现的行 并集:两个文件中的所有行加起来,去掉重复 差集:在一个文件中存在,而在另一个文件中不存在。 比如以下两个文件: a.txt aaa bbb ccc 111 222 b.txt ccc ddd eee 111 333 结果: a.txt和b.txt的交集: ccc 111 a.txt和b.txt的并集: 111 222 333 aaa bbb ccc ddd eee a.txt中存在b.txt中不存在: 222 aaa bbb b.txt中存在

Kenina_Xie的博客 2741

grep 两个字符串_linux两个文件求交集、并集、差集

戳蓝字“生物信息学”关注我们哦!问题:如何得到两个文件的交集、并集和差集?交集:两个文件中都出现的行并集:两个文件中的所有行加起来,去掉重复差集:在一个文件中存在,而在另一个文件中不存在。比如以下两个文件:a.txtaaabbbccc111222b.txtcccdddeee111333结果:a.txt和b.txt的交集:ccc111a.txt和b.txt的并集:111222333aaab...

weixin_39795065的博客 2963

python取得两个文件的交集、并集和差集。

1.两个txt文件都是一列数据,现在求这两个txt文件的交集、并集和差集。 s1 = set(open('/data/test/id.list', 'r').readlines()) s2 = set(open('/data/test/s.list', 'r').readlines()) ff = open('/data/test/shuchu.list','w') all_union =...

weixin_41869644的博客 3063

linux 处理两个文件的并集,交集,计数

1. 取出两个文件的并集(重复的行只保留一份)     cat file1 file2 | sort | uniq     2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)     cat file1 file2 | sort | uniq -d     3. 删除交集,留下其他的行     cat file1 file2 | sort | uniq -u

汪翰翔的Blog 1万+

shell 知:并集、交集、差集

shell 中求交集、差集、并集主要用到两个命令:sort、uniq

canpool 3217

求两个Linux文本文件的交集、差集、并集

1.交集 sort a.txt b.txt | uniq -d 2.并集 sort a.txt b.txt | uniq 3.差集 a.txt-b.txt: sort a.txt b.txt b.txt | uniq -u b.txt - a.txt: sort b.txt a.txt a.txt | uniq -u 4.相关解释 `` 使用sort可以将文件进行排序(sort排序是为了管道交给u...

刘明的博客 585

两个文件行合并linux,linux 两个文件合并

可以使用cat命令,有两种实现的方式,一种将两个文件合并的到一个新的文件,另一种将一个文件追加到另一个文件的末尾。方法一:使用cat命令从文件中读入两个文件,然后将重定向到一个新的文件。这种方法可以一次性合并任意多个文件。用法示例:将file1.txt和file2.txt合并到file.txt$ cat file1.txt file2.txt > file.txt方法二:只使用cat命令读入...

weixin_31688167的博客 5044

Linux shell 计算两个文件的并集、交集、差集

假设我们现在有两个文件 a.txt 、b.txt a.txt 中的内容如下: a c 1 3 d 4 b.txt 中的内容如下: a b e 2 1 5 # Example 01 计算并集: [root@VM_81_181_centos ~]# sort -u a.txt b.txt 1 2 3 4 5 a b c d e [root@VM_81_181_centos ~]# #...

Leeyongbard的博客 190
上一篇: github仓库提交报告
下一篇: 使用Go编译为可执行文件(windows/linux)
dkgee
博客等级 码龄14年 43粉丝 66原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值