来源: 最后更新:2023-07-12 00:12:19
文本处理时,经常要删除重复行,方法如下:
方法一:
用sort+uniq,注意,单纯uniq是不行的。
1 | sort -n test.txt | uniq |
方法二:
用sort+awk命令,注意,单纯awk同样不行,原因同上。
sort -n $file | awk '{if($0!=line)print; line=$0}'
方法三:
用sort+sed命令,同样需要sort命令先排序。
sort -n $file | sed '$!N; /^.∗$/!P; D'
Shell脚本
1 2 3 4 5 6 |
# !/bin/sh file='test.txt' |
测试文件:
yanggang@barry$ cat test.txt
aaa
bbbbb
ccccc
123
aaaaa
123
bbb
aaa
执行结果:
yanggang@barry$ ./diffRow.sh
aaa
aaaaa
bbb
bbbbb
ccccc
123
方法四:
复制代码代码如下:
@echo off
:: 删除重复的行,但不能保留空行
:: 对不符合变量命名规则、变量个数超过限制的文本都无法正确处理
::
(echo 清除重复行后的文件内容:& echo.)>str_.txt
for /f "delims=" %%i in (test.txt) do (
if not defined %%i set %%i=A & echo %%i>>str_.txt)
start str_.txt
腾讯为什么告老干妈(腾讯跟老干妈什么情况)
突然确诊癌症中晚期,已转移!宁波男子无法接受:怎么可能!医生:发现一个,全家高危!
疑似皇马前主席之孙公然辱华,皇马却称“将致力于消除足球界种族歧视”?
韩军称朝鲜军人无意中越界 韩军称朝鲜军人无意中越界了吗
中纪委再打两“虎”!还有一“虎”被免职,一“虎”获刑十五年!
吉林市将举办世界锅包肉大赛,此前召开座谈会论证锅包肉起源
哪些爱爱姿势更容易怀孕 选择这些爱爱姿势帮助生儿生女
男性精子存活时间有多久 精子存活率低怎么办
医生算错怀孕周数怎么办 孕龄胎龄预产期原来是这样算的
备孕未准妈妈请注意 这里有份孕前自检表请签收
疑似皇马前主席之孙公然辱华,皇马却称“将致力于消除足球界种族歧视”?
中纪委再打两“虎”!还有一“虎”被免职,一“虎”获刑十五年!中纪委再打两“虎”!还有一“虎”被免职,一“虎”获刑十五年!,常委,
停经几天能测出怀孕 诊断怀孕的常用方法有哪些 “疯狂”的栀子花:最高每斤卖35元!犍为栀子花价飙涨数倍,迎上中式新茶饮风口 澳媒揭露西方媒体歪曲报道中国真相:“它们不会告诉不想让我们听到的消息” monster monster眼镜