1、查找文件内的关键字 1 cat test | grep "key" //非全词匹配
2 grep "key" test //非全词匹配
3 grep -w "key" test //全词匹配
4 grep -i "key" test //忽略大小写 2、
uniq：去重选项：-c：去重后，统计出现的次数，去重的时候必须得先排序，因为uniq只能去重挨着的查看日志前10访问量的ipawk'{print$1}'access.log|sort|uniq-c|sort-k1-nr|head-10#默认是10行
原创
2020-10-27 17:51:57
4053阅读
uniq只可以将相邻行重复数据进行去重处理：[root@localhost /data/mysql/mysql3306]#last | cut -d ' ' -f 1 | tail -15 > test#将用户登录信息last的输出以空格分隔，截取首列（注意一行的文字内容之间可能有多个空格，所以用cut -k 1,5这样的参数得不到想要的（显示第一和第五列）结果），因为内容过多，仅取用末15
原创
2017-07-27 13:32:58
1475阅读
注意：需要先排序sort才能使用去重。 Linux uniq命令用于检查及删除文本文件中重复出现的行列。 uniq可检查文本文件中重复出现的行列。 语法 参数： 实例 文件testfile中第2 行、第5 行、第9 行为相同的行，使用uniq命令删除重复的行，可使用以下命令： testfile中的原
转载
2017-07-16 05:05:00
864阅读
2评论
uniq只可以将相邻行重复数据进行去重处理：[root@localhost /data/mysql/mysql3306]#last
转载
2017-07-27 13:33:00
75阅读
2评论
去除重复行 sort file |uniq 查找非重复行 sort file |uniq -u 查找重复行 sort file |uniq -d 统计 sort file | uniq -c 转自 http://www.study365.org/blog/3.html
转载
2018-09-14 15:56:00
69阅读
2评论
测试文档test sort把相同的放在一起 uniq -c统计出现的次数 sort -nr排序 默认按第一列排序 应用 ，使用此方法可以统计nginx访问的ip排名类似命令为
原创
2021-09-10 11:37:10
549阅读
文章目录前言准备创建表测试数据目标探索distinct 去重group by 去重实现方案方案一方案二方案三 前言 我们做数据分析的时候经常会遇到去重问题，下面总结 sql 去重的几种方式，后续如果还有再补充，大数据分析层面包括 hive、clickhouse 也可参考。准备 本文以 mysql 作为作为
转载
2023-08-18 13:40:26
58阅读
1.distinct一般用于获取不重复字段的条数使用原则：1）distinct必须放在要查询字段的开头，不能放在查询字段的中间或者后面 select distinct name from user; 获取不重名的name 记录 select id, distinct name from user; 这种写法是错误的，distinct只能写在所有查询字段的前面2）distinct 对后面所有的字
转载
2023-05-21 14:00:10
193阅读
一、distinctdistinct的作用在mysql中，distinct关键字的主要作用就是对数据库表中一个或者多个字段重复的数据进行过滤，只返回其中的一条数据给用户，distinct只可以在select中使用distinct的原理distinct进行去重的主要原理是通过先对要进行去重的数据进行分组操作，然后从分组后的每组数据中去一条返回给客户端，在这个分组的过程可能会出现两种不同的情况：dis
转载
2023-08-04 13:52:41
177阅读
wc 命令一般是作为组合命令的一员与其他命令一同起到统计的作用。而一般情况下使用wc -l 命令较多。
uniq 可检查文本文件中重复出现的行，一般与 sort 命令结合使用。一起组合搭配使用完成统计、排序、去重。
1 wc 常用组合命令
ls | wc -l # 统计当前文件夹下，文件数量；
ls *.txt | wc -l # 统计当前文件夹下、第一层目录下所有的txt文件数量；
find
原创
2022-08-02 11:30:28
140阅读
mysql 去重语句 mysql数据去重
转载
2019-11-30 20:47:56
379阅读
在使用SQL提数的时候，常会遇到表内有重复值的时候，比如我们想得到 uv （独立访客），就需要做去重。在 MySQL 中通常是使用 distinct 或 group by子句，但在支持窗口函数的 sql（如Hive SQL、Oracle等等） 中还可以使用 row_number 窗口函数进行去重。举个栗子，现有这样一张表 task： 备注：task_id: 任务id;order_id: 订单id
于我而言，这篇文章提供帮助最大的语句是DELETE c1 FROM contacts c1
INNER JOIN contacts c2
WHERE
c1.id > c2.id AND
c1.email = c2.email;其中contacts是表名，c1和c2是contacts表的别名， id字段就是序号，email是想要删除重复数据所在的字段， 通过以上语句就可以自
转载
2023-06-16 02:36:53
737阅读
素材（统计IP出现次数）[ck289433@shell.ceshiren.com test]$ cat uniq_demo.txt
ck141906 pts/0 120.52.147.49
ck140081 pts/13 113.65.231.23
ck140081 pts/12 113.65.231.23
ck140081 pts/4 221.219.101.182
82894931 pts/
目录去重操作聚合函数concat 拼接函数小数运算函数日期函数日期函数的典型例子topn判断if语句判断条件判断 case 去重操作格式 select distinct 字段名 from 表名; 当字段名只有一个时，按照这个字段名去重，如果字段名有多个时，按照全部的字段名去重先来看一下表格的全部内容 select * from stu; 按照sex属性进行去重 select DISTINCT s
转载
2023-08-26 22:27:19
465阅读
最近面试有家公司问了个mysql的数据去重，自己对于mysql一般多用于增删改查，所以私下来尝试了mysql数据的去重总结DISTINCT在使用MySQL时，有时需要查询出某个字段不重复的记录，这时可以使用mysql提供的distinct这个关键字来过滤重复的记录，但是实际中我们往往用distinct来返回不重复字段的条数（count(distinct id)）,其原因是distinct只能返回他
转载
2023-06-17 22:03:17
514阅读
0.前言消除重复数据分为几种不同的情况，请参考食用1.使用DISTINCT 关键字。适用场景：返回的数据有重复的行时，会直接消除掉所有重复的行数据。例如: 下面这个表，如果我们执行下面的操作SELECT DISTINCT message_id FROM message_receive返回结果如下：可以看出，返回的数据没有任何一个重复的行。我们继续操作，执行下面的语句SELECT DISTINCT
转载
2022-02-01 11:06:00
655阅读
1.如果内容能被转化为数字类型，尽量使用数字类型而不是字符类型如果要保存IPv4地址， 反例 `ip_address` VARCHAR(15) NOT NULL 正例。 `ip_address` INT UNSIGNED NOT NULL 原因 - 因为IPv4地址可以转化成一个int类型的十进制整数。转化方法：ip中的每一段转化为两位的十六进制整数。例如，192.160.98.1
在数据统计领域，去重/计数算法是一项经常使用的技术[1]，例如 UV/PV 统计，日GMV统计都需要用到这项技术。 本章我们准备从业务演进的角度，来分析各类去重技术在实际生产场景的应用。这里我们以知乎网站为例，看看它发展历程中"可能"使用了哪些去重和计数算法，该过程中很多技术方案有更好的实践，但是为了更好的给大家讲解，只能假设B乎的技术较为拙劣了。 Redis/DB计数 2007年
转载
2023-08-20 20:36:45
189阅读
